Императору тогда было 60 лет. Ему повезло с главным советником – Феодором Метохитом, который верно служил ему до конца его царствования. Однако продолжался упадок империи: Фракия была опустошена, Малая Азия практически потеряна. Налоги постоянно росли, однако доходы тратились не на перевооружение, а на откупные выплаты каталонцами и туркам. Неудивительно, что, когда молодой Андроник III поднял в Адрианополе восстание, многие в столице поспешили его поддержать.
Правой рукой молодого императора был Иоанн Кантакузин, один из ведущих представителей военной аристократии. Он был на пару лет старше Андроника, и они дружили с самого детства; этот человек доминировал на политической сцене Византии на протяжении большей части столетия. Среди сторонников Андроника III сравниться с ним мог лишь Сиргианн Палеолог – дальний родственник императорской семьи по матери, который оказался ненадежным союзником. Он и Иоанн оба купили наместничество во Фракии (продажа государственных должностей была далеко не самым мелким злоупотреблением, расцветшим при Палеологах), где немедленно принялись разжигать недовольство среди местного населения. На Пасху 1321 года к ним присоединился молодой император. Сиргианн двинулся на столицу, где старый Андроник вскоре пошел на уступки, и в июле 1322 года дед и внук согласились править вместе, а Андроника III вновь сделали единственным наследником престола.
Мир продлился пять полных лет, в течение которых османские турки захватили Прусу после семилетней осады и сделали ее своей столицей. Однако в 1327 году вновь разразилась гражданская война. На этот раз императоры сражались не в одиночку. Король Сербии Стефан У́рош III Дечанский объявил, что поддерживает Андроника II, а болгарский царь Михаил III Шишман, женившийся на сестре Андроника III Феодоре, с радостью заключил союз с новым шурином. Как и раньше, серьезных стычек было мало, однако молодого Андроника приветствовали везде, где он появлялся. В январе 1328 года он отправился вместе с Иоанном Кантакузином в Фессалоники, где ему оказали пышный прием как василевсу. Он спокойно стал готовиться к походу на столицу.
Вечером 23 мая 1328 года Андроник III и Иоанн Кантакузин в сопровождении 24 человек с осадными лестницами пробрались к бастиону напротив ворот святого Романа. Сообщники внутри города перекинули через стену веревки, к стене приставили лестницы, и уже через несколько минут люди молодого императора перебрались за стену и открыли своим товарищам ворота. Грабежей почти не было, никто не пострадал. Как только старый Андроник подписал акт об отречении, ему позволили сохранить титул императора и дворец во Влахернах. Тем временем несколько человек отправили освободить патриарха Исайю, которого в прошлом году заключили в Манганский монастырь. Рассказывают, что по дороге в патриарший дворец его сопровождали не священники, а музыканты, танцовщицы и комедианты, один из которых так его рассмешил, что патриарх едва не свалился с лошади.