Последний коридор возможного выхода немцев из района Харькова закрыли танки 5-й гвардейской танковой армии в районе Коротича, перехватив шоссе Харьков — Люботин. На этом рубеже армия встала в глухую оборону. Тем временем войска 7-й гвардейской, 57-й и 69-й армий ворвались в Харьков. 23 августа 1943 года довоенная столица Украины была освобождена от немецкой оккупации.

После Белгородско-Харьковской наступательной операции 5-я гвардейская танковая армия под командованием генерала Ротмистрова участвовала в битве за Днепр, в Пятихатской и Знаменской операциях.

Двадцатого октября 1943 года П. А. Ротмистрову присвоено звание генерал-полковника танковых войск.

В начале 1944 года армия участвовала в Кировоградской наступательной операции. И звёздным часом Ротмистрова стала Корсунь-Шевченковская операция, в ходе которой танкисты замыкали кольцо окружения в районе Звенигородки. Это был поистине блестящий манёвр корпусов, широкий, размашистый, молниеносный. 17 февраля 1944 года окружённая группировка противника была ликвидирована. Через несколько дней— 21 февраля — Ротмистрову присвоено звание маршала бронетанковых войск. (Для сравнения: когда Ротмистров получил звание маршала бронетанковых войск, Катуков ходил всего лишь в генерал-полковниках, хотя армия его действовала превосходно.)

В марте 1944 года гвардейцы Ротмистрова участвовали в Уманско-Ботошанской операции. Летом того же 1944 года армия дралась в Белоруссии. И тут началась полоса неудач и в действиях 5-й гвардейской танковой армии, и в личной карьере маршала. Из директивы Ставки ВГК № 220124 командующему войсками 3-го Белорусского фронта, представителю Ставки на развитие операции и овладение Минском 28 июня 1944 года: «Ставка Верховного Главнокомандования приказывает:

1. Войскам 3-го Белорусского фронта с ходу форсировать р. Березина и, обходя опорные пункты противника, развивать стремительное наступление на Минск и правым крылом занять Молодечно.

2. Ставка недовольна медленными и нерешительными действиями 5 гв. ТА и относит это к плохому руководству ею со стороны тов. Ротмистрова. Ставка требует от 5 гв. ТА стремительных и решительных действий, отвечающих сложившейся на фронте обстановке…»

При чтении этого документа невольно вспоминается другой, 41-го года, подписанный Ватутиным под Калинином…

Не складывались у Ротмистрова отношения с комфронта генералом И. Д. Черняховским. Нечёткое выполнение задач, медлительность там, где необходим стремительный манёвр, и, самое главное, огромные потери.

Иван Данилович Черняховский сам был танкистом и хорошо разбирался в танковом деле. Во время Вильнюсской наступательной операции 5-я гвардейская танковая армия понесла неоправданно большие потери в танках и экипажах. Черняховский отстранил Ротмистрова от командования армией, назначив на его место генерала В. Т. Вольского. Ротмистрова он отправил в Москву, не желая даже задерживать в штабе фронта и не видя в его лице никакой перспективы дальнейшего использования.