Уже через несколько часов корпуса Катукова и Ротмистрова, проломив вторую полосу обороны противника, вышли к железной дороге Томаровка — Белгород и разъяли Белгородский и Томаровский узлы сопротивления. Однако на рубеже речки Гостёнки немцы остановили 29-й и 18-й танковые корпуса. Стали расти потери. Авиационная и артиллерийская поддержка не помогали. И тогда Ротмистров ввёл в бой второй эшелон — 5-й гвардейский Зимниковский механизированный корпус. Однако корпус, который уже начал движение вперёд, по приказу Ватутина, пришлось срочно поворачивать в район Белгорода, где наметился наибольший успех. А вперёд Ротмистров бросил отряд генерала Труфанова.
Тем временем успех наметился и в полосе наступления танковой армии генерала Катукова и 6-й гвардейской армии генерала Чистякова. Соседи вышли к шоссейной и железной дорогам Харьков — Сумы и перехватили их в районе Богодухова.
А корпуса Ротмистрова перебрасывали на участок действий 32-го гвардейского стрелкового корпуса генерала А. И. Родимцева (5-я гвардейская армия) для нанесения удара на узком участке в обход Харьковской группировки противника с юга. За двое суток танки были переброшены в исходный район. Но немецкая разведка обнаружила манёвр танковой армии и нанесла упреждающий удар.
Вместо наступления пришлось обороняться. Перед танковыми корпусами Ротмистрова и стрелковым корпусом Родимцева оказались старые знакомые — танковые дивизии СС «Дас Рейх» и «Мёртвая голова». Так что информация об отведении в тыл и в район Орла II танкового корпуса СС оказалась коварной дезой.
«Поле боя в тот день, — вспоминал П. А. Ротмистров, — напоминало одну из картин сражения под Прохоровкой. Всюду горели вражеские и наши танки, громоздились разбитые противотанковые пушки, бронетранспортёры, автомашины и мотоциклы, полыхали в пламени пожара колхозные постройки и скирды соломы, кругом стлался сизо-чёрный дым».
В те дни танковую армию Ротмистрова передали в состав Степного фронта. Войска И. С. Конева должны были заблокировать немецкую группировку в Харькове и окрестностях и дожать её в полной изоляции. По замыслу командования именно танки Ротмистрова должны были стать основной ударной силой для манёвра в обход Харькова с запада с целью окончательно заклепать формируемый «котёл». Однако в оборонительных боях под Богодуховом 5-я гвардейская танковая армия понесла значительные потери и уже не представляла той силы, которая начинала своё участие в операции «Полководец Румянцев». С 11 по 20 августа её потери составили около 700 человек личного состава, 65 танков Т-34 и 22 Т-70, 27 орудий, 5 миномётов калибра 120-мм, 49 автомашин.
Последний коридор возможного выхода немцев из района Харькова закрыли танки 5-й гвардейской танковой армии в районе Коротича, перехватив шоссе Харьков — Люботин. На этом рубеже армия встала в глухую оборону. Тем временем войска 7-й гвардейской, 57-й и 69-й армий ворвались в Харьков. 23 августа 1943 года довоенная столица Украины была освобождена от немецкой оккупации.
После Белгородско-Харьковской наступательной операции 5-я гвардейская танковая армия под командованием генерала Ротмистрова участвовала в битве за Днепр, в Пятихатской и Знаменской операциях.
Двадцатого октября 1943 года П. А. Ротмистрову присвоено звание генерал-полковника танковых войск.
В начале 1944 года армия участвовала в Кировоградской наступательной операции. И звёздным часом Ротмистрова стала Корсунь-Шевченковская операция, в ходе которой танкисты замыкали кольцо окружения в районе Звенигородки. Это был поистине блестящий манёвр корпусов, широкий, размашистый, молниеносный. 17 февраля 1944 года окружённая группировка противника была ликвидирована. Через несколько дней— 21 февраля — Ротмистрову присвоено звание маршала бронетанковых войск. (Для сравнения: когда Ротмистров получил звание маршала бронетанковых войск, Катуков ходил всего лишь в генерал-полковниках, хотя армия его действовала превосходно.)
В марте 1944 года гвардейцы Ротмистрова участвовали в Уманско-Ботошанской операции. Летом того же 1944 года армия дралась в Белоруссии. И тут началась полоса неудач и в действиях 5-й гвардейской танковой армии, и в личной карьере маршала. Из директивы Ставки ВГК № 220124 командующему войсками 3-го Белорусского фронта, представителю Ставки на развитие операции и овладение Минском 28 июня 1944 года: «Ставка Верховного Главнокомандования приказывает:
1. Войскам 3-го Белорусского фронта с ходу форсировать р. Березина и, обходя опорные пункты противника, развивать стремительное наступление на Минск и правым крылом занять Молодечно.
2. Ставка недовольна медленными и нерешительными действиями 5 гв. ТА и относит это к плохому руководству ею со стороны тов. Ротмистрова. Ставка требует от 5 гв. ТА стремительных и решительных действий, отвечающих сложившейся на фронте обстановке…»
При чтении этого документа невольно вспоминается другой, 41-го года, подписанный Ватутиным под Калинином…