К 13 августа войска Конева подошли к Харькову, а 22 августа последовал ночной штурм города. К 12 часам следующего дня город был освобожден. 28 августа 1943 г. И. С. Коневу было присвоено звание генерала армии и орден Суворова I степени. Как пишет в своей книге Наталия Конева: «Фельдмаршал Манштейн, чьи войска противостояли отцу под Харьковом, оставил воспоминания, где, в частности, отметил, что «командование Степного фронта противника было, вероятно, наиболее энергично».
Доведенное до совершенства полководческое искусство по окружению и ликвидации в короткие сроки вражеской группировки Конев проявил в Корсунь-Шевченковской операции, которая явилась в этом смысле почти классической. В этой операции он во многом переиграл фельдмаршала Э. Манштейна, который не ожидал, что весной 1944 г. может начаться крупное наступление. Конев нанес неожиданный мощный удар по силам противника. В результате в районе Звенигородки в окружение попало около 80 тыс. человек. Когда Манштейн предпринял попытку прорыва, Конев предотвратил ее, перебросив в угрожаемый район 5-ю гвардейскую танковую армию.
20 февраля 1944 г. генералу армии И. С. Коневу было присвоено звание Маршала Советского Союза. Кроме того, 23 советским частям и соединениям присвоены почетные наименования «Корсуньские», 6 соединениям — «Звенигородские». 73 военнослужащих удостоились звания Героя Советского Союза, из них 9 посмертно.
25 марта 1944 г. войска маршала Конева вышли к государственной границе СССР на реке Прут, форсировали ее с ходу и достигли Карпат.
К. В. Крайнюков, член Военного совета 1-го Украинского фронта: «И. С. Конев оказался несколько старше Ватутина. У него было открытое, простое русское лицо, дышавшее спокойствием, и лишь резкие волевые складки у рта да властные нотки в голосе свидетельствовали о твердом характере, умении повелевать. Вряд ли можно назвать другого полководца, который бы так успешно действовал как в оборонительных, так и наступательных операциях прошедшей войны. Благодаря своей широкой военной образованности, огромной личной культуре, умелому общению со своими подчиненными, к которым он всегда относился с уважением, никогда не подчеркивая своего служебного положения, волевым качествам и выдающимся организаторским способностям он снискал себе непререкаемый авторитет, уважение и любовь всех тех, с кем ему довелось воевать. Обладая даром предвидения, он почти всегда безошибочно разгадывал намерения противника, упреждал их и, как правило, выходил победителем».
13 июля 1944 г. началась Львовско-Сандомирская операция, которая завершилась блестящей победой и вошла в учебники истории военного искусства. «Во Львовско-Сандомирской операции, — писал позднее Герой Советского Союза генерал армии Петр Лащенко, — по решению Ивана Степановича были последовательно введены в сражение по узкому шестикилометровому коридору, пробитому стрелковыми соединениями, две танковые армии в условиях, когда гитлеровцы проводили контрудар с целью закрыть брешь в своей обороне. Мне, как участнику того сражения, особенно ясна степень риска маршала. Ясно и другое: риск этот был обоснованный, подкрепленный всесторонним обеспечением ввода танковых армий, последующие действия которых и предопределили разгром фашистской группировки».