Заслуги командующего гвардейской армией были высоко оценены Ставкой Верховного главнокомандования – в феврале 1943 года генерала Малиновского назначили командующим Южным, а с марта того же года – Юго-Западным (переименованным в октябре 1943 года в 3-й Украинский) фронтами. Войска Малиновского оказались в центре боев за освобождение Донбасса, Левобережной и Правобережной Украины, противостоя немецкой группе армий «А».
Одной из самых крупных операций, подготовленной и проведенной полководцем Р.Я. Малиновским в годы Великой Отечественной войны, стала Запорожская. Войска фронта внезапным ночным штурмом овладели городом Запорожьем – важным узлом обороны гитлеровцев. Эта победа во многом решила судьбу мелитопольской группировки немецко-фашистских войск и способствовала изоляции частей неприятеля на Крымском полуострове, которые были отрезаны от своих главных сил.
Затем развернулись бои за дальнейшее освобождение Правобережной Украины, где 3-му Украинскому фронту пришлось действовать в тесном взаимодействии с войсками 2-го Украинского фронта. Своими наступательными усилиями эти фронты расширили плацдарм в районе днепровской излучины. После этого войска Малиновского совместно с частями 4-го Украинского фронта успешно провели Никопольско-Криворожскую операцию.
Весной 1944 года фронт Малиновского успешно провел наступление в Северном Причерноморье, Березнеговато-Снигиревскую и Одесскую операции. Советские войска форсировали реку Южный Буг и освободили крупные портовые города Николаев и Одессу, родину командующего фронтом.
Войска 3-го Украинского фронта особенно отличились при освобождении Одессы, при этом тесно взаимодействуя с Черноморским флотом. Овладев железнодорожной станцией Раздельная, командующий фронтом тем самым рассек оборонявшуюся в районе Одессы вражескую группировку на две части. Вечером 9 апреля советские войска ворвались в северные кварталы города и ночным штурмом к 10 часам утра следующего дня освободили Одессу.
В мае 1944 года Малиновского назначили командующим 2-м Украинским фронтом. Летом этого же года его войска совместно с 3-м Украинским фронтом скрытно от вражеского командования подготовили и успешно провели Ясско-Кишиневскую операцию. Ее целью были разгром вражеских войск группы армий «Южная Украина», освобождение Молдавии и вывод из войны Румынии, союзницы гитлеровской Германии. Эта операция признана одной из самых блестящих в ходе Великой Отечественной войны и в полководческой биографии Р.Я. Малиновского – за нее он получил в том же 1944 году звание Маршала Советского Союза.
Войска двух фронтов перешли в наступление 20 августа, в двухдневных кровопролитных боях взломав вражескую оборону. 22 августа советские армии замкнули кольцо окружения вокруг крупной группировки немецко-фашистских войск. После этого они продвинулись в направлении Плоешти, Бухареста и Констанцы. Ясско-Кишиневская операция была успешно завершена к 29 августа.
Всего за десять дней советские войска разгромили 22 немецкие и большинство румынских дивизий. В плен были взяты более 200 тысяч человек. При этом неприятель потерял 3,5 тысячи орудий и минометов, более 800 танков и штурмовых орудий, 300 самолетов. Потери советских войск составили 67 130 человек. За время Великой Отечественной войны это были минимальные потери советских войск в наступательной операции такого масштаба.
В ходе Ясско-Кишиневской операции советские войска добились не только больших военных, но и политических результатов. Были разгромлены основные силы немецко-фашистской группы армий «Южная Украина», освобождена Молдавия, армии фронта вышли на румыно-венгерскую и болгаро-югославскую границы. Румыния, воевавшая с начала Второй мировой войны на стороне фашистской Германии, вступила в антигитлеровскую коалицию. Таким образом, обстановка на южном крыле советско-германского фронта резко изменилась не в пользу гитлеровского командования.
После этого стратегического успеха войска 2-го Украинского фронта в начале января 1945 года завязали бои на территории хортистской Венгрии – сателлита гитлеровской Германии в годы Второй мировой войны. В ходе Дебреценской операции было нанесено серьезное поражение немецко-фашистской группе армий «Юг». В итоге неприятельские войска оставили обширные горные области Трансильвании и ушли на запад, поближе к государственной границе собственно Германии.
После этого армии Малиновского заняли более выгодное положение на театре военных действий и оказали большую помощь 4-му Украинскому фронту в преодолении Карпатских гор и освобождении Закарпатской Украины. Начались бои на Венгерской равнине и берегах Дуная, близ озера Балатон.
Войска 2-го и 3-го Украинских фронтов в октябре 1944 – феврале 1945 годов успешно провели Будапештскую операцию. Войска 2-го Украинского фронта вели бои на подступах к Будапешту, а войска Малиновского – непосредственно за сам город.