Также на второй день боев изменилась обстановка в воздухе. В ходе Второй мировой войны авиация была, пожалуй, самым маневренным средством борьбы. Самолеты можно было перебросить для парирования неожиданно возникшего кризиса гораздо быстрее танковых, а тем более пехотных дивизий. Поэтому уже на второй день советского наступления активность немецкой авиации в воздухе над Белгородом резко возросла. Немецкий VIII авиакорпус выполнил за день более 1100 самолето-вылетов. При этом подавляющее большинство этих вылетов было выполнено ударными самолетами, т. е. одномоторными и двухмоторными бомбардировщиками, а также штурмовиками. Это сразу же почувствовали наступающие советские части. В отчете о боевых действиях 3-го механизированного корпуса по операции «Румянцев» было сказано: «Во второй день боя противник подтянул бомбардировочную авиацию, которая массированными налетами почти что беспрерывно воздействовала по колоннам, идущим за наступающими частями, расстраивая их боевые порядки и нанося большой урон в живой силе и технике».
Однако, несмотря на все возникшие сложности, 1-я танковая армия Катукова прошла за день 20 км. Ей в какой-то мере повезло. 3-й механизированный корпус сумел вклиниться между двумя немецкими резервными соединениями. 19-я танковая дивизия была подтянута к Томаровке, 6-я танковая дивизия — в район к востоку от Белгорода. Между этими двумя соединениями противника остался коридор, через который танки армии Катукова устремились на юг и юго-запад.
В куда худших условиях находилась 5-я гв. танковая армия. Преодолев позиции пехотных частей немцев, ее танковые корпуса столкнулись с 6-й танковой дивизией. Последняя заняла оборону на заранее оборудованных позициях в районе Орловки и Бессоновки.
Командующий 5-й гв. танковой армией Ротмистров вспоминал: «Множество высот, глубоких балок и речек, в том числе труднопроходимая речка Гостенка, сами по себе представляли серьезные препятствия для наших танков. Все подступы к ним противник успел заминировать, а на высотах окопать танки и противотанковую артиллерию с круговым обстрелом. 18-й танковый корпус генерала А. В. Егорова уперся в оборону противника и, не имея условий для маневра, вынужден был временно приостановить наступление».
Горючее и боеприпасы в двух передовых танковых корпусах 5-й гв. танковой армии после напряженного первого дня операции были на исходе. Однако во втором эшелоне армии был свежий механизированный корпус, который словно сам просился для развития успеха. Его было решено использовать для быстрого броска вперед на то время, пока заправлялись и восстанавливали силы 18-й и 29-й танковые корпуса. С утра 4 августа 5-й гв. мехкорпус выдвинулся вперед и начал наступление на юг, по назначенному армии маршруту. В этот момент, в полдень 4 августа, Ротмистров получил приказ Ватутина частью сил нанести удар в направлении на Белгород с юго-запада. Фактически это означало поворот на 90 градусов, вместо наступления на юг нужно было наступать на восток и даже на северо-восток, помогая соседнему фронту. Мехкорпус, еще не успевший сказать свое веское слово в бою на главном направлении, был выведен из боя и развернут на направление вспомогательное. В довершение всех бед, именно против армии Ротмистрова в районе Орловки был введен в бой 503-й батальон тяжелых танков «Тигр». Он насчитывал боеготовыми всего 6 машин, но в обороне «Тигры» были сильным противником для Т-34–76. Все вышеописанное не замедлило сказаться на темпах продвижения вперед — 4 августа танковая армия Ротмистрова прошла за день всего 10 км.
Поворот свежего корпуса из 5-й гвардейской танковой армии на Белгород был одним из самых спорных решений Ватутина в операции «Румянцев». Конечно, этот город был «крепким орешком», в ходе штурма которого армии Степного фронта могли понести большие потери и утратить свой наступательный потенциал. Немцы превратили Белгород в мощный узел сопротивления, на его территории было возведено немало оборонительных сооружений. Вокруг города, запирая ближние подступы к нему, шел кольцевой, оборонительный обвод, созданный немцами еще зимой 1941/42 г. К началу советского наступления он был значительно усилен. Кроме того, непосредственно по окраинам города проходила густая сеть дзотов, а все каменные постройки были превращены в сильные опорные пункты. Внутренние кварталы города также были подготовлены для ведения упорных уличных боев. На перекрестках улиц были построены баррикады и дзоты, значительная часть улиц и зданий в городе были заминированы. Северная и восточная части города прикрывались сильными полосами минных полей. Достаточно сказать, что в период боев советские саперы сняли в районе Белгорода более 16 тыс. неприятельских мин.