Согласно утвержденному плану главный «расчленяющий» удар «по голове» было решено нанести смежными флангами Воронежского и Степного фронтов — 6-я и 5-я гвардейские, 1-я танковая, 5-я гвардейская танковая, 53-я общевойсковая армии — из района Яковлево — Гостищево в общем направлении на Золочев, Богодухов — в обход Харькова с запада. Остальные армии должны были «сматывать» немецкую оборону в западном и южном направлениях соответственно. Так, 40-я и 27-я армии Воронежского фронта нацеливались на Ахтырку и Боромлю с задачей обеспечить главные силы с запада и не допустить к Харькову немецкие резервы. Перед частями 69-й и 7-й гвардейской армий на первом этапе стояла задача окружения и ликвидации немецкой группировки в районе Белгорода. 57-я армия Юго-Западного фронта наступала юго-восточнее Харькова, отрезая противнику пути отхода на юг.
К началу наступления в составе Воронежского (4, 5, 6-я гвардейские, 27, 38, 40, 47-я общевойсковые, 5-я гвардейская и 1-я танковые, 2-я воздушная армии) и Степного (7-я гвардейская, 53, 69-я общевойсковые, 5-я воздушная армии) фронтов насчитывалось 50 стрелковых дивизий, 11 танковых и механизированных корпусов, 5 отдельных танковых бригад — 1,14 миллиона человек, свыше 13 тысяч орудий и минометов, почти 900 установок реактивной артиллерии, 2400 танков и самоходок, 1311 самолетов.
Окончательный вариант плана был утвержден 22 июля 1943 года. На подготовку операции отводилось десять дней. Преследуя войска группы армий «Юг», войска Воронежского фронта окончательно выдохлись, и Жукову с Василевским стоило большого труда убедить Сталина не слишком спешить и начать операцию «Румянцев» только тогда, когда она будет всесторонне подготовлена и материально обеспечена.
Фронты приводили себя в порядок, получали технику и маршевые пополнения, накапливали запасы.
В состав Воронежского фронта с Брянского были перегруппированы 13, 16-я и 17-я артиллерийские дивизии прорыва и 3-я гвардейская минометная дивизия. На правом крыле, с целью ввести противника в заблуждение, штаб 38-й армии с 26 июля имитировал сосредоточение крупной группировки советских войск: здесь курсировали порожние поезда, было изготовлено около тысячи макетов танков (восемь «тридцатьчетверок» шумели по ночам и «следили» на дорогах) и артиллерийских орудий, развернуты ложная радиосеть, командные пункты и аэродром, проводились рекогносцировки и готовились квартиры для крупных штабов.
Позади 40-й армии заканчивала сосредоточение 27-я армия (147, 241, 163, 166, 155, 71-я стрелковые, 17-я артиллерийская, 23-я зенитная дивизии, 4-й гвардейский и 10-й танковые корпуса) генерал-лейтенанта С.Г. Трофименко, ранее «охранявшая» Курск.
В полосе главного удара плотность артиллерийского насыщения была доведена до 230 стволов на километр фронта. Советские войска здесь превосходили противника в живой силе в 10 (Воронежский фронт) — 18 (Степной фронт) раз, в артиллерии — в 6–10 раз, по танкам — в 7 раз.
1 августа командующие поставили конкретные задачи армиям.
Советским войскам противостояли знакомые противники — 2-я полевая, 4-я танковая армии и оперативная группа «Кемпф», насчитывавшая 18 дивизий, в том числе 4 танковые — до 300 тысяч человек, около 3000 орудий и минометов, до 600 исправных танков и штурмовых орудий. Вражеская группировка, оборонявшаяся на этом направлении, действительно была ослаблена, так как командование Вермахта было вынуждено изъять из ее состава наиболее боеспособные подвижные соединения. «Штопать дыры» на других участках фронта убыли три дивизии 2-го танкового корпуса СС, мотодивизия «Великая Германия» вместе с 51-м «пантерным» батальоном, 3-я танковая дивизия.
Перед Воронежским фронтом оборонялись 75, 68, 323, 57, 255, 332-я пехотные дивизии. В оперативном резерве находились 7, 11, 19-я танковые дивизии.
Перед Степным фронтом окопались 167, 168, 198, 106, 320, 282, 39, 161-я пехотные дивизии. В районе Редиловки располагалась 6-я танковая дивизия. Половина из них в составе 11-го армейского корпуса (корпус «Раус») принимала участие в операции «Цитадель» и понесла в июле большие потери. Численность личного состава сократилась до 40–50% от штатной.
Немецкие войска опирались на хорошо развитую, эшелонированную, заблаговременно подготовленную оборону, со всеми положенными «по штату» инженерными сооружениями и препятствиями. Ее тактическая зона, состоявшая из двух полос, достигала глубины 15–18 километров. В оперативной зоне были подготовлены промежуточные оборонительные рубежи, а населенные пункты превращены в мощные узлы сопротивления с круговой обороной. Особенно сильно были укреплены Харьков, Белгород, Сумы, Ахтырка, Лебедин, Богодухов, Чугуев. На подступах к Харькову было оборудовано пять последовательно оборудованных полос. Помимо этого, город опоясывали два кольцевых обвода, а сам он был подготовлен к ведению уличных боев. Bceгo на белгородско-харьковском направлении имелось семь оборонительных рубежей, достигавших глубины до 90 километров, ряд отсечных позиций и многочисленные водные преграды.