Приступая к разработке плана наступательной операции, мы с генералом армии Малиновским отлично сознавали, что войска встретят серьезное сопротивление. Предельно сжатые сроки подготовки операции обязывали нас считаться с уже сложившейся к тому времени группировкой войск на фронте. К моему приезду у Малиновского был проект решения. Его-то после рассмотрения мы и положили в основу дальнейшего обсуждения. В результате многочасовой работы, в которой приняли участие член Военного совета генерал-лейтенант А. С. Желтов и руководящие работники штаба фронта, было принято окончательное решение нанести главный удар южнее города Изюм через Барвенково на Лозовую, Павлоград и Синельниково, используя в качестве исходного положения захваченные ранее плацдармы на западном берегу Северского Донца. К участию в операции привлекались армии: 6-я генерал-лейтенанта И. Т. Шлемина, 12-я генерал-майора А. И. Данилова, 8-я гвардейская генерал-лейтенанта В. И. Чуйкова, 23-й танковый, 1-й гвардейский механизированный и 1-й гвардейский кавалерийский корпуса, а также вся фронтовая авиация 17-й воздушной армии, которой командовал генерал-лейтенант В. А. Судец. Совместно с концентрическим ударом главных сил Южного фронта эти армии должны были отрезать донбасской группировке врага путь отхода на запад, к нижнему Днепру. Правофланговую на этом фронте 46-ю армию генерал-майора В. В. Глаголева, занимавшую фронт южнее Харькова, мы намеревались вывести к началу операции в район Сватова, чтобы использовать ее в ходе операции под городом Сталино (Донецком) для завершения разгрома донбасской группировки противника. Но по требованию Ставки мы вынуждены были использовать ее вместе с войсками 1-й гвардейской армии генерал-полковника В. И. Кузнецова и во взаимодействии с войсками 57-й армии генерал-лейтенанта Н. А. Гагена (Степного фронта) для удара на Змиев, чтобы обеспечить фронту маневр по обходу Харькова с юга и юго-запада.
8 августа принятое нами решение с указанием конкретных задач армиям, танковому, механизированному и кавалерийскому корпусам было направлено на рассмотрение Ставки. Одновременно я доложил общие соображения и об операции Южного фронта, согласовав их предварительно с комфронта генерал-полковником Ф. И. Толбухиным. В ходе операции для наступления с востока на Сталино (Донецк) имелось в виду привлечь 5-ю ударную, 2-ю гвардейскую и 28-ю армии, 2-й и 4-й гвардейский мехкорпуса, 4-й гвардейский кавкорпус и всю авиацию Южного фронта. Прорыв обороны врага намечалось осуществить к северу от селения Куйбышево в полосе 10–12 км, обеспечив здесь плотность артогня не менее чем 120 стволов на километр. Удар намечалось нанести через Донецко-Амвросиевку и Старо-Бешево в обход города Сталино (Донецк) с юга, выходя навстречу Юго-Западному фронту. Учитывая слабый состав сил Южного фронта, я просил разрешить начать операцию здесь двумя сутками позже Юго-Западного фронта.
В связи с тем, что мне казалось более целесообразным сосредоточить основное внимание в подготовительный к операции период на помощи командованию Южного фронта, я поручил Р. Я. Малиновскому взять всецело на себя работу по подготовке Юго-Западного фронта, а сам отправился на Южный фронт и в ночь на 9 августа был на фронтовом КП Ф. И. Толбухина, расположившемся в селении Грибоваха, неподалеку от города Шахты, а также от Краснодона, где в те дни стала раскрываться в деталях трагедия нашей подпольной организации «Молодая гвардия». В работе над планом операции принимали участие генерал-полковник Ф. И. Толбухин (это была первая его операция, которую он должен был проводить в роли комфронта) и хорошо известные мне начальник штаба фронта генерал-лейтенант С. С. Бирюзов и член Военного совета генерал-лейтенант К. А. Гуров. Проблема, которая тогда занимала нас, заключалась в том, что предстояло прежде всего прорвать создававшийся гитлеровцами в течение длительного времени и очень сложный для нас так называемый «миусский фронт обороны». В результате обсуждения было признано наиболее целесообразно осуществить прорыв на самом предельно узком участке силами 5-й ударной армии генерал-лейтенанта В. Д. Цветаева и 2-й гвардейской армии Г. Ф. Захарова, создав здесь высокую плотность огня. В дальнейшем эти армии должны были развивать наступление на Волноваху и Пологи, проходя степными просторами, где когда-то буйствовали банды Махно. 51-я армия генерал-лейтенанта Я. К. Крейзера должна была одновременно прорывать фронт севернее на смежном участке в направлении на Снежное, Иловайск и Сталино (Донецк).