На основе замысла командующего детализировался план операции. Шла интенсивная подготовка войск и штабов. В подразделениях и частях проводилась политическая работа. Прошли партийные собрания. На повестке дня стоял вопрос — задачи коммунистов в бою. Участником одного из них стал командующий войсками фронта И.С. Конев. Оно проходило в стрелковом батальоне 89-й гвардейской стрелковой дивизии. «Долг партийной организации и членов партбюро, — сказал, выступая на нем, парторг майор Татульян, — состоит в том, чтобы разъяснить каждому воину значение нашей боевой задачи, внушить веру в успех нашего дела, решимость драться самоотверженно, самим показать образец дисциплины и воинского мастерства». Коммунистам быть впереди — такова суть постановления партийного собрания, на котором поделился своим опытом с коммунистами и Иван Степанович.
Напряженность обстановки нарастала. К исходу 22 августа 5-я гвардейская танковая и 53-я армии охватили Харьков с юго-запада и запада, а 7-я гвардейская армия продолжала сжимать кольцо с востока и юго-востока. В распоряжении противника, который к этому времени подвел из резерва две дивизии, оставались лишь железная и шоссейная дороги, идущие из Харькова на юг.
О проблемах, вставших в эти завершающие часы сражения за Харьков перед командованием Степного фронта писал в своих воспоминаниях И.С. Конев. «Можно было, конечно, бросить силы, достаточные для того, чтобы перерезать этот коридор, окружить врага в городе и там его добивать… — отмечал И.С. Конев. — Уничтожение такой крупной группировки в укрепленном городе потребовало бы много времени и жертв. Могло быть второе решение — штурмовать город, выбить из него противника и довершить разгром остатков вражеских соединений за городом».
С каждым часом положение харьковской группировки врага становилось все более грозным. Полная бесперспективность дальнейшей борьбы за город, опасность окружения войск были столь очевидны, что единственным шансом спасения от полного истребления стало их быстрое отступление на юг. К этому времени у гитлеровского руководства уже окончательно исчезла и всякая надежда на успешное развитие контрудара ахтырской группировки на Богодухов. Во второй половине дня 22 августа немецко-фашистское командование было вынуждено начать отход из района Харькова. Оценивая это решение, командующий группой армий «Юг» Манштейн в работе «Утерянные победы» писал: «Угрожающе надвигалась опасность окружения армии Кемпфа в районе Харькова… Командование группы не собиралось в бою за Харьков жертвовать армией. Харьков был сдан для того, чтобы высвободить силы для обоих угрожаемых флангов армии Кемпфа и предотвратить ее окружение».
Чтобы не дать возможности противнику вывести из-под ударов советских соединений войска, оборонявшие Харьков, командующий войсками Степного фронта отдал приказ о ночном штурме города.
Вспоминает начальник штаба фронта генерал-лейтенант М.В. Захаров:
«Для нас, участников боев за Харьков, на всю жизнь останется памятной ночь на 23 августа 1943 года. Перед нами открылась панорама ночного города, освещенного вспышками, взрывами, пожарами и сотрясаемого страшным орудийным гулом. Огромные массы войск были сосредоточены на сравнительно небольшой территории, прилегающей к Харькову. Воины нашего фронта прекрасно понимали, что начинается решающий этап победоносного наступления на харьковском направлении — штурм города. Мы знали, что в городе томятся наши братья — советские люди, перенесшие все страдания гитлеровской оккупации».
В боях на улицах Харькова участвовали соединения 53-й, 69-й и 7-й гвардейской армий. С запада в город ворвались 89-я гвардейская Белгородская (командир — генерал-майор М.П. Серюгин) и 107-я стрелковая (командир — полковник П.М. Бежко) дивизии 53-й армии.
С севера и северо-востока противника теснили войска 69-й и 7-й гвардейской армий. Соединения 7-й гвардейской армии начали наступление действиями передовых отрядов, а в 2 часа ночи 23 августа армия перешла в общее наступление. Одними из первых ворвались в город подразделения 1243-го стрелкового полка 375-й стрелковой дивизии (командир — полковник П.Д. Говоруненко) 69-й армии. Вскоре за ними вступили в город и другие части этой дивизии. Противник, отводя главные силы на заранее подготовленный рубеж, прикрывал отход сильными арьергардами, поддерживая их артиллерийским и минометным огнем.