Наиболее опасным резервом немцев были 3–я и 23–я танковые дивизии, находившиеся в подчинении штаба группы армий «Юг» в районе Харькова. В 3–й танковой дивизии на 5 мая 1942 г. было 5 Pz.II, 25 Pz.III с 50–мм короткоствольной пушкой, 9 Pz.III длинноствольной пушкой и 6 Pz.IV (все с 24–калиберным 75–мм орудием). В 23–й танковой дивизии в марте 1942 г. насчитывалось 34 Pz.II, 112 Pz.III (с 50–мм короткоствольными и длинноствольными орудиями), 32 Pz.IV (все с 24–калиберной 75–мм пушкой) и 3 командирских танка. Обе дивизии не занимали полосы фронта и могли быть переброшены в любую точку построения 6–й армии с целью парирования советского наступления.
На южном фасе барвенковского выступа наиболее опасным был III моторизованный корпус Э. фон Маккензена (100–я легкопехотная дивизия, 1–я горно-егерская дивизия, 14–я танковая дивизия, треть 60–й моторизованной дивизии, валлонский батальон и хорватский полк). Корпус фон Маккензена находился в первой линии, занимая с зимы 1942 г. участок фронта южнее Барвенкова. Это ограничивало его возможности в рокировке для парирования кризисов. Стык между III моторизованным корпусом и VIII корпусом армии Ф. Паулюса обеспечивала так называемая группа Корцфлейша в составе VI румынского корпуса (1–я и 4–я румынские пехотные дивизии), 2–й румынской пехотной дивизии, 298–й и двух третей 68–й пехотных дивизий.
Не следует думать, что новыми формированиями занималась только Красная Армия. В Германии также было осознан промах с отказом от формирования второлинейных дивизий. В начале мая в распоряжение штата группы армий «Юг» поступала целая пачка пехотных дивизий недавнего формирования — 305, 323, 383 и 387–я. Последние две были сформированы только зимой 1942 г.
Начало наступления Юго-Западного фронта было первоначально назначено на 5 мая. Однако, в связи с незавершенностью подготовки, срок начала операции сместился на 12 мая 1942 г. Надо сказать, что к этой дате еще не были накоплены боеприпасы, но медлить уже было нельзя. Мы помним, к чему привело промедление с началом наступления на Крымском фронте в том же мае 1942 г. К исходу 11 мая войска Юго-Западного фронта в основном заняли исходное положение для наступления. Войска фронта насчитывали к этому времени в своем составе двадцать девять стрелковых, девять кавалерийских, одну мотострелковую дивизию; четыре мотострелковые, девятнадцать танковых бригад и четыре отдельных танковых батальона (925 танков). Из 925 танков больше половины (560 машин) должны были действовать в качестве средства непосредственной поддержки пехоты. Из выделенных для проведения операции 32 артиллерийских полков на позициях к 11 мая было только 17, еще 11 находились в районах сосредоточения в 12–15 км от назначенных позиций и 4 полка просто не прибыли.
Наступление северной ударной группировки Юго-Западного фронта началось 12 мая 1942 г. в 6.30 артиллерийской подготовкой продолжительностью 60 минут. В конце артиллерийской подготовки последовал 15–20–минутный авиационный налет по позициям артиллерии и опорным пунктам обороны.
Вопреки ожиданиям командования, в первый день операции наступление 28–й армии было наименее успешным. Несмотря на то, что армия нацеливалась в стык полос обороны 79–й и 294–й пехотных дивизий, имела большое количество артиллерии и танков непосредственной поддержки, она продвинулась на 2–4 км. Напротив, 21–я и 38–я армии продвинулись на 6—10 км. Лучше всего в 38–й армии наступала 226–я стрелковая дивизия генерал-майора А.В. Горбатова, усиленная 36–й танковой бригадой полковника Т.И. Танасчишина. Эта дивизия и бригада продвинулись за день на 10 км. Вскоре А.В. Горбатов станет командующим армией, а Т.И. Танасчишин — одним из наиболее ярких командиров танковых корпусов. Наступление 28–й армии было остановлено упорным сопротивлением противника в населенных пунктах Варваровка и Терновая.
Синхронно с наступлением северной ударной группировки, в 7.30 утра 12 мая после 60–минутной артиллерийской подготовки началось наступление южной ударной группировки. Плотное построение войск, поддержанных танками, принесло успех в первый же день наступления. Войска 6–й армии и армейской группы Л.В. Бобкина взломали построение VIII армейского корпуса немцев на фронте 42 км и продвинулись в глубь немецкой обороны на 12–15 км. В ночь на 13 мая начали выдвижение части второго эшелона 6–й армии — 103–я и 248–я стрелковые дивизии. Эшелон развития успеха — 21–й и 23–й танковые корпуса — пока ожидал своего часа в районах сосредоточения.