Начавшийся в ночь на 2 июля отход войск Юго-Западного фронта проходил в сложной обстановке. Значительную часть техники пришлось уничтожить, так как не было возможности устранить даже мелкие неисправности. Только в одном 22-м механизированном корпусе пришлось подорвать 58 неисправных танков. Сыграли свою роль не только отсутствие ремонтно-эвакуационных средств и запасных частей, но и слабая подготовка экипажей, особенно танков новых типов, а также перебои в снабжении горючим. Было немало случаев, когда из-за возникавшей паники экипажи оставляли совершенно исправные танки. Плохо работала продовольственная служба — за первые две недели войны личный состав почти не получал горячей пищи.
Несмотря на все усилия, закрепиться на линии укреплённых районов вдоль старой границы войскам Юго-Западного фронта не удалось. 5 июля две танковые дивизии противника вышли к Новоград-Волынскому укреплённому району, а спустя два дня 11-я танковая дивизия овладела Бердичевым, а на следующий день 13-я танковая — Новоград-Волынском.
Командование Юго-Западного фронта было вынуждено предпринимать срочные меры для противодействия немецким войскам. В районе Бердичева контратаки вели сводные отряды дивизий 4-го и 15-го мехкорпусов. Сюда же был направлен 16-й мехкорпус, перебрасываемый на Западный фронт в район Мозыря с Южного фронта. Его дивизии вступали в бой прямо из эшелонов. Из частей 4-го, 15-го и 16-го мехкорпусов была сформирована Бердичевская группа под командованием комдива А. Д. Соколова. В результате контратак удалось заставить немцев перейти к обороне, остановив их продвижение на Белую Церковь. При этом только 11-я танковая дивизия Вермахта, по германским данным, потеряла в боях более 2000 человек. Ценой кровопролитного сражения удалось задержать наступление группы армий «Центр» на юг на целую неделю. В это же время тяжёлые бои шли в районе Новоград-Волынского, где войска 5-й армии наносили контрудары по северному флангу немецкой группировки, вышедшей к Киеву. Главной ударной силой 5-й армии были 9-й, 19-й и 22-й мехкорпуса, вернее их остатки.
К 15 июля силы мехкорпусов Юго-Западного фронта были исчерпаны практически полностью. В них в среднем оставалось по 30–40 танков и 1,5–2 тыс. человек личного состава.
В связи с успешным продвижением армий Вермахта на Украине командующий группой армий «Юг» фельдмаршал Г. фон Рундштедт 24 июня 1941 года приказал командующему 1-й армией генералу Р. Шоберту быть готовым с утра 2 июля начать наступление против советских войск в Молдавии. Замысел наступления состоял в том, чтобы ударами 11-й немецкой армии и румынских соединений в общем направлении на Винницу во взаимодействии с 17-й армией, которая наносила главный удар севернее Львова, окружить и уничтожить основные силы Южного и Юго-Западного фронтов.
В конце июня войска Южного фронта отражали атаки румынских войск, пытавшихся на отдельных участках форсировать р. Прут. К 28 июня противник захватил на восточном берегу шесть небольших плацдармов. Все они находились в полосе обороны 9-й армии, которой удалось отбросить румын за Прут, но самый крупный плацдарм в районе Скуляны остался занятым противником. Неоднократные попытки ликвидировать его были нерешительными и поэтому неудачными.
Утром 2 июля ударные группировки противника на двух узких участках атаковали оборону 9-й армии. Главный удар из района г. Яссы наносили четыре пехотные дивизии в стык между 30-й горнострелковой и 95-й стрелковой дивизиями. Другой удар силами двух пехотных дивизий и кавалерийской бригады пришёлся по 404-му стрелковому полку 176-й стрелковой дивизии. Добившись решающего превосходства, противник уже в первый день прорвал слабо подготовленную оборону на р. Прут на глубину 8—10 км.
Учитывая направления вражеских ударов и указания Ставки ВГК, командующий Южным фронтом генерал И. В. Тюленев усилил правое крыло фронта, где противник сосредоточил основные силы. Пока советские войска проводили перегруппировку, противник к исходу 4 июля продвинулся ещё на 31 км. Командующий 9-й армии генерал Я. Т. Черевиченко пытался контрударом 2-го механизированного корпуса и 74-й стрелковой дивизии уничтожить главную группировку противника, наступавшую в направлении на Бельцы, но безуспешно. Части противника, упредив в развёртывании мехкорпус, сковали его действия. По замыслу командования армии войска 2-го мехкорпуса 4 июля должны были нанести мощный встречный удар по переправившимся через Прут немецко-румынским соединениям и отбросить их на исходные позиции, но в действительности получилось так, что всем трём дивизиям корпуса из-за недостатка сил и средств с самого начала пришлось обороняться, сдерживая натиск противника, рвавшегося к городу Бельцы.