В сложившихся условиях советское Главное Командование решило к 9 июля отвести войска и занять оборону вдоль старой государственной границы на линии укрепрайонов. На этом рубеже предусматривалось организовать оборону и стабилизировать положение. Линия фронта сокращалась вдвое, что давало возможность уплотнить боевые порядки войск. Армиям были поставлены новые задачи: 5-й армии занять Новоград-Волынский и Коростеньский УРы; 6-й армии — Шепетовский и Староконстантиновский УРы; 26-й армии — Проскуровский; 12-я армия отходила на рубеж Чортков, Коломыя. Большая часть из укрепленных районов не имели ни готовых к бою огневых сооружений, ни гарнизонов. Командный пункт фронта переместился из Тернополя в Проскуров, а затем — в Бровары.
Отход войск на рубеже реки Горынь до 2 июля прикрывали войска 19-го мехкорпуса и группа генерала Лукина. В группу входили 213-я мехдивизия, выделенная из состава корпуса Фекленко, и 109-я механизированная дивизия полковника Н.П. Краснорецкого из 5-го мехкорпуса. Оборона этих соединений сочеталась с контрударами, наносившимися войсками армии Потапова в южном направлении.
Сосредоточив в районе Острог два моторизованных корпуса, войска 1-й танковой группы форсировали Горынь. Установив, что советские части отходят на новый рубеж и оказывают сопротивление лишь арьергардами, германское командование приказало своим соединениям ускорить наступление, дабы не дать русским возможности организовать прочную оборону. По свидетельству Ротмистрова, советским войскам «…предстояло в течение восьми дней отступить на 120–200 км. Отступление планировалось по рубежам с темпом 25–35 км в сутки. Общее отступление войск фронта происходило в условиях недостатка боеприпасов и горюче-смазочных материалов и при непрерывном воздействии авиации противника. Это приводило к тому, что наши части вынуждены были зачастую сжигать или взрывать драгоценную боевую технику».
Фон Клейст нацелил 48-й мотокорпус на Шепетовку и потребовал немедленного преследования противника. Впереди следовала 11-я танковая дивизия, которая к середине дня 4 июля с ходу ворвалась в город. Командование фронта серьезные надежды возлагало на 7-й стрелковый корпус, выдвигавшийся для обороны Шепетовского укрепрайона. Однако 147-я и 206-я дивизии этого корпуса не смогли удержать оборону.
Чтобы не допустить противника к Житомиру, генерал Кирпонос 3 июля решил нанести контрудар, для чего создать группировку за счет высвобождения войск с менее активных участков фронта. В район Бердичев, Острополь, Хмельник направлялись 4-й и 15-й механизированные корпуса, вернее, их остатки, одна кавалерийская и три стрелковые дивизии. Сюда же выдвигается 16-й мехкорпус под командованием комдива А.Д. Соколова. Корпусу, имевшему 476 танков, до сих пор никак не удавалось принять участие в боях. На четвертый день войны, под влиянием панических докладов генерала Тюленева, его передали Южному фронту. Затем Ставка приказала срочно перебросить корпус по железной дороге на Западный фронт, где уже разразилась катастрофа. И вот на Украине нашлись более срочные дела.
Однако темп наступления германских танковых и моточастей оказался выше маневра советских резервов.
С утра 5 июля 1-я танковая группа возобновила наступление с рубежа западнее Новоград-Волынского, Шепетовка. 11-я танковая дивизия с ходу преодолела не занятый войсками рубеж укрепленных районов на восточном берегу реки Случь и 8 июля заняла Бердичев. 13-я танковая к исходу 9 июля, преодолев северный фас Новоград-Волынского УРа, ворвалась в Житомир.
С целью срыва наступления вражеских танков в район Бердичева была переброшена из Острополя 3-я противотанковая бригада, оборудовавшая противотанковый рубеж южнее города. Одновременно Военный совет решил не только остановить, но и разгромить прорвавшуюся к Бердичеву группировку врага силами сводных отрядов 22-го и 15-го мехкорпусов. Однако 22-й корпус организовать наступление не смог, в нем оставалось лишь 20 легких танков и 14 орудий разных калибров. Поэтому 7 и 8 июля контрудары с юга в направлении Бердичева наносили лишь сильно ослабленные части 15-го корпуса, которым командовал теперь генерал Огурцов, в то время как другие соединения 6-й армии пытались наступать в районах Староконстантинов и Вербовка. Успеха эти удары не имели.
Части армии Потапова к 6 июля отошли на позиции Новоград-Волынского УРа. В пределах города перешли к обороне ослабленные в предыдущих боях 228-я стрелковая и 109-я механизированная дивизии под общим командованием полковника Бланка. Вместе в их составе насчитывалось 2500 бойцов. Кроме того, здесь находились остатки 19-го мехкорпуса Фекленко в количестве 1500 человек и 40 танков. После двухдневного штурма немцы прорвали оборону 5-й армии и захватили Новоград-Волынский.