В этой всеобщей неразберихе, которая, разумеется, облегчила Советам продвижение вперед, отступающие немецкие войска с большим трудом сдерживали противника на далеко отстоящих друг от друга, разрозненных опорных пунктах. Некоторые из очагов сопротивления оказывались при этом глубоко в тылу наступающих советских войск и продолжали держаться там в течение многих дней, несмотря на огромное численное превосходство противника. Главные силы группы армий вели ожесточенные бои с устремившимися к нижнему Пруту с севера и с востока советскими войсками. Тяжелые бои завязались в проходящих с севера на юг долинах рек Прут, Бырлад и Серет, особенно у переправ через них. Время от времени отдельным немецким группировкам удавалось прорвать кольцо окружения. Где только было возможно, немецкая авиация поддерживала сухопутные войска, бомбардируя и обстреливая противника и доставляя окруженным предметы снабжения. Тем не менее все это сражение было в большей или меньшей степени импровизацией со стороны командования группы армий и сводилось, по существу, к подвижным действиям отдельных боевых групп. Не существовало уже ни штабов, ни тылов, ни специальных, ни боевых подразделений; все, от генерала до штабного писаря, превратились в обычных бойцов. Быстрая организация противотанковой обороны на отсечных позициях и в узлах сопротивления позволяла время от времени задерживать продвижение танковых соединений противника и тем самым облегчала отход других немецких частей. На промежуточные позиции выставлялись сводные отряды и комендантские подразделения населенных пунктов, обеспечивавшие отход главных сил и соединявшиеся с ними по мере их отступления. Несмотря на усталость от непрерывных марш-бросков, убийственной жары и тяжелых оборонительных боев, немецкие войска оказывали противнику упорное сопротивление.
Многие боевые группы сумели с боями прорваться к предгорьям Карпат, другие вели бои на все сокращающемся пространстве в междуречье. Особенно упорный характер носили бои за населенные пункты между Прутом и восточными склонами Карпат. Некоторые из них, в частности Брэила и Фокшаны, верховное командование объявило так называемыми «крепостями». Командование группы армий неоднократно пыталось добиться от ОКХ отмены этого совершенно неуместного при сложившихся обстоятельствах распоряжения. Но все наши просьбы были отклонены. Идея создания «крепостей» явилась одной из бессмысленных причуд Гитлера; эти «крепости» потребовали от Германии на всех фронтах бесчисленных и никому не нужных жертв.
Возможность взломать вражеское кольцо окружения с запада и тем облегчить положение ведущих тяжелые бои немецких войск была потеряна немецким командованием 25 августа, когда румынские войска начали боевые действия против немцев и во внутренних районах Румынии, в частности — в Валахии. Попытка немцев овладеть Бухарестом также встретила организованное сопротивление румын, а вокруг столицы и по всей стране завязались отчаянные бои за тыловые центры немецких войск: в Валахии — задунайские порты Галац и Брэила, за железнодорожный узел Бузэу и за нефтепромыслы Плоешти, в Добрудже — за военно-морскую базу Констанца.
Румыны повсеместно предъявили немецким инстанциям и тыловым учреждениям требование незамедлительно покинуть свои места расквартирования. Естественный отказ немецких войск, расположенных во внутренних районах Румынии, от ухода с румынской территории и от сопровождавшего этот ультиматум требования о сдаче всего вооружения и техники привел к резким спорам, которые после открытого объявления войны Румынией вылились в настоящие вооруженные схватки.
Так протекала вторая фаза сражения в Румынии. Немецким войскам приходилось защищаться от многочисленных концентрических ударов. Основные бои развернулись вокруг Бухареста и в районе Плоешти. Здесь многие части сухопутных войск, выведенные из района нижнего течения рек Прут и Серет, пополнились подразделениями аэродромной службы ВВС и частями зенитной артиллерии в такой мере, что из них уже можно было составить крупные оперативные группы. Эти группы вынуждены были отбиваться со всех сторон от наседающих румынских войск и вторгающихся на территорию Румынии советских, главным образом танковых, сил.
Отвод немецких войск на территорию Венгрии становился с каждым днем все более и более затруднительным. В этих боях особенно отличились группы генерал-лейтенанта фон Скотти и генерал-майора Винкледа, отлично взаимодействовавшие с 15-й зенитно-артиллерийской дивизией полковника Симона. Несмотря на поспешность, с которой они были сформированы, эти войска в неустанных боях проявили большое мужество и высокую боеспособность, задерживая в труднопроходимых районах Восточных Карпат продвижение советских войск.