Посоветовавшись с главой германской военной миссии в Болгарии, генералом пехоты Шнеккенбургером, генерал-лейтенант Шмидт вынужден был признать, что больше ничем не сможет помочь солдатам своей дивизии, интернированным в Болгарии. С тяжелым сердцем он решил покинуть Болгарию на самолете вместе с германской военной миссией. Невозможно описать моральное состояние, в котором находился командир 10-й панцер-гренадерской дивизии, когда он покидал территорию Болгарии. Все попытки командования дивизии уберечь личный состав своей дивизии от советского плена оказались безуспешными. На этот раз судьба оказалась сильнее, чем воля одного человека. Теперь командир дивизии видел свою главную задачу в том, чтобы как можно быстрее отправиться в группу армий «Южная Украина», чтобы собрать другие части своей дивизии, в первую очередь подразделения и части снабжения, которые могли пробиться из румынского котла на запад через Карпаты.
Во время недолгого пребывания в Белграде в штабе группы армий «Ф» (командующий – фельдмаршал барон фон Вейхс) к генерал-лейтенанту Шмидту обратились около 25 офицеров, унтер-офицеров и рядовых его дивизии, которым посчастливилось вырваться из Румынии и которые, несмотря на тяжелейшие условия, добрались до Белграда через сербский город Ниш.
9 сентября 1944 года командир дивизии уже смог доложить о своем прибытии командующему группой армий «Южная Украина», генерал-полковнику Фриснеру, и, к своей радости, узнал от него, что многие подразделения и части снабжения под командованием подполковника Плашке, подразделения одного из батальонов 41-го гренадерского полка и отдельные подразделения 10-го моторизованного артиллерийского полка под командованием капитана Бушмайера, а также остатки некоторых других подразделений 10-й панцер-гренадерской дивизии сумели с боями и по разным горным дорогам пробиться из Румынии на запад. Подразделения 10-го моторизованного саперного батальона под командованием обер-лейтенанта Хайгля сумели добраться до Венгрии через город Фокшаны и Карпаты. По приказу начальника инженерной службы армии они подготовили к взрыву большое число мостов и узких горных проходов и после проезда по ним последних своих автомобилей взорвали их и тем самым значительно замедлили продвижение наседавшего противника. Все эти части и подразделения 10-й панцер-гренадерской дивизии были сосредоточены а районе венгерского населенного пункта Дес-Альпарет (50 километров северо-восточнее Клаузенбурга (
Командование группы армий заверило генерал-лейтенанта Шмидта в том, что 10-я панцер-гренадерская дивизия будет сформирована заново, и сообщило, что ему самому будет предложена другая должность. Тогда в качестве своего преемника он предложил полковника Херольда, а в качестве командира 20-го гренадерского полка – подполковника Хадереккера, который в это время находился на родине на курсах по подготовке командиров полков.
В последующие недели сентября в Дес-Альпарет постоянно прибывали мелкие группы и отдельные бойцы 10-й панцер-гренадерской дивизии, которые – часто невероятным образом – сумели избежать советского плена и пробились через Болгарию и Югославию.
25 сентября генерал-лейтенант Шмидт, которому было поручено командовать LXXII армейским корпусом и командный пункт которого находился неподалеку, еще раз приехал в 10-ю панцер-гренадерскую дивизию, чтобы попрощаться с ней. Остатки отдельных воинских частей (какие же маленькие кучки бойцов!) были разбросаны по разным окрестным деревням и городкам. Здесь находились: штаб дивизии под командованием майора Каста, остатки 20-го гренадерского полка под командованием майора Херинга, 41-го гренадерского полка под командованием капитана Оберндорфера, 10-го моторизованного артиллерийского полка под командованием капитана Бушмайера, 110-го брониро10 А. Шмидт ванного разведывательного батальона под командованием обер-лейтенанта Хеппнера, 7-го танкового батальона под командованием лейтенанта Козара, 10-го истребительно-противотанкового дивизиона под командованием лейтенанта Дауба, 10-го моторизованного саперного батальона под командованием обер-лейтенанта Хайгля, 10-го батальона связи под командованием лейтенанта Менхорна, а также остатки подразделений службы тыла и снабжения под командованием майора фон Рёля и медико-санитарных служб под командованием майора медицинской службы доктора Зипли. Всего здесь собралось около 80 офицеров и 800 унтер-офицеров и рядовых, которым удалось вырваться из румынского ада и которые, как испытанные в боях бойцы, должны были стать основой для заново формируемой 10-й панцер-гренадерской дивизии.
Теплыми, идущими от сердца словами генерал-лейтенант Шмидт попрощался с каждым подразделением своей испытанной во многих боях дивизии, с которой в течение двух с половиной лет он делил и радость и горе. Он пожелал своим бойцам солдатского счастья в грядущие, наверняка тяжелые времена и заверил всех военнослужащих дивизии, что и в будущем его будут связывать с каждым из них узы верного боевого товарищества.