В начале сентября войска Розенберга расположились на квартирах в окрестностях Бреста и были готовы к заграничному походу, но выступление надолго замедлилось по вине самих австрийцев, которые, с одной стороны, неоднократно просили императора Павла ускорить движение вспомогательного корпуса, а с другой – возбудили бесконечные пререкания относительно довольствия русских войск. Дело в том, что Австрия приняла это довольствие на себя и обязалась отпускать русским частям войск провиант и фураж наравне с австрийскими; но затем при переговорах о подробностях австрийский комиссар, полковник Сен-Венсан, заявил Розенбер-гу, что австрийскому солдату полагается в натуре только два фунта печеного хлеба и в добавок, во время заграничного похода, 5 крейцеров в день и особые деньги на мясо; а так как австрийское правительство обязалось выдавать русским продовольствие исключительно натурою, то и предполагается давать только по два фунта хлеба без всяких добавок. Розенберг возражал, что русский солдат и по мирному положению получает три фунта хлеба в день и по полтора гарнца круп в месяц и, следовательно, не имеет физической возможности довольствоваться в походе только двумя фунтами хлеба. Сен-Венсан упорно стоял на своем, а Розенберг объявил, что не перейдет границу, пока его справедливые требования не будут удовлетворены, о чем и донес императору Павлу, который не только одобрил поведение Розенберга, но даже приказал особой нотой представить венскому Двору всю неуместность подобных мелочных расчетов, в виду бескорыстного усердия России для общего блага. Только тогда дело было улажено, однако на переписку пошло шесть недель.
Во время стоянки под Брестом полкам сделал смотр известный барон Аракчеев и нашел все в отличном порядке. Тогда же получено повеление, чтобы всем полкам именоваться по фамилиям своих шефов, а ротам по фамилии своих командиров, почему, например, гренадерский Московский полк начал называться полком Розенберга, так как последний был шефом Московского полка. Конечно, такая реформа вела ко многим неудобствам: между шефами встречались однофамильцы; шефы часто менялись, менялось и название полка; а главное – были уничтожены имена, с которыми тесно связывалась слава полка: название «гренадерский Жеребцова полк» ничего не напоминает, а между тем это известный своими подвигами Фанагорийский гренадерский полк.
С 13 по 20 октября русские войска перешли по мосту в Бресте пограничную реку Западный Буг и вступили в пределы Австрии. Чрезвычайно любопытно выражает Грязев чувства, волновавшие при этом русских, не имевших в предстоявшем походе народного интереса и вряд ли отчетливо представлявших себе, за что именно идут они сражаться. «Прощай, милая родина, в тебе оставил я все, что есть в мире для меня драгоценнейшего. Дела бранные ведут в земли чуждые, далекие». «Мы все одно чувствовали, — добавляет Грязев, — и все поклялись отмстить врагу общего спокойствия».