Крайне отрицательно сказалось на работе тыла и то, что большинство запасов, созданных в предвоенный период, находилось в приграничных округах — в Ленинградском, Прибалтийском, особом Западном, особом Киевском, Одесском и др. Думалось, что будет практичнее их держать поближе к войскам. Однако нашей армии пришлось отступать. В результате мы лишились в этих округах значительного количества материальных средств, которые были захвачены противником или уничтожены нами при отходе. Только некоторую часть из них удалось использовать для обеспечения действующей армии.
В первые месяцы фашистского нашествия тыловая обстановка на фронтах, как и боевая, была крайне неустойчивой и менялась каждый день. Тыловые части и учреждения должны были очень часто перемещаться и работать на ходу. Связь нередко нарушалась. Зачастую грузы прибывали в назначенные пункты выгрузки, когда адресата там уже не было. В связи с прорывом подвижных групп противника в оперативную глубину наши тыловые части и учреждения попадали под удары врага и несли потери. Некоторые соединения и армии лишились своих тыловых подразделений и служб. В ходе первых месяцев войны выяснилось несоответствие количества отмобилизованных тыловых учреждений фактической потребности в них.
Предстояла чрезвычайно трудная организаторская работа. Необходимо было решать много сложных проблем, и решать быстро, в самые короткие сроки. В этих условиях наша партия и правительство приняли энергичные меры, направленные на резкое улучшение работы тыла Красной Армии в условиях Великой Отечественной войны.
В конце июля 1941 года после предварительного доклада своих соображений ряду членов Государственного Комитета обороны А. В. Хрулев разработал проект решения об организации тыла Советской Армии на военное время. После тщательного обсуждения проекта 28 июля 1941 года было принято постановление ГКО, а 1 августа того же года по этому вопросу был издан приказ наркома обороны.
В соответствии с постановлением ГКО и приказом народного комиссара обороны от 1 августа 1941 года учреждалась должность начальника тыла Красной Армии и было образовано Главное управление тыла в составе штаба начальника тыла, управления военных сообщений, автодорожного управления. Начальнику тыла также были подчинены: главное интендантское управление, управление снабжения горючим, главное — военно-санитарное и ветеринарное управления. Такой централизованной организации дела обеспечения многомиллионной армии всем необходимым для жизни и боя еще не знала ни одна армия мира. Принятое решение о коренной перестройке и централизации управления тылом полностью соответствовало условиям ведения войны.
Генерал-лейтенант А. В. Хрулев был назначен начальником тыла Советской Армии и заместителем наркома обороны. Его заместителями стали генерал-майор М. В. Захаров, ныне начальник Генерального штаба, Маршал Советского Союза, и генерал-майор П. А. Ермолин, военным комиссаром — дивизионный комиссар В. А. Баюков, начальником штаба тыла — генерал-майор П. В. Уткин, которого в сентябре заменил М. П. Миловский.
На начальника тыла Советской Армии возлагалась организация подвоза фронтам вооружения, боевой техники и всех видов материальных средств; организация восстановления и строительства путей сообщения; доставка воинских пополнений фронтам и новым формированиям; обеспечение эвакуации раненых и больных с территории военных действий, руководство санитарной и ветеринарной службами Советской Армии и устройство лечебных учреждений; организация и распределение воинских складов и баз между фронтами и военными округами; распределение для заготовки продовольствия тыловых районов между фронтами (отдельными армиями) и разрешение заготовок из местных средств в соответствии с решением правительства и многое другое.
Объединение в одних руках многих органов тыла и управления ими, подвоза и эвакуации позволяло более оперативно решать все вопросы работы тыла, упорядочить обеспечение войск материальными средствами, рационально использовать все виды транспорта и установить твердый воинский порядок в тыловых частях и учреждениях.