Также продолжалась реорганизация управления войсками. 30 августа 1941 г. функции Штаба войск НКВД передали Главному управлению погранвойск НКВД. Позже это решение пересмотрели, поскольку ГУПВ не могло одновременно обеспечивать выполнение задач по охране государственной границы и управление войсками по охране тыла. Приказом № 00852 от 28.04.1942 в составе Главного управления войск НКВД было создано Управление войск по охране тыла действующей армии, реорганизованное в мае 1943 г. в отдельное Главное управление войск по охране тыла (его возглавил генерал-лейтенант А.М. Леонтьев, а позже — генерал-лейтенант И.М. Горбатюк). В связи с этим войска по охране тыла были переданы из погранвойск во внутренние войска. Такая система командования просуществовала до конца Войны.
В октябре 1944 г. центральный аппарат НКВД включал в себя следующие войсковые управления — погранвойск, внутренних войск, войск по охране железных дорог и железнодорожных сооружений, войск по охране важнейших предприятий промышленности, конвойных войск, войск правительственной связи (ВЧ-связи) и военного снабжения. Из них в будущей борьбе с ОУН-УПА будут задействованы погранвойска и внутренние войска, а также, отчасти, войска по охране железных дорог, в том числе бронепоезда и бронеплатформы, находящиеся на вооружении этих войск.
Помимо Наркомата внутренних дел, войска по охране тыла также находились в оперативном подчинении начальников войск по охране тыла, что создавало дополнительные проблемы в организации взаимодействия с армейским командованием — необходимо было постоянное согласование распоряжений с командованием внутренних войск. С другой стороны, это решение было оправдано печальным опытом «затыкания» фронтовых «дыр» за счет войск НКВД.
Также как и в армейских частях, во внутренних войсках в начале Войны вводился институт комиссаров (до батальонного уровня включительно), для чего было создано Политическое управление войск НКВД. Позже, в октябре 1942 г. в связи с изменением ситуации на фронтах институт военных комиссаров упразднили, оставив заместителей по политической части и восстановив единоначалие, как в армейских подразделениях, так и в войсках НКВД.
Параллельно происходила реорганизация самих подразделений внутренних войск. Так, пограничные войска переформировывались на полковой основе. С начала 1942 г. в связи с выполнением задач по борьбе с диверсионными группами противника и фильтрацией задержанных в тылах фронтов в штат полка внутренних войск было введено разведывательное отделение и созданы штатные офицерские должности разведчиков. Также в штаты фронтовых управлений войск по охране тыла вводилась должность заместителя начальника по разведке.
В целом, реорганизация войск НКВД в течение Великой Отечественной войны определялась обстановкой на фронтах и социально-политической ситуацией в стране, в связи с чем можно выделить два этапа их организационной перестройки.
На первом (1941–1943) переформирование велось в соответствии с требованиями военного времени и организации единого командования и единой вертикали управления войсками. Как уже указывалось выше, войска в прифронтовой полосе создавались на основе пограничных отрядов и, отчасти оперативных подразделений внутренних войск, а управление — командований пограничных округов. В основу оперативных действий войск по охране тыла были положены тактические схемы, выработанные погранвойсками во время охраны государственной границы. Этим и объясняется высокая эффективность войск по охране тыла как в борьбе с разведчиками, диверсантами и парашютистами противника, так и с уголовными и «политическими» бандами.
На втором этапе, весной — летом 1943 г. в связи с освобождением оккупированной территории реорганизация войск была связана с подготовкой несения службы в мирное время, в частности, перепрофилированием на охрану объектов и борьбой с агентурой противника, бандами и операциями против националистического подполья и «партизанщины».
В связи с расширением задач, которые ставились перед внутренними войсками, возрастала и их численность. Так с 1 июля 1941 г. по 1 января 1945 г она возросла от 274 до 833 тыс. человек. Также возрастала численность войск по охране тыла.
Первоначально один полк выполнял задачу по охране тылов двух-трех общевойсковых армий, к середине 1943 г. — один полк придавался для охраны тыла одной общевойсковой армии. В результате, по подсчетам А.Н. Калюка, плотность охраны тыла в полосе действия, к примеру, Юго-Западного фронта возросла от 17 до 32 человек на 1 км линии фронта. Также войска по охране тыла в категорической форме запрещалось привлекать к фронтовым операциям.