Руководству НКВД и НКГБ Союза ССР предписывалось завершить разделение в месячный срок и разработать положения о новых ведомствах.
Наркомат государственной безопасности возглавил B. Н. Меркулов, а его заместителями стали А. И. Серов, Б. 3. Кобулов и М. В. Грибов, а Л. П. Берия остался наркомом внутренних дел.
В структуре нового наркомата госбезопасности были образованы:
1-е управление (разведка за границей; начальник П. М. Фитин);
2-е управление (контрразведывательное; начальник П. В. Федотов);
3-е управление (секретно-политическое; начальник C. Р. Милыптейн);
Следственная часть (начальник Л. Е. Влодзимирский).
Одновременно военная контрразведка (Особые отделы НКВД) были передана в наркоматы обороны и военно-морского флота и на их базе были образованы Третьи управления НКО СССР (его возглавил А. Н. Михеев) и НКВМФ СССР (А. И. Петров). В структуре НКГБ СССР для оперативного обслуживания пограничных и других войск НКВД СССР был создан 3-й отдел (А. М. Беляев).
В связи с началом Великой Отечественной войны 20 июля 1941 года НКГБ и НКВД вновь были объединены в единый Народный комиссариат внутренних дел СССР. Комиссаром внутренних дел остался Берия, а Меркулов стал его заместителем.
В структуре НКВД важнейшими оперативно-чекистскими подразделениями стали:
1-е управление (разведка за границей; начальник П. М. Фитин);
2-е управление (контрразведка; начальник П. В. Федотов);
3-е управление (секретно-политическое; начальник Н. Д. Горлинский);
4-е управление (существовало с февраля 1942 года; организация зафронтовой работы на временно оккупированной советской территории; начальник П. А. Судоплатов)[28]
;Управление особых отделов (начальник В. С. Абакумов; военная контрразведка была возвращена из Наркомата обороны в НКВД СССР постановлением ГКО от 17 июля 1941 года);
Транспортное управление (начальник Б. 3. Кобулов);
Экономическое управление (начальник П. Я. Мешик);
Следственная часть по особо важным делам (начальник Л. Е. Влодзимирский).
В апреле 1943 года органы военной контрразведки НКВД СССР были преобразованы в Главное управление контрразведки СМЕРШ (ГУКР СМЕРШ) Народного комиссариата обороны СССР, Управление контрразведки СМЕРШ НКВМФ СССР и Отдел контрразведки СМЕРШ НКВД СССР (для оперативного обслуживания войск Наркомата внутренних дел).
Четырнадцатого апреля 1943 года также повторно был образован наркомат государственной безопасности СССР (нарком Меркулов) с возложением на него задач, поставленных в феврале 1941 года, и с воссозданием той же организационной структуры. (В связи с реорганизацией системы государственного управления в СССР 15 марта 1946 года он был переименован в Министерство государственной безопасности (МГБ) СССР.)
И по сей день интерес представляют ориентировки военной контрразведки — Особого отдела ГУГБ НКВД, (с марта 1941 года — 3-го управления НКО СССР) об устремлениях и деятельности иностранных разведок против вооруженных сил СССР.
В одной из них, от 30 ноября 1940 года, освещались «некоторые моменты работы германской разведки», установленные в процессе агентурной работы и следствия: «Наиболее заслуживающими внимания и характерными являются: установка на разложение воинских частей Красной Армии, попытки склонить военнослужащих к измене Родине и использование самого различного элемента из числа жителей западных областей Украины и Белоруссии…»
Это обстоятельство целесообразно особо подчеркнуть, потому что, как показал Международному военному трибуналу для главных военных преступников бывший начальник отдела «Абвер-1» Г. Пиккенброк, «уже с августа — сентября 1940 года со стороны Отдела иностранных армий Генштаба значительно увеличились разведзадания абверу по СССР… О более точных сроках нападения Германии на Советский Союз мне стало известно в январе 1941 года».
В ориентировке 3-го управления НКО СССР о деятельности германской разведки от 25 мая 1941 года приводятся конкретные задания, получаемые агентурой противника, и, в частности, отмечается: «Основным контингентом агентуры, используемой германскими разведывательными органами, забрасываемой к нам через западную границу, являются поляки — 52,4 %… Второе место по численности среди агентуры занимают украинские националисты, которые составляют около 30 %… Около 20 % агентуры составляют белорусы, литовцы, латыши, эстонцы, русские белоэмигранты и незначительное количество евреев. Среди агентуры до 10 % женщин — молодых, с красивой внешностью… Больше половины всей агентуры, засылаемой на нашу территорию, имеет возраст до 25 лет, 3/4 всех агентов имеют возраст до 30 лет».
В разведсводке НКГБ СССР № 1510 от 20 июня 1941 года, адресованной начальнику Разведывательного управления Генерального штаба, говорилось: «…Германская разведка направляет свою агентуру в СССР на короткие сроки — 3–4 дня. Агенты, следующие в СССР на более длительные сроки (10–15 суток), инструктируются о том, что в случае перехода германскими войсками границ до их возвращения в Германию они должны явиться в любую германскую часть, находящуюся на советской территории».