Хотя большая часть предостережений о разработке «Плана Барбаросса» проходила по разведывательным каналам ГРУ, копии таких донесений направлялись также и в НКВД, а с февраля 1941 года — во вновь созданный НКГБ. 3 февраля 1941 года отдел безопасности и разведки НКВД, бывшего ОГПУ, был выделен из него и превращен в НКГБ (Народный комиссариат государственной безопасности). Его руководителем стал еще один человек из грузинской мафии Берии, Всеволод Николаевич Меркулов. Проработав десять лет, с 1921 по 1931 год, последовательно в ВЧК, ГПУ и ОГПУ, Меркулов был затем переведен на семь лет «на партийную работу» в Грузии и стал первым заместителем Берии в декабре 1938 года. Через догматический и жестокий сталинизм Меркулова проступали осколки идеалистического чекиста, который пожертвовал большинством своих идеалов в качестве платы за выживание во времена «Великого Террора». Как и Сталин, Меркулов был убежден, что «рано или поздно произойдет схватка между коммунистическим медведем и западным бульдогом… Наша здоровая, социально сильная, молодая идея, идея Ленина и Сталина, выйдет из этой схватки победителем!» Однажды он сочинил сценарий фильма, отражавший сталинскую мораль, в котором герой и героиня, победившие пороки капитализма, едут на новой колхозной молотилке прямо в малиновый советский закат. Венгерский государственный деятель Николас Ньяради, которому пришлось вести переговоры с Меркуловым после войны, считал его «парадоксом: это был человек великой доброты и звериной жестокости, сохранявший абсолютную серьезность, будучи при этом довольно остроумным. Он обладал смирением Иова, но при этом в течение дня одну за другой выкуривал сорок-пятьдесят сигарет. Это был настолько внушительный человек, что советские послы в его присутствии стояли навытяжку. Меркулов всегда разный, когда он говорит, на его губах играет скромная улыбка. Меркулов (после войны) лично руководил с бессердечным упорством уничтожением почти двух миллионов эстонцев, литовцев и латышей. Но как бандит, который плачет при исполнении „Колыбельной“ Брамса, он был типично по-русски сентиментален к детям, и, когда между нами установились более тесные отношения, однажды показал мне со слезами на глазах фотографию своего сына, служившего в армии».
Хотя Ньяради говорит о «гигантском интеллекте» Меркулова, в отношениях со Сталиным тот ни на минуту не забывал о правиле «угадать, угодить, уцелеть».
Внутри вновь образованного НКГБ ИНО получило более высокий статус «управления», в отличие от прежнего «отдела», и стало называться «Иностранное управление», или ИНУ. Молодой начальник ИНУ Павел Михайлович Фитин сменил на этом посту Деканозова, который с 1940 года был последним руководителем ИНО. Фитин был одним из самых способных среди двухсот имевших университетские дипломы молодых коммунистов, которых отобрал Центральный Комитет в конце 1938 года для замены ликвидированных сотрудников НКВД. Соблюдая какие-то рамки даже в крайностях, Фитин был чуть менее раболепен, чем Меркулов, при решении вопросов, какого рода разведывательные анализы передавать наверх. Портрет Фитина, в отличие от трех его предшественников, руководителей ИНО Слуцкого, Шпигельгласа и Деканозова, и сегодня висит — в сопровождении панегирика его жизни — в Зале Славы Первого главного управления КГБ.
Фитин получал донесения от резидентур ГРУ и НКВД, но вплоть до самого вторжения Германии 22 июня 1941 года обладал меньшим влиянием, чем Голиков, начальник ГРУ. Однако ни Фитин, ни Голиков не могли оказывать такого влияния на оценку германской угрозы, как Сталин. Советский биограф Сталина Дмитрий Волкогонов заключал, что «до самого последнего момента Сталин полагался на собственную проницательность и силу пророчества». Его вера в собственную проницательность привела к тому, что Сталин отбрасывал большинство донесений, которые не соответствовали его теории «заговоров».