Павлу Фитину была понятна причина столь срочного вызова к наркому: подтвердилась информация разведки. Сотрудников наркомата, прибывших по вызову наркома Меркулова, пригласили в его кабинет. Нарком выглядел подавленным. Он сообщил, что на всем протяжении западной границы — от Балтийского до Черного моря — идут бои. Надо продумать план действий органов госбезопасности, учитывая сложившуюся обстановку. Обратившись к Фитину, он сказал:
— А вам необходимо подготовить соответствующие указания закордонным резидентурам. Через полтора-два часа я вас вызову.
В резидентуры ушли телеграммы, подписанные начальником разведки, в которых уточнялись их задачи в связи с начавшейся войной. Главная задача — выявить реальные военно-политические планы нацистской Германии и ее союзников в отношении СССР. Однако в связи с быстрым продвижением германской армии в глубь территории СССР наладить работу внешней разведки за рубежом в соответствии с требованиями военного времени в полном объеме сразу не удалось.
Особенно в сложном положении оказалась резидентура внешней разведки в Берлине. В первый же день войны гестапо блокировало советское посольство в германской столице, запретив любые выходы персонала в город. Правда, заместителю резидента Александру Короткову удалось встретиться с «Корсиканцем» и «Старшиной» и передать им радиостанцию и инструкции на период военных действий. Тем не менее в первые же дни войны связь с антифашистским подпольем в Германии была нарушена. До войны предполагалось, что свои шифрованные сообщения участники «Красной капеллы» будут передавать по радио в приемный пункт разведки, развернутый под Брестом. Однако в связи с оккупацией Бреста он был эвакуирован в глубокий тыл, и связь с подпольем в Германии была утрачена.
В связи с успешным продвижением вермахта на Восток ЦК ВКП(б) 18 июля 1941 года принимает специальное постановление «Об организации борьбы в тылу германских войск». Одновременно принимается решение об очередной реорганизации внешней разведки органов государственной безопасности. Ее основной задачей определяется развертывание активной разведывательной работы за рубежом. Одновременно создается Четвертое (разведывательно-диверсионное) управление НКВД, главной задачей которого ставится ведение разведывательной и диверсионной работы в тылу германских войск. Начальником Четвертого управления назначается заместитель Фитина генерал Судоплатов.
С началом гитлеровского нашествия перед внешней разведкой остро встал вопрос о том, вступит ли Япония в войну на стороне Германии. Эту проблему регулярно отслеживали резидентуры разведки в Японии, Китае и в других странах. Уже в первые месяцы войны ими были получены достоверные сведения, говорившие о том, что Япония займет выжидательную позицию и в ближайшее время нападать на СССР не собирается. Эта информация политической разведки, подкрепленная данными военной разведки и из других источников, позволила Сталину в период битвы за Москву снять с Дальнего Востока и перебросить на Западный фронт сибирские дивизии, которые решили исход этого сражения и отстояли советскую столицу. Однако вопрос о возможном вступлении Японии в войну против СССР не снимался с повестки дня разведки до 1943 года, когда битва за Сталинград закончилась поражением гитлеровской армии.
В суровые годы Великой Отечественной войны работа советской внешней разведки была всецело подчинена борьбе с фашистской Германией и ее союзниками. Разведка сумела в кратчайшие сроки перестроиться в соответствии с требованиями военного времени, сохранить ценную агентуру и наладить с ней надежную связь.
Уже в конце июня 1941 года только что созданный Государственный Комитет Обороны СССР рассмотрел вопрос о внешней разведке и уточнил ее задачи. Они были подчинены одной цели — скорейшему разгрому врага.
Внешняя разведка в этот период строила свою работу по двум основным направлениям. Первое из них — активизация деятельности «легальных» и нелегальных резидентур с целью своевременного получения важной политической и военной информации, а также результативного проведения активных мероприятий.
Разведывательные аппараты внешней разведки органов госбезопасности в США, Англии, Турции, Швеции, Иране, Афганистане, Китае и ряде других стран (в общей сложности 96 «легальных» и нелегальных резидентур) были нацелены на сбор сведений по Германии, Италии, Японии и оккупированным ими странам. Главной задачей ставилось создание агентурных возможностей в правительственных учреждениях, промышленных и научных организациях, разведывательных и контрразведывательных службах этих государств.