Разгром внешней разведки незадолго до начала Второй мировой войны нанес серьезный урон государственной безопасности нашей страны. После отстранения Ежова от должности наркома внутренних дел, в НКВД была направлена специальная проверочная комиссия из ЦК ВКП(б). Она была призвана выяснить, как разоблачаются «изменники и авантюристы», проникшие во внешнюю разведку и «обманывавшие партию и государство». Каждый сотрудник разведки подлежал тщательной проверке. Члены комиссии во главе с В. Деканозовым интересовались в первую очередь связями сотрудников с троцкистами и другими «врагами народа».
Новые руководители пришли в разведку по партийному набору. Среди них были партийные активисты, выпускники
Академии РККА имени М. В. Фрунзе, гражданских вузов. Был среди них и будущий начальник внешней разведки 32-летний старший майор госбезопасности Павел Фитин, который руководил ее работой все годы военного лихолетья.
В направленном руководству НКГБ отчете о работе внешней разведки с 1939 по 1941 год Павел Матвеевич Фитин писал:
«К началу 1939 года в результате разоблачения вражеского руководства в то время Иностранного отдела почти все резиденты за кордоном были отозваны и отстранены от работы. Большинство из них затем было арестовано, а остальная часть подлежала проверке. Ни о какой разведывательной работе за кордоном при этом положении не могло быть и речи. Задача состояла в том, чтобы, наряду с созданием аппарата самого отдела, создать и аппарат резидентур за кордоном».
Чтобы восстановить кадровый состав внешней разведки, требовалось организовать специальную подготовку молодых сотрудников. Жизнь диктовала необходимость создания специального учебного заведения, и 3 октября 1938 года нарком внутренних дел издал приказ об организации Школы особого назначения (ШОН) для централизованной подготовки разведывательных кадров.
В воспоминаниях П. М. Фитина, опубликованных после его смерти, по этому поводу говорится:
«В соответствии с решением Центрального Комитета партии от 1938 года «Об улучшении работы Иностранного отдела НКВД» нам пришлось значительно перестраивать деятельность разведки.
Данное решение было вызвано создавшимся ненормальным положением в органах государственной безопасности, и в первую очередь в разведке. В 1930-х годах сложилась обстановка недоверия и подозрительности ко многим чекистам, главным образом к руководящим работникам, не только центрального аппарата, но и резидентур Иностранного отдела за кордоном. Их обвиняли в измене Родине и подвергали репрессиям. В течение 1938–1939 годов почти все резиденты ИНО за кордоном были отозваны в Москву и многие из них — репрессированы.
Обстановка настоятельно требовала принятия неотложных мер по перестройке всей работы внешнеполитической разведки. В марте 1938 года в органы государственной безопасности Центральный Комитет партии мобилизовал около 800 коммунистов с высшим образованием, имевших опыт партийной и руководящей работы. После обучения на ускоренных курсах Школы особого назначения их направили как в центральный аппарат, так и в периферийные органы. Большая группа выпускников ускоренных курсов, в которой находился и автор этих строк, была отобрана для работы в 5-м (разведывательном) отделе ГУГБ НКВД СССР.
Влившиеся в разведку новые кадры вместе с оставшимися на работе чекистами-разведчиками образовали монолитный сплав опыта и молодого задора. Их задача состояла в том, чтобы улучшить разведывательную работу за кордоном.
В результате принятых мер в предвоенные годы удалось укомплектовать около 40 резидентур за кордоном и направить в них более 200 разведчиков, а также вывести на нелегальную работу многих кадровых чекистов. Это сразу же сказалось на результатах».
Новое руководство внешней разведки действительно предприняло энергичные меры по восстановлению загранаппаратов, деятельность которых была парализована в результате многочисленных чисток, и укреплению центрального аппарата разведки. За короткий предвоенный срок Фитину удалось не только залечить раны, нанесенные разведке необоснованными репрессиями, но и значительно активизировать ее деятельность, в первую очередь — за рубежом, сосредоточив внимание на подборе руководителей резидентур. В течение 1939–1940 годов за рубеж были направлены такие опытные разведчики, как М. Аллахвердов, И. Ахмеров, В. Зарубин, Е. Зарубина, А. Коротков, Б. Рыбкин, З. Воскресенская-Рыбкина, Д. Федичкин.
К середине 1940 года в центральном аппарате разведки в Москве работали уже 695 человек, а 242 разведчика были командированы за границу. Наиболее крупными из 40 укомплектованных резидентур были резидентуры в США, Финляндии, Германии.