«Нужен новый способ ведения войны… Совершенно новый. Стратегия должна быть такой, чтобы она позволила победить врага его же собственными руками… А для этого нужны надёжные люди, которые не надевая военной формы, сумеют проникнуть всюду и в нужный момент забрать в свои руки все ключевые пункты во вражеских столицах, во всех органах, куда мы будем готовы проникнуть с оружием в руках.
Когда я начну войну… я сделаю так, что мои войска однажды появятся средь бела дня прямо на улицах Праги или Варшавы, Парижа или Лондона. На них будет чешская, польская, французская или английская форма. Они войдут в здания Генштаба, министерства, парламента. В течение немногих минут Франция ли, Польша ли, Австрия или Чехословакия окажутся лишёнными своих руководителей. Все политические лидеры будут обезврежены». События Второй мировой войны полностью подтвердили все вышесказанное.
В 1934 году при РОВС была создана военизированная молодёжная организация «Белая идея» (ОБИ) под руководством капитана В.А. Ларионова. Программа подготовки боевиков включала в себя стрельбу, бокс и военную подготовку.
Тем временем в органах госбезопасности СССР произошла очередная глобальная перестройка. 10 мая 1934 года скончался В.Р. Менжинский, а ровно через два месяца, 10 июля, Постановлением ЦИК СССР был образован Народный комиссариат внутренних дел СССР (НКВД) СССР, включивший аппараты ОГПУ и НКВД РСФСР. Наркомом был назначен Г.Г. Ягода. На базе ОГПУ было создано Главное управление государственной безопасности (ГУГБ) НКВД СССР. Его куратором стал Я.С. Агранов.
Внешнюю разведку в ГУГБ, как и ранее, осуществлял Иностранный отдел под руководством А.Х. Артузова. С мая 1934 года Артузов по совместительству был назначен на должность заместителя начальника IV (разведывательного) управления штаба РККА, и до мая 1935 года он фактически сидел на двух стульях. Основную часть работы в ИНО вёл заместитель начальника отдела А.А. Слуцкий.
После образования НКВД СССР 13 июня 1934 года «Группа Яши» была подчинена наркому внутренних дел и получила официальное название: Специальная группа особого назначения – СГОН. Группа была наглухо засекречена и опиралась исключительно на собственную агентуру.
1 января 1935 года руководителем абвера был назначен кадровый разведчик, капитан 1-го ранга Фридрих Вильгельм Канарис. Одним из первых его шагов было назначение на пост советника по партизанским операциям капитана Теодора фон Хиппеля, ветерана специальных подразделений, воевавших в Африке под руководством Пауля Леттов-Форбека. По линии СС в феврале 1937 года в Германии было создано Главное управление по работе с этническими немцами в соседних с Германией странах. В задачу управления входило создание в сопредельных странах агентурных сетей, проведение активной подрывной деятельности против правительств тех стран, территории которых подлежали включению в состав Третьего рейха.
Летом 1934 года руководство ИНО ГУГБ приняло решение о внедрении в среду украинских националистов П.А. Судоплатова.
«Слуцкий, начальник ИНО, – вспоминал Судоплатов, – предложил мне стать разведчиком-нелегалом для работы за кордоном. Сначала мне показалось это нереальным. Опыта работы за границей у меня не было, ничего я не знал об условиях жизни на Западе да и знания немецкого языка у меня равнялись нулю. После некоторых раздумий я дал согласие. Сразу приступил к изучению немецкого языка. Опытные инструкторы обучали меня также приёмам рукопашного боя и владению оружием. Исключительно полезными для меня были встречи с заместителем начальника ИНО С.М. Шпигельгласом. У него был большой опыт работы за границей в качестве нелегала – в Китае и Западной Европе».
Куратором и наставником Судоплатова стал опытный разведчик Пётр Яковлевич Зубов. В 1931–1933 годах – оперативник легальной резидентуры ИНО ОГПУ в Париже.
«В 1933–1934 гг. я работал в спецотделе РУ РККА под руководством М.Ф. Сахновской (1897–1937), – вспоминал И.Г. Старинов. – Она член РКП(б). Окончила Военную академию РККА. Репрессирована. Расстреляна. Эта была опытная, энергичная, мужественная женщина, награждённая в числе первых орденом Красного Знамени. За сравнительно небольшой промежуток времени мне удалось подготовить две группы китайцев и ознакомить партийное руководство некоторых зарубежных стран – Пальмиро Тольятти, Вильгельма Пика, Александра Завадского и других о применении минной техники».