Параллельно с Особой группой Я. И. Серебрянского по линии Коминтерна и Профинтерна создавались специальные структуры, предназначенные для диверсионной деятельности в особых условиях. Одной из таких структур являлся Международный союз моряков и портовых рабочих. Его создателем был немецкий коминтерновец Э.-Ф. Вольвебер, в 1921–1924 гг. возглавлявший военную организацию компартии Германии в Гессене, Тюрингии и Силезии. В 1928–1932 гг. Вольвебер руководил службой безопасности КПГ и одновременно являлся председателем Международного союза моряков и портовых рабочих. Отделения этой организации находились в 22 странах и в 15 английских и французских колониях. Клубы союза в Амстердаме, Гамбурге, Бремене, Данциге, Копенгагене, Осло, Риге, Роттердаме, Таллине служили отличным прикрытием для нелегальных резидентур Коминтерна по линии «Д». В 1933 г. Э.-Ф. Вольвебер перешел на нелегальное положение и эмигрировал в Данию. В 1953 г. он стал статс-секретарем государственной безопасности, а в 1955–1957 гг. являлся министром ГБ ГДР.
В 1930 г. Н. И. Эйтингон возвращается из Турции в СССР и становится заместителем Я. И. Серебрянского по 1-му отделению Иностранного отдела и Особой группе. В этой должности он совершает несколько заграничных командировок, в том числе в США, где занимается созданием глубоко законспирированных агентурных сетей. В 1931 г. его назначают начальником 8-го отделения ИНО, затем следуют командировки в Бельгию и Францию. После того как Я. И. Серебрянский сосредоточивается на работе в Особой группе, Эйтингон меняет его на посту руководителя 1-го отделения ИНО.
На фоне этих событий П. А. Судоплатов переходит из Отдела кадров на работу в Иностранный отдел ОГПУ. В дело опять вмешался случай. В 1933 г. сотрудник ИНО Т. Кулинич, отвечавшая за оперативное наблюдение и борьбу с украинской эмиграцией на Западе, подает рапорт об отставке по состоянию здоровья. Начальник Иностранного отдела А. X. Артузов, по долгу службы знавший, что П. А. Судоплатов не только родился и вырос на Украине, но и имеет опыт аналитической и оперативной работы в местных условиях, предложил ему занять вакантную должность. Так Павел становится оперуполномоченным 5-го, а затем 8-го отделения ИНО. К тому времени его жена Эмма тоже перевелась в Москву и получила назначение в Секретно-политический отдел.
«Видную роль в руководстве Иностранным отделом, – вспоминал Павел Анатольевич, – помимо Артузова и Слуцкого играли Берман, Федоров (возглавлявший борьбу с эмиграцией), Шпигельглаз, Минскер, Эйтингон и Горожанин».
Артур Христофорович Артузов (настоящие имя и фамилия Артур Евгений Леонард Фраучи), родившийся в 1891 г., в 1922–1927 гг. возглавлял Контрразведывательный отдел ГПУ – ОГПУ, на этом посту руководил операциями «Трест» и «Синдикат-2», в результате которых были арестованы Б. В. Савинков и С. Рейли, а также разгромлены многие подпольные террористические группы. В 1931–1935 гг. Артузов руководил Иностранным отделом ОГПУ. С мая 1934 г. по совместительству – заместитель начальника IV (Разведывательного) управления РККА, в мае 1935 г. освобожден от работы в ИНО в связи с переходом в военную разведку.
Слуцкий Абрам Аронович, родившийся в 1898 г., находился на оперативной работе и занимал руководящие должности в Экономическом управлении ОГПУ с 1926 г. В 1930 г. его переводят во внешнюю разведку, а в 1931 г. назначают заместителем начальника ИНО. Одновременно в 1931–1933 гг. Слуцкий являлся главным «легальным» резидентом ИНО в ряде стран Европы.
Берман Борис Давыдович, 1901 года рождения, работал в Иркутской ГубЧК с 1921 г. С 1928 по 1930 г. находился на оперативной работе в Средней Азии, участвовал в операциях по ликвидации басмачества. С января 1931 г. – сотрудник внешней разведки, работал в «легальной» резидентуре в Берлине, в 1933 г. – в Риме. Помощник начальника ИНО, с 1934 г. – заместитель начальника ИНО.
Федоров Андрей Павлович, родившийся в 1888 г., в 1916 г. окончил Александровское военное училище, с 1920 г. – сотрудник Особого отдела 10-й армии, до 1922 г. служил на Кавказе. С 1922 г. – сотрудник КРО ГПУ – ОГПУ, ближайший помощник Артузова, участник операции против Б. В. Савинкова. До 1933 г. официально являлся начальником отделения КРО, очевидно, параллельно работал в ИНО. Затем был назначен начальником разведотдела УГПУ по Ленинграду и Ленинградской области.