В августе 1935 года по предложению Сталина Ежов был избран в Исполком Коминтерна{203}. Это назначение было связано с подготовкой кампании против политэмигрантов, особенно из Польши. В СССР жило более миллиона поляков — главным образом крестьян в пограничных областях Украины и Белоруссии, но среди них было также много политэмигрантов. Уже в 1933 году группа поляков была арестована по подозрению «в шпионаже и диверсии, организованном Польской Организацией Войсковой (ПОВ)», которая была создана в 1915 году генералом Юзефом Пилсудским для борьбы за независимость против Австро-Венгрии и Германии с одной стороны, и против России — с другой. Она приостановила свою деятельность в 1921 году и, таким образом, в 1933 году фактически не существовала. Тем не менее, несколько из арестованных были приговорены к смерти. В сентябре 1935 началась новая волна арестов с целью уничтожения скрытой «сети ПОВ»{204}. В этом же месяце представитель Польской коммунистической партии в Исполкоме Коминтерна Б. Бронковский (Бортновский) направил Ежову меморандум о недостатках в работе НКВД по выявлению провокаторов и шпионской роли польских агентов{205}.
Агенты иностранных разведок, замаскировавшиеся под политэмигрантов и членов братских партий, скрытно проникли в ВКП(б). Именно в таком духе Ежов докладывал Сталину летом 1935 года, а на совещании ОРПО в конце сентябре он пришел к тому же самому выводу{206}. В частности, он упоминал поляков, румын, немцев, финнов и чехов. Основываясь на материалах этого доклада, декабрьский (1935) пленум ЦК принял решение о проверке политэмигрантов, поручив Ежову подготовить резолюцию Политбюро по этому вопросу{207}. 19 января 1936 секретарь Исполкома Коминтерна Дмитрий Мануильский попросил Ежова принять его в ближайшие дни для обсуждения вопроса о мерах «по прекращению проникновения в СССР шпионов и диверсантов под видом политэмигрантов и членов братских партий». Мануильский предложил сократить приток политэмигрантов и потребовать регистрации и проверки всех таких людей в СССР. Он особо настаивал на проверке Польской коммунистической партии как «одного из главных поставщиков шпионов и провокаторов в СССР»{208}. Он рекомендовал, чтобы проверка была закончена до 8 марта. Хотя уже было проверено от девяти до десяти тысяч человек, оставались еще многие, о которых ни отдел кадров Коминтерна, ни Межрабпом не имели никаких сведений{209}. Докладывая Сталину о ходе выполнения резолюции, Ежов указал на «политэмигрантов, подозреваемых в шпионаже, дела которых разрабатываются в НКВД»{210}. 28 февраля после многократных проверок предложение Ежова «О мерах, ограждающих СССР от проникновения шпионских террористических и диверсионных элементов» было принято в качестве постановления ЦК, утверждавшего, что среди множества политэмигрантов в СССР имелись «прямые агенты шпионских организаций капиталистических стран». С целью их выявления Коминтерну и НКВД было поручено в течение трех месяцев провести полную повторную регистрацию всех политэмигрантов, прибывших в СССР по линии Межрабпома, Коминтерна или Профинтерна{211}. С этой целью была создана специальная комиссия ЦК по политэмигрантам, в которую входили Ежов, Мануильский и начальник особого отдела ГУГБ М.И. Гай. После проверки эмигрантов комиссия должна была передать в ЦК на утверждение списки по трем категориям: подлежащих высылке из Советского Союза по подозрению в шпионской или враждебной антисоветской деятельности; подлежащих отправке за границу на подпольную работу по линии Коминтерна и МОПР; подлежащих оставлению в Советском Союзе, так как в их собственных странах им угрожала опасность{212}.
На первом заседании 15 марта 1936 года комиссия решила не ожидать, пока завершится регистрация политэмигрантов, а начать с 1 апреля проверку списков секций Коминтерна, начиная с польской. НКВД начал собирать компромат на польских политэмигрантов{213}. Некоторые уже были арестованы. В ноябре 1935 года глава НКВД Украины В.А. Балицкий доложил об аресте 184 поляков, 61 галичан и 57 немцев, некоторые из них подозревались в шпионаже под прикрытием партбилета{214}. Хотя в постановлении ЦК говорилось лишь о высылке за границу, комиссия санкционировала также и аресты политэмигрантов. Было рассмотрено 368 дел польских политэмигрантов, 53 из них завершились арестом, а 238 — высылкой. В начале 1936 было зарегистрировано в общей сложности 811 политэмигрантов из Германии, и против 414 из них был собран компромат{215}. В1935–1936 годах органы арестовали 126 членов Германской коммунистической партии в СССР — 38 как «троцкистов» и 50 за «связь с гестапо и германским консульством» (в Москве){216}.