С 1933 года в качестве разведчика-нелегала выполнял задания во Франции и Швейцарии. В 1934 году Орлов — резидент в Великобритании, где руководил работой сети советских разведчиков-нелегалов. Выдавая себя за гражданина США, открыл фирму по продаже холодильников. Используя эту «крышу», он и связники, прибывавшие из Москвы, встречались с членами «Кембриджской пятерки».
В 1935 году случайная встреча в Лондоне со старым знакомым угрожала Орлову разоблачением, и он вынужденно вернулся в Москву. Оттуда он продолжил координировать операции ИНО за рубежом, а также возглавлял отделение разведки и контрразведки в Центральном военном училище, где проходили подготовку сотрудники НКВД. В том же году Орлов издал книгу «Тактика и стратегия разведки и контрразведки», принятую в качестве учебного пособия в советских разведшколах. Благодаря этому научному труду Орлов завоевал репутацию ведущего эксперта в области спецслужб. За выдающиеся результаты в работе Орлову присвоили звание старшего майора госбезопасности, что соответствовало званию генерал-майор Красной армии.
В сентябре 1936 года Орлов отправился в Мадрид резидентом НКВД. В июле 1938 года он получил предписание срочно прибыть в Центр. Зная, что в Москве полным ходом идет чистка чекистских рядов (к тому времени были расстреляны его сослуживцы Богданов Б.Д., Запорожец И. В., Стырне В. А., Мессинг С. А.), и опасаясь за свою жизнь, он вместе с женой и дочерью-инвалидом бежит в США, прихватив с собой $30 тысяч (сегодня это — $3 миллиона) из кассы представительства НКВД в Испании. В США Орлов из опасения пасть жертвой сталинских «эскадронов смерти» (сформированы из «чистильщиков», то есть ликвидаторов предателей и перебежчиков), которые могут идти по его следу, меняет города, квартиры, имена — благо у него заранее заготовлены американские паспорта. Власти США до 1953 года не догадываются о его существовании. Открылся он лишь после смерти Сталина, дав серию статей в журнале «Лайф» и опубликовав книгу «Тайная история сталинских преступлений».
Эксперты спецслужб признают, что Орлов совершил уникальный, самый благородный поступок из всех, что знает история перебежчиков, — он никого не выдал. Все 35 лет пребывания в США, то есть до своей смерти в 1973 году, он играл в «кошки-мышки» с американскими спецслужбами, сохраняя инкогнито известных ему сотрудников и агентов советской разведки, работавших на Западе в пользу СССР. И даже во время дачи показаний перед комитетами Конгресса он отделывался уклончивыми ответами, лишь внешне походившими на правду…
— В троцкистском движении нет важных политических фигур, кроме самого Троцкого. Покончив с ним, мы устраним угрозу развала Коминтерна…
Сталин раскурил трубку и взглянул на сидевших по другую сторону стола Берия и Судоплатова. Затем, чеканя слова, будто отдавая приказ, сказал:
— Вам, товарищ Судоплатов, партия поручает провести акцию по устранению Троцкого. Вы обязаны
Покинув кабинет вождя, Берия, рассуждая с самим собой, задумчиво произнес:
— Н-да… На всякого Распутина найдется свой князь Юсупов…
Вспомнив, что на полшага сзади идет Судоплатов, резко остановился и спросил:
— Кого назначишь своим заместителем?
— Майора Эйтингона, товарищ народный комиссар. Только на него могу положиться, как на самого себя! — вытянувшись в струнку и щелкнув каблуками, отчеканил Судоплатов.
— Согласен…
И, будто дискутируя с самим собой, нарком философски добавил:
— Да, как ни странно, для такой работы нужен человек с чистыми руками, незапятнанной совестью и железной волей… Проинструктируй Эйтингона, жду результаты!
Так глубокой ночью 9 мая 1939 года закончилось совещание в Кремле «малой тройки» — Сталина, Берия, Судоплатова — и началась спецоперация НКВД под кодовым названием «Утка» по ликвидации Троцкого (кличка «Старик»).
Со временем «Утка» будет признана классическим образцом разноплановой многоходовой операции и не только войдет в методические пособия КГБ и ГРУ — ее будут изучать в учебных классах ведущих спецслужб мира.
10 мая 1939 года, на следующий после совещания день, Судоплатов получил повышение — назначен заместителем начальника внешней разведки НКВД. К себе в помощники и заместители он, как и собирался, назначил Эйтингона.