С 1924 года – работа в Экономическом управлении ГПУ, под началом двоюродного брата, Зиновия Кацнельсона. После недолгой работы в Закавказском ОГПУ был переведён в Иностранный отдел ОГПУ. В качестве нелегального резидента (уже как Лев Никольский) руководил агентурной сетью во Франции, Австрии, Англии, Италии и Испании.
Из воспоминаний Павла Судоплатова:
«Настоящая фамилия Орлова-Никольского – Фельдбин, он же „Швед“ или „Лёва“ в материалах оперативной переписки. На Западе, впрочем, он стал известен как Александр Орлов. Я встречался с ним и на Западе, и в Центре, но мимолётно. Тем не менее считаю важным остановиться на этой фигуре подробнее, так как именно его разоблачения в 50-х и 60-х годах в значительной мере способствовали пониманию характера репрессий 37-го года в Советском Союзе. Кстати, вопреки его утверждению, Орлов никогда не был генералом НКВД. На самом деле он имел звание майора госбезопасности, специальное звание, приравненное в 1945 году к рангу полковника. В начале 30-х годов Орлов возглавлял отделение экономической разведки Иностранного отдела ОГПУ, был участником конспиративных контактов и связей с западными бизнесменами и сыграл важную роль в вывозе новинок зарубежной техники из Германии и Швеции в Союз.
Вдобавок Александр Орлов был ещё и талантливым журналистом. Он не был в Москве, когда шли аресты и расправы в 1934–1937 годах, но его книжная версия этих событий была принята публикой как истинная…
Александр Орлов отлично владел английским, немецким и французскими языками. Он весьма успешно играл на немецком рынке ценных бумаг. Им написан толковый учебник для высшей спецшколы НКВД по привлечению к агентурному сотрудничеству иностранцев. Раиса Соболь, ближайшая подруга моей жены, ставшая известной писательницей Ириной Гуро, в 20-х годах работала в Экономическом отделе ГПУ под его началом и необычайно высоко его ценила. Из числа своих осведомителей Орлову удалось создать группу неофициальной аудиторской проверки, которая выявила истинные доходы нэпманов. Этой негласной ревизионной службой Орлова руководил лично Слуцкий, в то время начальник Экономического отдела, который затем, став руководителем Иностранного отдела, перевёл Александра Орлова на службу в закордонную разведку. В 1934–1935 годах Орлов был нелегальным резидентом в Лондоне, ему удалось закрепить связи с известной теперь всему миру группой: Филби, Маклин, Бёрджесс, Кернкросс, Блант и другими.