В 1924–1930 годы была проведена операция «Синдикат-4» — агентурное проникновение в английскую разведку под прикрытием легендированной организации «ВРИО». «Синдикат-4», в отличие от «Треста», был ориентирован не против «николаевцев» — сторонников великого князя Николая Николаевича, а против приверженцев другого претендента на престол — великого князя Кирилла Владимировича — «кирилловцев». В ходе операции по легенде, разработанной ОГПУ, в СССР якобы действовала мощная, разветвленная антисоветская организация — Внутренняя национальная российская организация. На территории страны чекистами было создано 46 «явок» для связи с зарубежьем — в Москве, Одессе, Ташкенте, Хабаровске, Харькове, Баку, Краснодаре, Киеве, Нахичевани, Ростове-на-Дону, Ленинграде, Пскове и др., что позволило ОГПУ держать под контролем основные каналы проникновения эмиссаров эмигрантских центров.
Сотрудниками КРО были также выявлены и арестованы нелегально проникшие в СССР один из лидеров кадетской партии князь П. Д. Долгоруков, деятели РОВС штаб-ротмистр Г. Е. Эльвенгрен, полковник И. М. Сусалин, бывший офицер армии Юденича В. И. Анненков («Махров», «Арсеньев»), расстрелянные по приговору Коллегии ОГПУ в июне 1927 года (в качестве заложников после теракта 7 июня в Ленинграде).
Контрразведчикам приходилось также вести борьбу с бандитизмом, антисоветскими мятежами (например, в Якутии в 1927 году, при подавлении которого отличились помощник начальника КРО С. В. Пузицкий и известный по операции «Синдикате» Г. С. Сыроежкин).
С марта 1926 года в ведение КРО из Восточного отдела ОГПУ были передана борьба с турецким, персидским и афганским шпионажем. Оживилась работа за границей. Резидентуры КРО действовали при дипломатических представительствах СССР за границей. Контрразведчики под видом дипломатов обеспечивали безопасность полпредств и консульств. В 1926 году эти функции были переданы ИНО ОГПУ.
Сотрудники КРО работали за границей и нелегально. В 1924–1926 годах под видом купца В. И. Шилова находился на работе по линии КРО в Харбине контрразведчик Василий Иванович Пудин, установивший обширные связи среди белогвардейцев, завербовавший ценную агентуру. Через агентов и лично путем негласных выемок Пудин добыл сотни секретных документов, в том числе около 20 японских и китайских шифров.
Артузов руководил контрразведкой в течение 5 лет. Как у каждого человека, у него были взлеты и неудачи. Летом 1927 года Артузов был назначен по совместительству 2-м помощником начальника Секретно-оперативного управления ОГПУ Генриха Ягоды, а уже через четыре месяца, в ноябре, он был освобожден от работы в КРО, что, видимо, было связано с не совсем удачным завершением операции «Трест». Очередной служебный зигзаг у Артузова произошел в январе 1930 года, когда он был назначен по совместительству заместителем начальника Иностранного отдела ОГПУ, которым с ноября 1929 г. был 2-й зампред ОГПУ Станислав Мессинг. В конце того же года он участвовал в следствии по делу «Промпартии», о котором через год, в декабре 1931 года, в личном письме Менжинскому скажет: «…Я всеми силами старался путем допросов вскрыть отдельные противоречия материалов следствия. По отдельным фактам у меня возникали сомнения». Далее там же он ставит себе в заслугу то, что «со своим сомнением» пошел только к Менжинскому и Ягоде. Видимо, ведомственная, чекистская мораль превалировала в сознании Артузова над партийной, иначе он пошел бы в ЦК партии. А может быть, он понимал причины готовившегося процесса, его социальный заказ[46]
.После выступления Мессинга против Ягоды (в компании с другими руководителями ОГПУ) Артузов сменил его на посту начальника ИНО 1 августа 1931 года. За день до этого, 31 июля, Артузов был назначен членом Коллегии ОГПУ.
В ИНО заместителями Артузова были Абрам Слуцкий, сменивший его в 1935 г., и Михаил Горб, которого в 1933 г. заменил Валерий Горожанин (работавший до этого начальником Секретного отдела ГПУ Украины и заместителем начальника Секретно-политического отдела ОГПУ). Помощником Артузова с 1934 г. был Борис Берман, успешно работавший ранее резидентом в Берлине и Риме. Вместе с Артузовым пришли в ИНО ряд сотрудников КРО. Помощником начальника стал Сергей Пузицкий, начальниками отделений — Отто Штейнбрюк и Андрей Федоров, на загранработу были посланы Теодор Малли (нелегальный резидент в Лондоне), Георгий Косенко (позднее резидент в Париже), Натан Шнеерсон (заместитель резидента в Берлине, затем помощник начальника ИНО), Борис Гудзь (резидент в Токио). Основным содержанием работы Артузова в ИНО было проведение им в жизнь директивы Политбюро ЦК ВКП (б) (январь 1930) о переходе в разведке за границей преимущественно с нелегальных позиций. Именно этот период историки отечественных спецслужб и ветераны называют «эпохой великих нелегалов».