На посту начальника внешней разведки Рубен Павлович Катанян проработал недолго, всего до 10 апреля, и по собственному желанию перешел на прокурорскую работу. В дальнейшем он трудился в Прокуратуре РСФСР, Верховном суде СССР и Прокуратуре СССР. Курировал деятельность органов госбезопасности. Был награжден орденом Ленина и нагрудным знаком «Почетный чекист». Имел звание профессора Московского университета.
В 1938 году Р.П. Катанян был репрессирован. С 1938 по 1948 год и с 1950 по 1955 год находился в заключении, а с 1948 по 1950 год— в ссылке. Полностью реабилитирован в 1955 году.
Скончался в Москве 6 июня 1966 года.
С 10 апреля 1921 года Иностранный отдел ВЧК вновь возглавил, но теперь уже в должности официального начальника, Яков Христофорович Давтян. Объяснялось это просто: пока кадровый аппарат Наркоминдела оформлял Давтяна на работу в Венгерскую Советскую Республику, революция в ней была подавлена, и вопрос о его дипломатической службе за кордоном отпал.
Но и Давтян недолго руководил Иностранным отделом. Уже в августе 1921 года он вновь переводится на дипломатическую работу и назначается полпредом РСФСР в Литве. Пробыв в Ковно до сентября того же года, он возвращается в Москву и назначается временным поверенным в делах РСФСР в Китае в ранге советника. При этом Давтян, как было оговорено ранее, одновременно утверждается главным резидентом ИНО ВЧК в Китае, где в ту нору работало около десятка разведывательных коллективов.
Через некоторое время после прибытия в Пекин в служебном письме на имя своего преемника на посту начальника Иностранного отдела Михаила Трилиссера Яков Давтян пишет: «Нашу работу здесь я считаю чрезвычайно важной и полагаю, что тут можно многое сделать».
Яков Христофорович энергично взялся за дело. Через полгода он докладывает в Центр:
«Работа здесь весьма интересная, захватывающая, но очень трудная, чрезвычайно ответственная. Отдаленность от Москвы, плохая связь, взаимное непонимание еще больше осложняют нашу работу... Я никогда (даже в ИНО) так много не работал, как здесь, и никогда это не стоило мне таких нервов».
Объяснялось это тем, что у Якова Христофоровича не сложились отношения с руководителем резидентуры ИНО в Пекине Аристархом Рыльским, который считал, что Давтян дублирует его работу. Следует также иметь в виду, что в те годы органы государственной безопасности еще находились в стадии становления: плохой была дисциплина, многие чекисты голосовали за платформу оппозиции, возглавляемой Троцким, нуждались в укреплении принципы единоначалия и субординации. Требовалось наведение элементарного порядка в работе, и Давтян принимает энергичные меры. Это, несомненно, дало свои плоды, и 9 декабря 1922 года в служебном письме на имя Трилиссера он так характеризует Рыльского:
«О Рыльском ничего плохого сказать не могу, но и особенно хвалить также не стану. Он сильно подтянулся с моим приездом, и есть надежда, что будет полезен. Посмотрим».
Но уже со следующей почтой в Центр ушло новое письмо главного резидента:
«Я буду просить вас заменить Рыльского. Он абсолютно не справляется со своими заданиями, так как ленив и вял».
А еще через месяц, 9 января 1923 года, в адрес начальника разведки летит новое послание:
«Вопреки моему прежнему мнению, Рыльский оказался более симпатичным, чем я ожидал. У него есть некоторая вялость в работе, но в общем и целом оп работает недурно и ведет себя очень хорошо. Я им почти доволен и прошу его не заменять, сработался он со мной хорошо».
Однако у Центра было иное мнение в отношении Рыльского. Понимая, что главной причиной неровного отношения к нему Давтяна является характер последнего, Центр принял решение отозвать Рыльского в Москву, ибо его непростые взаимоотношения с главным резидентом могли поставить под удар всю работу советской разведки в Китае.
Следует подчеркнуть, что этот отзыв не отразился на положении Рыльского в разведке: вскоре он был направлен резидентом ОГПУ в Данию. Затем получил назначение в Париж. В дальнейшем работал руководителем других резидентур как по линии «легальной», так и нелегальной разведки. Яков Христофорович еще не раз встречался с ним, работая за рубежом, но уже в качестве «чистого» дипломата.
Кремль придавал большое значение укреплению всесторонних связей с Китаем, который являлся самой крупной соседней страной. К тому же после Октябрьской революции в Маньчжурии укрылись многочисленные белогвардейские вооруженные организации. Здесь же была значительная — до нескольких десятков тысяч человек — русская колония, работавшая в основном на принадлежавшей СССР Китайско-Восточной железной дороге. Центру было важно знать истинное положение дел в соседней стране, особенно планы белогвардейской вооруженной эмиграции.
Через год после приезда в Пекин Я.Х. Давтян докладывал начальнику внешней разведки: