Советское правительство стремилось наладить хорошие отношения с демократическими, антиколониальными силами в Китае. В 1923 году Сун Ятсен и советский дипломат Адольф Иоффе подписали первое советско-км-тайское соглашение. В помощь гоминдановскому правительству в Гуанчжоу (Кантон) была направлена группа советских политических советников под руководством старого большевика Михаила Бородина (Грузенберга). Тогда же Москву посетила делегация Гоминдана, которую возглавлял Чан Кайши. 31 мая 1924 года в Пекине было подписано соглашение «Об общих принципах урегулирования вопросов между СССР и Китайской республикой». 20 сентября 1924 года, в Мукдене был заключен договор с властями, осуществляющими фактический контроль в Северо-Восточном Китае, ставший частью пекинского соглашения. А уже в конце сентября согласно достигнутым договоренностям Советский Союз предоставил Китаю заем в 10 млн. юаней и начал поставлять оружие для формирующейся Народно-революционной армии Китая. С октября 1924 года в Китае работали советские военные советники. Всего же в период с 1924 по 1927 год в Китае работало до 135 советских военных советников, которыми руководили такие известные военачальники как Павел Павлов (утонул в реке в 1924 году), Василий Блюхер, Николай Куйбышев и другие.
Сотрудничеству мешало нахождение на территории Китая большого числа белогвардейцев, ранее воевавших против Красной Армии. Особенно много их было в Маньчжурии, находившейся под контролем китайского генерала Чжан Цзолиня. Действовало множество белогвардейских организаций – монархическое «Богоявленское братство», «Комитет защиты прав и интересов эмигрантов», «Мушкетеры», «Черное кольцо», «Голубое кольцо», вооруженные отряды Анненкова, Глебова, Нечаева, Семенова и других, ставившие своей целью вооруженную борьбу с советским государством. Главными целями советской разведки в Китае были белоэмигранты и японские спецслужбы.
Первая легальная резидентура И НО ВЧК в Китае была создана в Пекине под прикрытием советской дипломатической миссии в начале 1921 года во главе с Аристархом Ригиным, работавшим под псевдонимом Рыльский. Под его руководством начала создаваться агентурная сеть и региональные резидентуры в других городах, которых вскоре насчитывалось около десяти. В 1922 году Ригина в Пекине сменил Яков Христофорович Давтян, первый начальник ИНО ВЧК, который стал главным резидентом в Китае (до конца 1924 года). В 1925 году новым главным резидентом ИНО ОГПУ в Китае был назначен помощник начальника ИНО Сергей Вележев, работавший в Пекине под псевдонимом Ведерников.
Эйтингон в конце 1925 года прибыл в Шанхай. Шанхайскую резидентуру ИНО возглавлял под прикрытием должности вице-консула с декабря 1925 года Яков Минский. Его заместителем и стал Наум Эйтингон (с этого времени до начала 1940-х годов Эйтингон работал за границей и в центральном аппарате ИНО под именем Леонида Александровича Наумова, многие знали его как Леонида, в то время как в различных официальных документах он выступал под своей фамилией). В шанхайской резидентуре в 1926-1927 годах под прикрытием должности коменданта консульства работал Рудольф Иоганно-вич Абель, впоследствии полковник разведки, скончавшийся в 1946 году (его именем в 1957 году воспользовался арестованный в США разведчик-нелегал Вильям Фишер, ставший знаменитым как «полковник Абель»).
В то время работникам зарубежных резидентур была предоставлена большая свобода в вербовке агентуры, а резиденты имели право без согласования с Москвой утверждать новоприобретенНых агентов.
Работа советских разведчиков проходила в сложных условиях обострившейся внутриполитической борьбы в Китае. В марте 1927 года Михаил Бородин, следуя указаниям руководства ВКП(б) и Коминтерна, предпринял попытку сместить главнокомандующего китайской армией Чан Кайши. По его указанию в Шанхае под руко-
водством КПК началось формирование отрядов китайской Красной гвардии с целью организации вооруженного восстания, провозглашения революционного правительства и создания китайской Красной Армии. Чан Кайши начал наступление на Шанхай. 12 апреля 1927 года Шанхай был взят его войсками, начавшееся восстание потоплено в крови, а 28 апреля были арестованы и казнены 25 руководителей компартии Китая. В результате советско-китайские отношения резко ухудшились. В апреле 1927 года по указанию Чан Кайши был проведен обыск в советском консульстве в Пекине, во время которого полиция изъяла большое количество документов, в том числе шифры, списки агентуры и поставок оружия КПК, инструкции китайским коммунистам по оказанию помощи советским представителям в разведработе. Обострилась и обстановка в Маньчжурии в районе Китайс-ко-Восточной железной дороги (КВЖД). а против сотрудников советского консульства в Харбине постоянно устраивались провокации. Фактический правитель северо-восточных провинций Китая генерал Чжан Цзолинь занял прояпонскую позицию, всячески притесняя советских служащих КВЖД.