Но вскоре положение резко изменилось. 26 января 1923 года Сун Ят-сеном и советским представителем в Китае А. Иоффе было подписано советско-китайское соглашение, после чего в Китай была направлена группа советских политических советников под началом М. Бородина (Грузенберга). А в 1924 году в Гуанчжоу (Кантон) прибыла группа советских военных советников во главе с В. Блюхером (находился в Китае под фамилией Галин). В их число входили и сотрудники военной разведки. Так, например, в начале 1926 года в миссию Блюхера были направлены военные разведчики Х. Салнынь, И. Винаров, его жена Г. Лебедева и другие. Их задачей было оказание помощи в организации разведки китайской национально-революционной армии и работа против спецслужб Японии, Англии, Германии, Франции и США.
В результате только в начале 1925 года в Китай было направлено 39 сотрудников Разведупра для помощи местным резидентам. И уже к апрелю 1926 года военная разведка имела в Китае 16 резидентур. В ноябре 1925 года в связи с началом гражданской войны и созданием Пекине военного отдела Разведупр организовал Пекинский разведцентр, которому были подчинены все резидентуры в стране. Однако Пекинский разведцентр работал не в интересах Разведупра, а фактически выполнял роль разведывательного органа военного отдела в Пекине и не уделял должного внимания освещению вопросов, касающихся безопасности СССР. Поэтому в ноябре 1926 года была проведена очередная реорганизация резидентур в Китае. В подчинении Пекинского разведцентра были оставлены только четыре резидентуры (в Калгане, Шанхае, Тяньцзине и Ханькоу). Часть резидентур была ликвидирована (в Кайфыне, Чифу, Чанше и Хайларе), а остальные (в Харбине, Кантоне и Угре) подчинены непосредственно Разведупру РККА.
Здесь надо особо отметить, что после образования в 1921 году Коммунистической партии Китая (КПК), реорганизации в 1923-24 годах Гоминьдана и вступления в него коммунистов и смерти 12 марта 1925 года Сун Ят-сена руководство Советского Союза во главе со И. Сталиным взяло курс на раздувание китайской революции и ее советизации с целью в самое ближайшее время направить Китай на «социалистические рельсы». Наиболее рьяными сторонниками этого пути являлись М. Бородин и полпред СССР в Китае Л. Карахан (Караханян). Но были и противники столь решительного курса. Например, заместитель наркома иностранных дел М. Литвинов, полпред СССР в Японии В. Копп и другие. Противостояние этих группировок в советском руководстве, доходящее порой до интриг самого низкого пошиба, не могло не повлечь за собой отрицательных последствий. А главное, проводимая Бородиным политика по отношению к Гоминьдану и главнокомандующему китайской армией Чан Кайши привела к резкому обострению отношений между официальным правительством Китая и СССР.
Дело в том, что Бородин после начала Северного похода национально-революционной армии, предпринятого в июле 1926 — марте 1927 года с целью объединения Китая, стал требовать от советских военных советников вести «военно-техническую работу в зависимости от политической обстановки и в тесном контакте с агентурой Коминтерна». На деле это означало попытку смещения Чан Кайши путем преднамеренного поражения частей китайской армии на шанхайском фронте, действующем против войск генерала Сун Чуанфана, и замене его военачальником-коммунистом. Одновременно с этим в Шанхае под руководством КПК быстрыми темпами началось формирование отрядов китайской Красной гвардии с целью организации вооруженного восстания, провозглашения революционного правительства по типу советского и создания китайской Красной Армии. Требование Бородина было встречено военными советниками крайне негативно, а Блюхер прямо заявил, что директивы Бородина преступны, о чем телеграфировал лично Сталину. Но Сталин встал на сторону Бородина и его план был принят к исполнению.
Однако о намерениях Бородина стало известно Чан Кайши, и он немедленно начал наступлние на Шанхай. 12 апреля 1927 года Шанхай был взят его войсками, начавшееся восстание — потоплено в крови, а 28 апреля были арестованы и казнены двадцать пять функционеров КПК. А затем в Нанкине лидеры Гоминьдана создали новое правительство во главе Ху Хан-минем. Впрочем, фактическим главой нового гоминьданского режима стал Чан Кайши, занимавший с ноября 1928 по январь 1932 года пост премьер-министра и сохранивший за собой должность главнокомандующего армией. В результате в августе 1927 года советские политические и военные советники были вынуждены покинуть Китай, а сотрудники военной разведки — перейти на нелегальное положение.