В октябре 1929 года было принято решение о переходе Зорге в Разведупр, а в январе 1930 года он уже появился в Шанхае. До этого, в конце 1929 года, Зорге отправился в Германию, чтобы договориться об аккредитации в качестве журналиста от германского журнала "Зоциологише магазин" в Шанхае.
В институте во Франкфурте он познакомился с немецким синологом Августом Виттфогелем. Теперь, в ноябре 1929 года, Рихард возобновил это знакомство. Виттфогель, узнав, что Зорге собирается в Китай, свел его с известным синологом, профессором Рихардом Вильгельмом, директором Института Китая во Франкфурте. Через два дня Зорге подписал с германокитайским обществом договор об исследованиях на тему "происхождение и развитие банковского права в Китае".
Отправился еще и в США, где договорился о сотрудничестве с двумя американскими газетами и получил соответствующие документы. В этих документах был указан предполагаемый псевдоним: "Алекс Джонсон". В Китае было несколько дискриминационное отношение к немцам, как к побежденным в Первой мировой войне. Они считались европейцами как бы второго сорта, и в общении с китайцами лучше было представляться американцем. Въезд германских подданных в Китай был разрешен лишь после того, как Германия отказалась от особых прав для своих граждан. Для этого и понадобились Зорге бумаги на имя "мистера Джонсона", американца, — они были чрезвычайно полезны для поездок по стране.
В начале декабря все было готово к отъезду. В январе 1930 года Зорге под видом американского журналиста Александра Джонсона прибыл в Шанхай. Его сопровождали два агента ГРУ. Уже за три месяца работы Зорге удалось создать мощную шпионскую группу, агенты которой имелись во всех ключевых точках от Кантона на юге до Маньчжурии.
В "Тюремных записках" Зорге утверждал, что штатным сотрудником Четвертого управления не был, а по служебным делам был связан с Информбюро ЦК ВКП(б), и там же находился на партийном учете. От ЦК его курировал некто Смолянский. Впрочем, в своих показаниях японцам Зорге всячески пытался затушевать свою связь с Разведуправлением РККА, чтобы не попасть в руки военной полиции. Он настаивал, что Китай — это был его выбор, поскольку Восток больше соответствовал его темпераменту, чем Европа.
В Китае в тот момент советское влияние было ослаблено после того, как лидер Гоминьдана Чан Кайши в 1927 году порвал с китайскими коммунистами и с Советским Союзом. В апреле 1927 года китайская полиция, в нарушение всех международных норм, произвела обыск в советском консульстве в Пекине. В ходе обыска было изъято много документов, и в том числе шифры, списки агентуры, документы о поставках оружия КПК, инструкции китайским коммунистам по оказанию помощи в разведработе. Были найдены и директивы из Москвы, в которых, в числе прочего, говорилось, что "не следует избегать никаких мер, в том числе грабежа и массовых убийств", с тем, чтобы спровоцировать конфликты между Китаем и западными странами. Всю разведработу в Китае пришлось начинать практически заново, так как прежние резиденты и агенты были провалены.
Чан Кайши, поссорившись с Москвой и китайскими коммунистами, призвал себе на помощь германских военных советников и стал активно закупать германское оружие, хоти у Германии и СССР в то время были хорошие отношения. А советниками КПК часто посылались функционеры германской компартии. В этом контексте и резидентом в Шанхае логично было иметь немца.
Китай в то время был одним из центров деятельности всех мыслимых и немыслимых разведок, какие только существовали на земном шаре. До 1927 года его можно было назвать "раем для шпионов". Контрразведки всех властей (а в Китае противостояли друг другу Гоминьдан, северные милитаристы и коммунисты) увлекались исключительно борьбой с агентами соперничающих группировок и ловлей иностранных шпионов почти не занимались. Много достоверной информации можно было получить без помощи агентуры, поскольку газеты сеттльментов и концессий печатали любую информацию, попадавшую к ним в руки, в том числе и секретную.
Коррупция в китайской администрации, полиции и армии достигала колоссальных масштабов, а основная масса населения жила чрезвычайно бедно и за очень небольшие деньги была готова на все.
Работа облегчалась еще и тем, что иностранцы в Китае считались".гражданами высшего сорта". Они жили компактно на территории международного сеттльмента, французской и японской концессий — все эти поселения пользовались правами экстерриториальности, на их территории не действовали китайские законы. Формально в начале 1930 года Чан Кайши отменил особый статус этих районов, но фактически все оставалось как было.