С этой целью в Шанхае Четвертым отделом были созданы три разведгруппы. Первой разведгруппой, в которую входил Зорге, руководил Алекс. Она занимались сбором информации. Разведгруппа, которой руководили генерал армии Тео Фрейлих и полковник Фельдман, должна были держать связь с армией китайских коммунистов. В третьей разведгруппе «Джим» работали агенты Вишин и Клаузен. Под прикрытием коммерческой деятельности они работали связными и отправляли секретных курьеров.
Зорге был связан только с третьей разведгруппой. Радиосвязь между Шанхаем и Россией была неудовлетворительной. Зорге решил изменить способ передачи информации. Он стал отправлять микрофильмы в Харбин, где работала разведгруппа Гломберга, а тот передавал информацию в восточные районы СССР.
Алекс оставался в Шанхае только шесть месяцев. После его отъезда во главе группы стал Зорге. Он завербовал прекрасного агента — американскую корреспондентку газеты «Франкфуртер цай-тунг» в Шанхае Агнес Смедли. Она стала вербовать китайских и японских агентов. Это она вывела Зорге на Озаки Хозуми, который сыграл большую роль в работе советской разведки. Озаки регулярно встречался с «Джонсоном» (Зорге) в квартире Смедли или в ресторане «Нанкин роуд».
Сам Зорге основательно проник в немецкую колонию Шанхая и был в прекрасных отношениях с генеральным консулом Германии. Перед отъездом из Берлина он запасся рекомендательным письмом пресс-центра Министерства иностранных дел и знал, как и где им пользоваться. Это письмо открывало ему нужные двери.
Рихард Зорге много ездил по Китаю. Его тепло встречали во всех немецких консульствах, особенно в Кантоне, где консул охотно делился с ним информацией. В Нанкине Зорге познакомился с полковником фон Крибелем, военным советником при китайском правительстве. Он не скрывал своей симпатии к Зорге и помогал ему во многом. Кроме того, у Рихарда сложились хорошие отношения с немецкими пилотами внутренней авиалинии «Евразия», и он смог узнавать от них все, что происходит в Китае.
Вскоре он уже мог ответить на вопрос, который волновал Москву — о реальной силе правительства Чан Кайши и его армии. Если Гоминьдан мог манипулировать и использовать национализм и ксенофобию китайцев, противостоя Японии, то Сталин стал бы стремиться к союзу с сильным правителем.
28 января 1932 года в Шанхае произошло серьезное столкновение между японскими пехотинцами и 19-й китайской армией. Китайская армия стойко противостояла оккупантам.
Зорге не только внимательно следил за ходом сражения, но и участвовал в нем, бегал по траншеям, передавая гранаты китайским бойцам. Озаки информировал его об отношении японского командования к этим событиям. Немецкие военные советники в Нанкине сообщали ему о стратегических планах китайского командования.
Зорге написал подробный отчет и передал его через пункт связи в Харбине в Москву. Выводы этого документа стали основой новой политики Сталина по отношению к Китаю и китайским коммунистам. Последним он советовал искать сотрудничества с Гоминьданом.
Вскоре после событий в Шанхае Озаки получил вызов своей редакции «Осака Шимбун» и вернулся в Японию. Зорге ввел в группу радиотелеграфиста Макса Клаузена, которого ему рекомендовал радист Вейнгартен. Кроме того, из Москвы к нему были посланы два специалиста подрывной работы: некий Поль, полковник Красной Армии, и Джон, польский коммунист.
В 1932 году Зорге еще интенсивнее ездит по районам Китая. Он пишет статьи о китайском сельском хозяйстве в газету «Гетрайде цайтунг», от которой аккредитован, и эти статьи читаются в Германии с большим интересом. Зорге много читает и осведомлен обо всех событиях, происходящих в Китае.
После трех лет пребывания в стране Зорге стал одним из видных специалистов по проблемам Дальнего Востока. Его настолько уважали в Четвертом бюро, что в 1933 году вызвали в Москву для консультаций.
Прежде всего он встретился со своим начальником, главой службы внешней разведки генералом Берзиным. Тот поздравил его и поблагодарил за отличную работу. Затем Зорге вызвали в ЦК, где он возобновил знакомство с первым секретарем Григорием Смолян-ским, которого встречал в 1929 году. Смолянский сказал, что сообщения Зорге о ситуации на Дальнем Востоке высоко оценены руководством страны. Встретился он и с представителями военного командования, которым подробно докладывал о событиях на Дальнем Востоке в течение нескольких дней.
Во время этих встреч стал вопрос о том, что слабым местом советской разведки является Япония, о которой мало известно, а предыдущие разведгруппы, работавшие там, провалились. Работать в этой стране чрезвычайно трудно — японская полиция в высшей степени профессиональна, население зорко следит за иностранцами, видя кругом шпионов.
Зорге сразу согласился работать в этой стране. Его внедрение в японскую разведсеть было тщательно подготовлено советской военной разведкой.