Мысль о переходе Зорге в разведку возникла у резидента военной разведки в Англии Константина Михайловича Басова. Он первым обратил внимание на перспективного молодого человека, которым в Коминтерне пренебрегали до такой степени, что Зорге, отправленный в Англию в командировку, остался без денег.

С ноября 1929 года Рихард Зорге приступил к работе в 4-м управлении Штаба Рабоче-крестьянской Красной армии.

Австрийский левый публицист Манес Шпербер вспоминал, как в конце двадцатых годов в Берлине появлялись прибывшие из Советского Союза молодые мужчины:

«У этих очень разных людей было много общего — неброская одежда, какую носят люди среднего достатка, скромные сдержанно-вежливые манеры…

Каждый из них был в Берлине проездом и оставался здесь до тех пор, пока не получал предписания о дальнейшем маршруте, который приводил его, как правило обходным путем, в Шанхай или Детройт, в Гонконг или Сан-Франциско, в Бразилию или Италию, в Финляндию или Индию. Один обосновывался в чужой стране в качестве газетного корреспондента, другой — как представитель какого-нибудь импортно-экспортной фирмы, третий — как торговец произведениями искусства.

Они заезжали в Берлин, чтобы “проветриться”, свыкнуться со своим новым обликом и освоиться с чужим именем. Они должны были обзаводиться знакомствами в той или иной среде, прежде им совершенно чуждой, чтобы потом при случае на эти знакомства сослаться.

Я обнаружил, что у них, за одним-единственным исключением, имелось еще кое-что общее: все они во время Гражданской войны занимали высокое положение в военной либо политической сфере и напрямую были связаны с Троцким… Каждый из них публично порвал с оппозицией, покаялся, поклялся в верности партийному руководству. Генеральный секретарь давно собирался их устранить, но прежде они должны были ему послужить и потому получили назначение на опасную работу за границей.

Одного из них, симпатичного молодого человека, отличала способность слушать. Он ловил каждое слово, глаза его отмечали малейший намек на иронию. Мне следовало иметь в виду, что он важная персона в Коминтерне. Его звали Зорге».

Ему сразу предложили ехать в Китай, который стал полем боя между Советским Союзом и Японией. Японская военщина стремилась оккупировать Китай. Сталин надеялся советизировать Китай. Зорге поехал в Шанхай в качестве корреспондента немецкой сельскохозяйственной газеты.

Радистом ему дали немца Макса Клаузена, который в Шанхае женился на русской женщине — Анне Жданковой. В Шанхае Зорге познакомился с японским журналистом Ходзуми Одзаки, который станет одним из главных его помощников. Зорге работал в основном с левыми, коммунистами, и его довольно быстро отозвали, боясь, что китайская полиция его расшифровала.