В начале тридцатых годов Берзинь играл ключевую роль в учреждении совместного подразделения ОГПУ и 4-го отдела в спецотделе ОГПУ, отвечавшего и за гражданскую, и за военную радиоразведку. Это подразделение, самое секретное в советской разведке, вплоть до 1935 года было подведомственно не Лубянке и не 4-му отделу, а Народному комиссариату иностранных дел.
Советская радиоразведка была самой обширной и богатой в мире. Она более всех прочих полагалась на помощь агентуры. В то время как прочие разведки получали шифрованные материалы лишь время от времени, ОГПУ/ГУГБ и 4-й отдел отвели их получению наивысший приоритет. Они добились особенного успеха в получении японских шифровок от чиновников японских посольств в Берлине и Праге.
В первые годы деятельности подразделение оказало наиболее заметное влияние на советскую политику по отношению к Японии. Расшифрованная в марте 1931 года телеграмма от японского военного атташе в Москве Генеральному штабу, за шесть месяцев до Маньчжурского инцидента
[18]возбудила у Советов страх перед войной. Телеграмма гласила:В сентябре 1931 года Советы рассматривали Маньчжурский инцидент как возможную прелюдию нападения на Советский Союз, призывы к которому прозвучали в марте. Еще одна перехваченная телеграмма содержала комментарий японского посла в Москве, прибывшего с визитом к японскому генералу, еще больше встревожив Москву:
К зиме 1931/32 года советские вожди настолько испугались японской агрессии, что, даже осознавая, как пагубно это может сказаться на работе советской разведки, решились опубликовать расшифрованные японские депеши. В марте 1932 года Москва провозгласила: "Мы располагаем документами, полученными от высокопоставленных японских кругов в Японии и содержащими планы нападения на СССР и захвата его территории". "Известия" опубликовала выдержки из расшифрованных японских телеграмм, обнародовав просьбу военного атташе о "молниеносной войне" и призыв посла к японской оккупации Сибири.
В середине тридцатых годов совместное радиоразведывательное подразделение снова предоставило ценные сведения, позволив отслеживать длительные переговоры в Берлине между генералом Хироши Ошима, японским военным атташе (а позднее послом), и Иоахимом фон Риббентропом, окончившиеся в ноябре 1936 года анти-коминтерновским пактом между их державами. И снова разведка опиралась в основном на агентурные материалы. Летом 1936 года берлинский агент, находившийся под началом резидента НКВД в Нидерландах, Вальтер Кривицкий, получил доступ к шифровальным книгам японского посольства, а также к их документам по германо-японским переговорам. После этого, по словам Кри-вицкого, "вся переписка между генералом Ошима и Токио регулярно проходила через наши руки". Дополнительным источником сведений была переписка между Токио и японским посольством в Москве, расшифрованная совместным разведотделом.
В результате подобной деятельности Сталин и прочее высшее советское руководство знали, что антикоминтерновский пакт более обширен, чем опубликованная его версия, просто предусматривавшая обмен сведениями о деятельности Коминтерна и сотрудничество в превентивных мерах. Им было известно, что в секретном протоколе оговорено, что, если либо Германия, либо Япония станет жертвой "неспровоцированной [советской] агрессии или угрозы агрессии", обе державы немедленно договорятся о соответствующей реакции, и ни одна из них не предпримет никаких действий, чтобы "облегчить положение СССР".