Еще одним конкурентом шпионской организации Берзина был Иностранный отдел ГПУ, образованный в 1921 году. В начале его основной задачей было наблюдение за сбежавшими на Запад белогвардейцами, но уже вскоре появились новые амбиции в области разведки. ИНО держал за границей резидентов-организаторов с их собственными осведомителями и впоследствии был представлен в каждой дипломатической миссии, его сотрудники обычно назначались секретарями посольств. Эти чиновники вели заметки о благонадежности каждого работника посольства, включая военного атташе, они отмечал все, что по весьма растяжимым понятиям ГПУ могло подпадать под «борьбу с контрреволюцией».
Секретная полиция находилась в тесном контакте с зарубежным коммунистическим подпольем преимущественно тех стран, которые, по мнению Москвы, созрели для революции. ГПУ контрабандой доставляло в эти страны оружие, формировало террористические группы, обучало зарубежных коммунистов искусству подрывной деятельности.
Поскольку дело касалось разведки за рубежом, Берзин ухитрился ограничить деятельность своего соперника Дзержинского исключительно «оборонительными» задачами. Центральный информационный отдел Политбюро Коммунистической партии, который разрешал проблемы, возникавшие между разведкой и тайной полицией, постановил, что активная разведка полностью относится к прерогативе Разведупра. Тем не менее разведке приходилось постоянно держаться настороже ввиду дальнейших посягательств секретной полиции на её территорию, поскольку последняя теперь начала работать ещё с одним соперником за рубежом — Коминтерном.
Коммунистический Интернационал, сокращенно Коминтерн, был международной коммунистической организацией, созданной по решению высшего советского руководства в марте 1919 года. Его создание стало отражением надежд европейских коммунистов на мировую революцию. Тридцать две партии учредители Коминтерна верили, что их организация поможет сменить буржуазное общество коммунистическим, которое удержит империализм от развязывания следующей, ещё более кровавой войны.
Поскольку мировая революция так и не стала реальностью, Коминтерн постепенно превратился в инструмент советской политики. Образовали его в Москве, руководство его находилось в Москве, и отсюда же исходили приказы. Советские функционеры возглавляли самые важные подразделения Красного Интернационала, в частности Президиум Исполнительного Комитета с его многочисленными отделами. Его председатель был русским, основные решения Коминтерна принимались Политбюро Советской Коммунистической партии, непосредственно Исполнительному комитету оставили только распорядительные директивы.
Тайный мир иллюзий, в котором пребывало руководство Коминтерна, был инспирирован русскими. На Втором Всемирном конгрессе Коминтерна в июле-августе 1920 года русское руководство настоял на решении, по которому в дополнение к своим легальным органам коммунистические партии должны формировать подпольные организации для подготовки вооруженного восстания. Официально названной причиной этого являлось стремление буржуазных капиталистических правительств «уничтожить коммунистов во всех странах путем систематической нелегальной работы», поэтому они должны подготовиться к моменту, когда «буржуазия начнет открыто преследовать коммунистов».
В результате такого решения наряду с разведкой и тайной полицией появилась третья организация, занимавшаяся конспиративной работой. Эмиссары Исполнительного Комитета вели тщательно скрываемую подпольную войну против некоммунистических государств. Его «международные инструкторы» наблюдали за образованием нелегальных организаций коммунистических партий, вооружали их и финансировали, организовывали мастерские по подделке паспортов и создавали курьерскую службу, связывавшую партийное подполье с руководством Коминтерна.
В скрытом от посторонних глаз мире нелегальной политики человек, управлявший этой империей, оставался загадочной фигурой даже для самих конспираторов. Им был Осип Пятницкий, «серый кардинал» Коминтерна, глава его организации и казначей. Свою подрывную деятельность он вел главным образом через отдел, в который могли свободно обращаться коммунисты — Отдел международных связей (ОМС).
Достаточно невинное название скрывало тот факт, что у Пятницкого с его ОМС были свои люди в каждой коммунистической партии, и он практически определял их политику. Он был хозяином могущественных «международных инструкторов» Коминтерна, его отдел имел за границей собственные офисы и держал в советских дипломатических миссиях своих представителей, которые часто пользовались за рубежом большим влиянием, чем их соперники из Разведупра и ГПУ. С такими силами глава ОМС явно стал центральной фигурой советского шпионажа.