Создание самостоятельной внешнеполитической разведки пришлось на период становления советской власти, а следовательно, ее история органически связана со всеми этапами развития Советского государства.
Так, в первые годы своего существования усилия внешней разведки были направлены прежде всего на борьбу с белой эмиграцией за границей, которая представляла большую опасность для Советской России как база для подготовки контрреволюционных групп. Важное значение имело и получение сведений о планах подрывной деятельности иностранных государств против нашей страны.
Основную часть кадров разведки в то время составляли революционеры-подпольщики – люди, безгранично верившие в новое справедливое устройство общества. Именно такими были представители первого поколения сотрудников советской внешней разведки – участники разгрома савинковских организаций А.П. Федоров, Г.С. Сыроежкин и С.В. Пузицкий. За успешное проведение агентурно-оперативной разработки «Синдикат-2» они, как и другие особо отличившиеся чекисты, были награждены в 1924 году орденами Красного Знамени.
За три-четыре года с момента своего создания Иностранному отделу удалось организовать «легальные» резидентуры в сопредельных с СССР странах, а также в главных капиталистических государствах Европы – Англии, Франции и Германии. Было положено начало ведению разведки с нелегальных позиций, образована солидная агентурная сеть в кругах белоэмигрантов и важных правительственных учреждениях ряда стран. Внешняя разведка приступила к добыванию научно-технической информации, необходимой для нужд обороны и народного хозяйства СССР.
Активная наступательная деятельность внешней разведки на первых этапах ее становления помогла сорвать агрессивные планы противников Страны Советов и тем самым способствовала созданию благоприятных условий для экономического строительства и укрепления обороноспособности Советского государства.
В 1930-е годы, с установлением нацистского режима в Германии, начался период резкого обострения международной обстановки. И в Центре, и в резидентурах сотрудникам приходилось работать в очень трудных условиях: не хватало квалифицированных кадров; структура, формы и методы деятельности внешней разведки только начинали складываться; слабой была материально-техническая база. Однако именно в это время закладывались идейно-патриотические основы разведки, накапливался опыт и оттачивалось профессиональное мастерство. Если принять во внимание круг задач, которые были поставлены перед разведкой (постановление Политбюро ЦК ВКП(б) от 30 января 1930 года «О приоритетных направлениях деятельности ИНО ОГПУ»), то возможность их осуществления силами аппарата, насчитывавшего немногим более ста человек, может показаться просто нереальной. Тем не менее разведка работала довольно успешно. Следует отметить, что к середине 1930-х годов на Западе усилились антифашистские настроения. Не только простые люди, но и представители высших кругов общества, демократической интеллигенции смотрели в то время на Советский Союз с надеждой, как на силу, которая может противостоять фашизму и агрессии.
Именно на таких людей опиралась советская внешняя разведка, искала и находила среди них тех, кто соглашался на сотрудничество по политическим и идейным соображениям. Яркими примерами этого служили знаменитая «кембриджская пятерка» и представители «Красной капеллы».
Решение сложнейших задач, стоявших в 1930-е годы перед советской разведкой, потребовало мобилизации всех ее внутренних резервов, укрепления материальной базы и кадров, постоянной корректировки конкретных целей. Правительство, как и в предыдущие годы, уделяло самое серьезное внимание повышению ее эффективности. Так, в 1934 году на заседании правительства были рассмотрены вопросы об улучшении работы ИНО ОГПУ и Разведывательного управления РККА и о координации их деятельности.
Несмотря на обрушившиеся на разведку репрессии, она продолжала вести активную работу по освещению деятельности правящих кругов ведущих капиталистических стран Европы, США и Японии и частичному срыву их планов и мероприятий, направленных против СССР.
Немало полезного сделала советская разведка в эти годы в Испании. Она систематически получала сведения о поддержке франкистов Германией и Италией. В соответствии с личным указанием И. Сталина разведка организовала переброску в Испанию нескольких сотен советских добровольцев-интернационалистов. Этот контингент интербригадовцев с большой отдачей использовался в качестве инструкторов военного дела в учебных центрах, руководителей разведывательно-диверсионных групп, бойцов охраны важных объектов, а также военных переводчиков. После падения республиканского правительства советские разведчики способствовали спасению от неминуемой физической расправы многих бойцов и командиров интернациональных бригад.