На первых порах за шпионскую деятельность за рубежом отвечал 1112 отдел СД, руководимый Хайнцем Йостом. Постепенно к ней стали привлекаться и другие отделы. Разведывательные усилия службы безопасности все чаще стали пересекаться со сферой деятельности службы разведки и контрразведки вооруженных сил Германии — абвера.
Абвер официально был создан в 1921 году и по соглашению с западными державами, подписанным Германией после окончания Первой мировой войны, мог заниматься исключительно контрразведкой. Активные действия за пределами страны были ему запрещены.
На протяжении 20-х годов абвер оставался небольшой и малоэффективной организацией. К началу 1933 года общий штат его сотрудников насчитывал всего около 150 человек. С началом национал-социалистической эры и увеличением финансирования организация начала, наконец, развиваться. Спустя полтора года, летом 1935 года, здесь работало уже чуть менее тысячи сотрудников. Еще годом ранее службу возглавил ставший впоследствии знаменитым на весь мир, в том числе и благодаря своему участию в заговоре против Гитлера в 1944 году, Вильгельм Канарис.
Откровенное нарушение фюрером подписанных Германией международных соглашений отразилось и на спецслужбе. Теперь абвер мог себе позволить заниматься и активной внешней разведкой. За это отвечал как раз его 1-й отдел. 2-й отдел занимался организацией саботажа и мятежей в тылу противника, 3-й — контрразведывательной деятельностью.
Конкуренция между абвером, службой безопасности и гестапо нарастала по мере укрепления позиций последних и выливалась в прямые столкновения их руководителей.
Гейдрих и Канарис знали к тому моменту друг друга уже несколько лет и их первый контакт в должностях руководителей спецслужб был достаточно дружественным. Проживали они в Берлине недалеко друг от друга и нередко совершали совместные пешие прогулки. Но характер, в первую очередь, главы СД взял свое. Конкуренция на профессиональном поле охладила их товарищеские взаимоотношения. Да и свойственная Третьему рейху холодная война «всех против всех» не способствовала укреплению дружеских чувств. Долгое время соотношение сил между Канарисом и Гейдрихом было равным. Существовало некое статус-кво. У шефа службы безопасности имелся политический материал против руководителя абвера. Тот же хранил в сейфе документы о дисциплинарных проступках Гейдриха в бытность того морским офицером и некие свидетельства неприятных для шефа СД фактов его родословной (в Германии циркулировали упорные слухи о том, что один из предков Гейдриха был евреем — якобы, еврейкой была одна из его бабок, а свидетельство о арийском происхождении было подложным).
Первое соглашение о разграничении сфер деятельность между СД-гестапо и абвером было подписано Канарисом и руководителем организационного управления службы безопасности Вернером Бестом в декабре 1936 года. Это была изначальная редакция «десяти заповедей», позже скорректированная. По соглашению, за абвером осталась его вотчина — военная разведка и контрразведка. Гестапо же продолжало заниматься вопросами, подпадающими под определение «государственная измена». Так как своей полиции у военных в мирное время не было, в случае выявления иностранных агентов, действовавших на территории Германии, абвер мог обращаться в таких случаях за помощью к политической полиции. Если бы военные сочли необходимым самостоятельно разрабатывать того или иного шпиона, в соответствии с соглашением они могли это делать и не прибегая к услугам гестапо. Без одобрения абвера политическая полиция не имела права вмешиваться в подобные дела.
Впрочем, не смотря на достигнутые договоренности, столкновения на зарубежном фронте работы продолжали иметь место. СД без оглядки на военных начала проникать в их разведывательные сети, но особыми успехами в ведении внешней разведки похвастаться не могла. Серьезно осложнило отношения между Канарисом и Гейдрихом так называемое «дело Тухачевского», о котором будет рассказано ниже.
В целом же абвер в своей внешнегерманской работе делал упор на сбор данных военного характера, СД же закономерно сосредотачивалось на гражданских секторах — политическом поле.
Так, большую роль служба безопасности сыграла накануне присоединения к Германии Саара.
Эта территория в Средние века была предметом спора между немцами и французами. В ходе объединения Германии Саар, богатый углем и железной рудой, вошел в ее состав, став одним из важнейших промышленных регионов страны, а после Первой мировой был передан в управление только что созданной Лиги наций. Угольные шахты перешли во французскую собственность в качестве компенсации за причиненный немцами в ходе войны урон. Вплоть до 1935 года территория управлялась оккупационной администрацией союзников.
В программе действий Гитлера восстановление контроля над Сааром занимало первое место. Его полезные ископаемые были нужны новому немецкому режиму, взявшему курс на подготовку к европейской войне.