В Сааре было объявлено проведения плебисцита — голосования, в ходе которого жители должны были высказать мнение о том, хотят ли они воссоединиться в лоне «матери-родины».
СД сыграло в подготовке плебисцита важнейшую роль. Агенты службы безопасности занимались выявлением и запугиванием противников присоединения. Среди саарцев был пущен слух о том, что проголосовавшие против воссоединения будут считаться в рейхе изменниками родины со всеми вытекающими отсюда последствиями — помещением в концлагерь и высылкой из страны. Сыграла свою роль и пропагандистская кампания, организованная Геббельсом, а также поддержка Гитлера со стороны местных влиятельных католических кругов. В результате «за» высказались более 90 % голосовавших. Еще около 8 % посчитали, что лучше все же остаться под управлением Лиги наций.
Спустя две недели, 1 марта, Саар стал частью рейха. Тут же за работу здесь взялось гестапо. В течение нескольких месяцев, прошедших с момента прихода Гитлера к власти в Германии, именно через Саар из рейха в соседние страны шел мощный поток беженцев, а обратно — кипы подпольной литературы. Из Саара же еще остававшиеся к тому времени оппозиционные Гитлеру подпольные организации пытались наладить работу на территории Германии. Поле деятельности для политической полиции было просто непаханым. Гестапо разыскивало и арестовывало руководителей оппозиции, распространяло провокационные лозунги, призывая население к расправам над «сепаратистами» и «французскими шпионами», а также составляла привычные для себя списки неблагонадежных.
Абвер сосредоточился на своем главном, военном, направлении. Некий дебют обновленной при Гитлере спецслужбы состоялся в Испании, с которой был тесно связан и сам Вильгельм Канарис. Еще в годы Первой мировой он был направлен сюда немецкой разведкой и развернул широкую шпионскую деятельность, организовал снабжение подводных лодок с территории Испании и Португалии. Теперь ему представилась возможность возобновить старые знакомства.
В начале 1936 года ряд генералов испанской армии — приверженцев консервативных взглядов, близких немецкому национал-социализму и итальянскому фашизму, приняли решение осуществить государственный переворот. На тот момент у власти в стране находилось республиканско-социалистическое, а на деле коммунистическое правительство. Военные, убежденные антикоммунисты, не были согласны с проводимыми в стране преобразованиями. Трудность заключалась в том, что Испания на тот момент была достаточно бедной страной с низким уровнем жизни населения. Этот и другие факторы влияли на симпатии многих простых испанцев, видевших решение своих проблем в построении социального государства. Эту идею разделяли и рядовые солдаты армии. Генералы же решили предложить стране иное решение экономических проблем.
Изначально военные планировали осуществить захват власти исключительно своими силами, ни о какой помощи со стороны Германии и Италии речи не шло. Предполагалось, что имеющихся в их распоряжении войск будет достаточно. Тем не менее, один из заговорщиков, Хуан Бейгбедери-Атьенса все же вступил в контакт с Канарисом, которого давно знал. Бейгбедер был когда-то военным атташе в берлинском посольстве. Испанец сообщил шефу абвера, что во главе мятежа должен был встать генерал Хосе Санхуархо Саканель, уже пытавшийся ранее свергнуть в Испании власть. Попытка оказалась неудачной, и генералу пришлось скрыться на территории Португалии, где он на тот момент и жил. Франсиско Франко, ставший впоследствии во главе страны, не играл среди них одну из главных ролей, но существуют данные, свидетельствующие о том, что за несколько месяцев до мятежа будущий испанский диктатор, возглавлявший тогда войска на Канарских островах, вступил в контакт с немецкой военной разведкой. Якобы, именно по рекомендации местного резидента абвера он принял решение перевестись в Морокко, поближе к будущему театру военных действий.
Начало у генералов не задалось. По сигналу диктора мадридского радио, в ночь на 16 июля 1936 года три раза повторившего кодовую фразу «Над всей Испанией безоблачное небо», в испанском Морокко и на Канарский островах был поднят мятеж. В следующие два дня к нему примкнули и воинские части на территории самой Испании. Однако если в колониях выступление имело успех, то в метрополии оно было быстро подавлено. Военно-морской флот также остался верен правительству. В результате заговорщики лишились возможности доставить войска из Морокко, где были сконцентрированы главные силы националистов, на Иберийский полуостров. Тут-то генералам и понадобилась помощь Германии и Италии.