Остер сообщил голландскому атташе план немецкого вторжения, намеченного тогда на 12 ноября. Потом Гитлер отложил операцию. Остер сообщил атташе новую дату. В последний раз они разговаривали 9 мая 1940 года, когда до начала войны на Западе оставалось двенадцать часов. Они ужинали, голландец назвал трапезу похоронами. Остер уверенно сказал голландцу:
— На сей раз ошибки быть не может. Эта свинья (он имел в виду фюрера) уже отбыла на Западный фронт. Увидимся после войны.
Голландский полковник передал в Гаагу предупреждение, но начальство его проигнорировало. Удар вермахта застал западные армии врасплох. Ханс Остер не сомневался, что поступил правильно:
— Кто-то назовет меня предателем. Но я не предатель. Я считал себя лучшим немцем, чем те, кто покорно следует за Гитлером. Это мой долг — освободить Германию и весь мир от этой чумы…
Работа Остера прервалась, когда офицера абвера Шмидхубера арестовали за нелегальные перевозки через границу валюты, драгоценных камней и контрабандных товаров. Он был другом Ханса фон Донаньи и по его просьбе вывозил евреев из Германии. Совмещая полезное с приятным, Шмидхубер пытался заработать и сделать свою жизнь более комфортной. Это было преимуществом тех немногих, кому разрешалось ездить за границу.
Остер вместе с Донаньи согласились спасти четырнадцать немецких евреев, которых перебросили в Швейцарию под видом агентов абвера. Все это были люди, имевшие богатых родственников за границей. В благодарность за спасение те обещали положить кругленькую сумму на личные счета абверовцев в швейцарском банке. В главном управлении имперской безопасности что-то проведали об операции. И тогда генерал Остер совершил непоправимую ошибку. Пытаясь все скрыть, он обвинил Шмидхубера в работе на англичан. Уголовное дело о незаконных операциях на черном рынке превратилось в дело об измене.
Следователь гестапо Франц Зондереггер собрал информацию о существовании подпольной антигосударственной организации — отставные генералы вокруг Людвига Бека, группа Остера — Донаньи в абвере, группа священнослужителя Дитриха Бонхёффера, контактировавшая со Стокгольмом…
В феврале 1943 года следователь представил материалы начальнику гестапо Генриху Мюллеру, предложив провести внезапный обыск в помещениях абвера. Группенфюрер СС Мюллер всегда подозревал военных разведчиков в предательстве.
Но Гиммлер распорядился передать все материалы юридической службе вермахта. Рейхсфюрер СС не хотел портить отношения с военными, обладавшими достаточно большой самостоятельностью. Утром 5 апреля 1943 года военный судья Манфред Рёдер появился в здании абвера на Тирпиц-Уфер и сказал адмиралу Вильгельму Кана-рису, что у него есть ордер на арест фон Донаньи и обыск в его кабинете. Рассказывают, что во время обыска генерал Остер весьма неловко пытался избавиться от каких-то компрометирующих документов, чем выдал себя. Ханса фон Донаньи обвинили в махинациях с валютой и отправили в концлагерь Заксенхаузен.
16 сентября 1943 года адмиралу Канарису пришлось отстранить от службы генерала Осгера и посадить его под домашний арест. Выяснилось, что Остер еще и пытался помочь родственнику Донаньи пастору Дитриху Бонхёфферу избежать армейской службы, незаконно приписав его к абверу.
Канарис пытался установить отношения с обергруппен-фюрером СС Эрнстом Кальтенбруннером, чьи щеки были в шрамах от студенческих дуэлей. Новый начальник главного управления имперской безопасности говорил медленно и с сильным австрийским акцентом. От контактов с Канарисом он уклонился. Это было дурным предзнаменованием.
Позиции главы абвера ослабли. Канарис не сумел вовремя предупредить военное командование о появлении у англичан радиолокаторов, которые снизили эффективность налетов немецкой авиации на Лондон.
Неудачи преследовали абвер и в Соединенных Штатах. Гитлер самоуверенно говорил, что две трети американских инженеров — немцы и всех эмигрантов из Германии нетрудно будет привлечь на сторону фатерланда. Но попытки вести разведывательную работу в Северной Америке провалились. Гитлер винил в этом абвер. Десять агентов отправил Канарис за океан вести подрывную работу. Один умер в пути, остальных поймали. Семерых казнили, двоих посадили.
Неспособность предугадать высадку союзников в Северной Африке и на Сицилии была сильным ударом по репутации абвера. К тому же бежал работавший в Турции сотрудник военной разведки Эрих Фармерен (его подозревали в принадлежности к оппозиционным кругам и вызвали в Берлин, а он вместе с женой перебрался к англичанам в Каир). Гиммлер преподнес это Гитлеру как свидетельство ненадежности абвера. Свой вклад внес и министр иностранных дел Иоахим фон Риббентроп. Он пожаловался Гитлеру, что диверсии абвера против британских судов в испанских портах вредят отношениям с каудильо Франко. Гитлер распорядился прекратить теракты на территории Испании. Через три дня пришло сообщение, что британское судно, груженное апельсинами, взорвалось в порту Картахена.