Канарис был уверен, что эти всплески радости будут продолжаться недолго. К тому же он слишком хорошо знал нацистов, и также в период своей службы командиром подводной лодки во время Первой мировой войны он слишком хорошо понял австрийский характер. Исходя из этого понимания австрийского менталитета он поручил руководство вновь созданным венским отделом немецкой разведки офицеру, который не только хорошо знал свое дело, но вся его личность была гарантией того, что в его служебной сфере не будет допущено никаких бестактностей по отношению к австрийцам. Это был полковник Маронья-Редвиц, офицер, служивший в Баварии, который, как уже упоминалось, уже в течение многих лет поддерживал из Мюнхена легальные связи между немецкой разведкой и австрийской службой разведки. Маронья, у которого были с Канарисом отношения доверия, оказывал с согласия своего начальника в последующие годы помощь многим австрийцам, бывшим в оппозиции. Естественно, гестапо и СД его люто ненавидели. После гибели Канариса его судьба тоже была решена. Он участвовал в заговоре 20 июля, после вынесения приговора народным судом казнен 12 октября 1944 года.
То, чего опасался Канарис после вступления германских войск в Вену, быстро наступило. Без долгого промедления Гитлер выбрал себе следующую жертву — Чехословакию. Май 1938 г. принес, как мы помним, первый кризис. Канарис принадлежал к тем людям, которые ясно осознавали опасность того, что насильственное решение немецкого вопроса в Судетах повлечет за собой войну в Европе. Он был одновременно твердо намерен сделать все, что в его силах, чтобы отвратить эту опасность от Германии и Европы. В его непосредственной служебной сфере по его указанию оказывалось содействие относительно умеренному направлению среди судетских немцев, во главе которых стоял Генлейн, в противоположность экстремистскому национал-социалистическому крылу, которым руководил Карл Герман Франк. Генлейн позже как майор запаса был принят в вермахт. Однако Канарис прекрасно понимал, что просто занять такую позицию в отношении групп судетских немцев значит сделать очень мало.
Мысль о государственном перевороте принимала все более осязаемые формы; он все яснее осознавал, что это является единственным средством возможного предотвращения войны. «Всеобщая забастовка генералов», которую планировал в начале июня начальник генерального штаба Бек, направив Браухичу свой меморандум, не осуществилась. Бек ушел в отставку, не делая из этого шумной демонстрации, как это требовалось в интересах политики. Еще до отставки Бека также ушел один начальник управления, который был как человек близок к Канарису, — генерал Макс фон Фибан, исполнявший обязанности руководителя отдела верховного главнокомандования (из которого позже сформировался штаб руководства вермахтом); он ушел из-за разногласий с Кейтелем. В результате этого принципиальное и человеческое согласие между тремя самыми важными руководителями ведомств вермахта — третьим был начальник службы вооружения вермахта генерал Томас — было нарушено. Тем более необходимым казалось Канарису удержаться на своем посту, чтобы обеспечить перевороту участие разведки.
После ухода Бека в отставку было необходимо определить отношения с его преемником Гальдером. При этом опять автоматически началось разделение обязанностей между Канарисом и Остером. В то время как Остер открыто излагал начальнику генерального штаба, с которым он был лично знаком по прежнему деловому сотрудничеству, идею восстания против Гитлера и налаживал связи между Гальдером и Шахтом, Канарис обрабатывал генерала с помощью обширной информации, поступающей к нему из-за рубежа. Вообще на протяжении всех этих месяцев он прилагал все усилия, чтобы обрисовать главным военачальникам, помимо Гальдера, особенно также Браухичу, Кейтелю и Редеру, те опасности, которые сулили Германии военные планы Гитлера в отношении Чехословакии. Он не боялся представить военный потенциал и решимость западных держав, а также готовность Чехословакии к сопротивлению более опасными, чем это, по его убеждению, было на самом деле. Для сохранения мира такие преувеличения и вынужденная ложь казались ему оправданными; он скептически говорил с генералами, полагая, что сможет побудить их к сопротивлению Гитлеру тем, что, как можно более логично и ярко, представит им на случай войны вероятность собственного поражения. Он достиг определенных успехов в своей тактике, однако здесь нужно сразу сказать, что позже, после мюнхенского соглашения, она в некоторой степени обернулась против него: когда он в последующие годы — на этот раз уже с более веским основанием — с помощью тех же аргументов предостерегал военное руководство, что Великобритания и Франция в ответ на немецкое вторжение в Польшу объявят войну Германии и что Германия не способна выдержать конфликт с ними на длительный период, тогда он уже больше не встретил безоговорочного доверия.