Канарис был обеспокоен происками Гейдриха. Он обсудил это с Остером и Пикенброком и попытался разузнать, что могло за этим стоять. Однако на этот раз внутренняя информационная служба Остера дала осечку. Только когда два месяца спустя в Москве началась глубокая «чистка» в верхах Красной Армии из-за якобы существующего заговора против советского правительства, в ходе которой Тухачевского и целый ряд других ведущих руководителей советских вооруженных сил, как правило, после полного признания приговорили к смерти и казнили, Канарис понял, для какого подлого маневра понадобилась Гейдриху его поддержка. Гестапо подкинуло ОГПУ окольным путем, через чехословацкую разведку поддельный материал о якобы состоявшихся переговорах советского генералитета с немецкими военнослужащими, и шеф ОГПУ Ежов немедленно клюнул на это. Летом, после расстрела Тухачевского, Гейдрих, сияя от радости, рассказал Канарису во всех подробностях, как он продумал и провернул это дело. На испуганный вопрос Канариса «Зачем?» Гейдрих ответил, что у самого Гитлера была идея лишить таким способом Красную Армию ее верхушки и на многие годы ослабить ее.
По иронии судьбы Канарису было известно, что Тухачевский отнюдь не совсем безвинно был расстрелян. У него были достоверные сведения о том, что советский маршал во время своего пребывания в Лондоне в качестве представителя Советского правительства во время похорон короля Георга вел переговоры с посланцами стоящего во главе русской эмиграции в Париже генерала Миллера. Вполне возможно, что ОГПУ также было осведомлено об этом и завело судебное дело против Тухачевского, так как из судебных расследований, которые последовали одновременно с исчезновением в Париже генерала Миллера, явствовало, что в самом центре русской эмиграции во Франции имелись шпионы, которых оплачивали Советы, в том числе по крайней мере один в чине генерала. Но это, конечно, ничего не меняло в бесчеловечности методов, примененных Гейдрихом, и можно предположить, что материал, переданный гестапо, в большой степени способствовал тому, чтобы выдать на расправу руководящий состав Красной Армии.
В Канарисе в это время происходили перемены. Афера с Тухачевским — это одно из многих событий, которые дают понять, что маленькой войной нельзя справиться с самыми дурными пороками системы, так как эти пороки — лишь симптом того, что режим Гитлера является насквозь преступным и, таким образом, нельзя надеяться на очищение путем отсечения плохих элементов. Чем дольше режим будет оставаться у власти, тем больше он угрожает деморализовать имеющиеся еще порядочные элементы и постепенно разложить весь народ. Режим нужно устранить, если хочешь предотвратить тяжелейший ущерб для всего народа. Никто не знает лучше Канариса — благодаря поступающей к нему со многих сторон информации о становящейся все более коварной организации шпионской и террористической системы Гитлера, — что свергнуть национал-социалистическое правительство нормальными политическими средствами нельзя. Таким образом, спасение может принести только вооруженное восстание, а оно может быть осуществлено только вермахтом, в первую очередь, армией, так как воздушные силы слишком близко стоят к режиму благодаря их шефу Герингу, военно-морской флот численно слишком слаб, слишком отдален от центров правительства и, кроме того, его использование осложняется из-за еще слишком свежих воспоминаний о бунте 1918 года.
Канарис относился к немногим морским офицерам, которые достаточно ясно видели различия между тем временем и сегодняшним днем, так что на него не могли повлиять воспоминания. Но он достаточно хорошо знает также и людей во главе вооруженных сил, чтобы понимать, что не стоит ждать от них серьезного сопротивления Гитлеру.