Представитель рейхсфюрера СС Герман Фегеляйн воспользовался вспышкой гнева фюрера и предложил просто переподчинить абвер Гиммлеру. Гитлер кивнул и поручил Гиммлеру объединить абвер и СД.
В феврале 1944 года адмирал Канарис потерял свой пост. Несколько недель шли переговоры. В них участвовали Эрнст Кальтенбруннер, начальник разведки Генрих Мюллер и руководитель политической разведки Вальтер Шелленберг. Армию представляли генерал-фельдмаршал Кейтель и руководители управлений абвера. Окончательное соглашение Гиммлер и Кейтель подписали 14 мая 1944 года.
Абвер перестал существовать как самостоятельная организация. Управление зарубежной разведки, которым руководил полковник Георг Хансен, вошло в сосгав главного управления имперской безопасности. После покушения на Гитлера самостоятельное управление расформировали, контрразведчиков включили в состав гестапо, разведчиков передали в подчинение бригадефюрера Шелленберга.
Разогнали все руководство абвера. Ханс Остер и Ханс фон Донаньи были арестованы. Полковник Ханс Пикенброк получил под командование полк. Генерал Франц Экхард фон Бентивеньи, начальник 3-го отдела (внешняя и внутренняя контрразведка), в 1944 году отправился на Восточный фронт командовать дивизией.
После арестов в абвере антигитлеровский заговор, казалось, распался.
Руководящий центр был парализован. Очевидный лидер военного сопротивления Людвиг Бек болел. Ему сделали серьезную операцию. Его болезнь могла затянуться. Эрвин Вицлебен, полный решимости действовать, тоже заболел. Его ждала отставка. Генерал Фридрих Ольбрихт не решался на самостоятельные действия.
Именно в этот момент рядом с Тресковом появился Штауффенберг. Началась слаженная совместная работа. Тресков восхищался организационным даром Штауффенберга. Тот ценил ясность ума и решимость Трескова. Они понимали: государственный переворот требовал большой концентрации сил и огромной подготовительной работы.
Тресков и Штауффенберг по-прежнему считали, что нужен генерал-фельдмаршал, который возьмет на себя руководство военным переворотом. Тресков сам говорил с Манштейном, но безуспешно. Пытались перетащить на свою сторону знаменитого танкиста Хайнца Гудериана. Но тот получил подарок от Гитлера — поместье стоимостью в миллион с лишним марок. Не получалось и увлечь генерал-фельдмаршала Понтера фон Клюге. Невероятно осторожный, он избегал определенного ответа.
Тресков и Штауффенберг сходились и в другом: недостаточно убить Гитлера, нужен механизм, который позволит взять власть. Как справиться с партийным аппаратом и частями СС?
Идеальным инструментом казалась резервная армия. По всей стране были казармы, где формировались новые части — подкрепление для фронта. Вот с их помощью и надо брать власть. Тем более что именно на армию резерва возлагалась задача подавить внутренний мятеж. Нацисты боялись иностранных рабочих и военнопленных: вдруг они поднимут восстание?
В штабе резервной армии уже существовал секретный план действий на случай чрезвычайного положения — план "Валькирия". Заговорщики поняли, что надо использовать этот план и придать подготовке к перевороту легальный характер.
Штауффенберг переработал план в соответствии с новыми задачами. План держался в полном секрете от гестапо и других ведомств. Он хранился в запечатанных конвертах в сейфах заместителей командующих военными округами и командующих оккупационными войсками.
Получив приказ, они должны были принять на себя всю полноту власти, обеспечить контроль над телефонными станциями, телеграфом, радиопередатчиками, мостами, а также арестовать гаулейтеров, министров, чинов гестапо и СС. Теперь все зависело от командующего резервной армией генерал-полковника Фридриха Фромма. Если он участвует в перевороте, тогда все в порядке: именно он имеет право отдать приказ о "Валькирии".
Заговорщики понимали безнадежность положения Германии. Остальные немцы не обязательно так думали. Пропаганда, которая использовала привитое народу доверие к Гитлеру, действовала. Да и армия встретила бы мятеж против фюрера с возмущением. Поэтому Тресков и Штауффенберг исходили из необходимости убить Гитлера: только его смерть позволит использовать лозунг мнимого путча СС и партии, против которого выступает вермахт, введя военное положение. Только смерть Гитлера заставит генерала Фромма примкнуть к заговорщикам.
Подготовленный заговорщиками первый приказ начинался так:
"Фюрер, Адольф Гитлер, мертв. Жалкая клика партийных секретарей, не нюхавших фронта, пыталась устроить государственный переворот. В стране вводится военное положение, вся власть передается главнокомандующему вермахтом и командующим военными округами".
Армейским генералам переподчинялись СС, полиция, организация Тодта и партийный аппарат. Приказ требовал порядка и дисциплины: "От энергии и мужества немецкого солдата зависит спасение Германии".
Второй приказ требовал взять под контроль все важнейшие объекты управления и связи, арестовать всех руководителей партии. При сопротивлении подразделений СС — применять силу.