Близорукий Гитлер в момент взрыва нагнулся над столом, желая разглядеть карту, и это, наряду с заслонившей портфель подставкой стола, спасло ему жизнь. Рейхсканцлер в итоге отделался контузией, поврежденными барабанными перепонками и несколькими ссадинами. Гораздо сильнее пострадала его одежда, превратившаяся в лохмотья. С трудом выкарабкавшись из-под обломков и очумело глядя на царящий кругом разгром, Гитлер сокрушенно произнес: «О, мои бедные новые брюки! Я их только вчера надел!»
Однако наблюдавшие взрыв Хефтен и Штауффенберг были уверены, что покушение удалось, и тут же отправились обратно в Берлин. Обманув охрану сообщением о срочном вызове и выбросив по пути вторую бомбу, они вылетели в столицу.
Тем временем Гитлер, опираясь на руку Кейтеля, ковыляя, вышел из барака. Увидев фюрера живым, Фельдгибель растерялся и, вместо того, чтобы сообщить в Берлин о случившемся и затем взорвать узел связи, бросился за советом к своему приятелю, начальнику орготдела генштаба сухопутных войск генерал-майору Хельмуту Штиффу. После недолгого обсуждения ситуации оба генерала решили, что все провалилось и пора сматывать удочки.
Трусость Фельдгибеля парализовала действия заговорщиков в столице. Едва придя в себя, Гитлер распорядился уведомить о случившемся замещавшего его в Берлине министра по делам печати и народного просвещения Йозефа Геббельса, после чего до 15.30 запретил передачу любой информации из ставки. Одновременно Гиммлер, поняв, что заговор провалился, срочно вылетел в Берлин для ареста его участников. Спасти собственную жизнь он мог теперь лишь быстрой и беспощадной расправой с изменниками.
Лишь в половине четвертого, с опозданием на два с половиной часа, возглавивший собравшихся в здании министерства обороны на Бендлерштрассе заговорщиков Ольбрихт сумел связаться с Фельдгибелем, который сообщил ему о неудаче покушения. Тем не менее Ольбрихт решил действовать и распорядился поднять внутренние войска по боевой тревоге. Военному коменданту Берлина фон Хазе было приказано силами охранного батальона «Великая Германия», а также курсантов пиротехнического и оружейно-технических училищ занять правительственные здания, радиостанции и казармы СС. Поддержать его должен был полицай-президент Берлина граф Вольф фон Гельдорф, но в последний момент тот отказался предпринимать какие-либо действия до полного захвата города армией. Курсанты и офицеры пехотного училища в Дёберице, унтер-офицерского училища в Потсдаме и танковых училищ в Крампнице. Вюндсдорфе и Гросс-Глинке, а также части потсдамского гарнизона получили приказ частью сил отрезать Берлин от остальной территории рейха. Остальные войска направили на помощь столичному гарнизону на случай сильного сопротивления эсэсовцев.
В 16.05 Ольбрихт появился у Фромма и потребовал от него отдать сигнал «Валькирия» войскам резерва по всей Германии. Но Фромм, связавшись по телефону со ставкой и узнав от Кейтеля, что Гитлер жив, отказался это сделать. Однако к тому времени он уже не контролировал ситуацию. Появившиеся в 16.45 Штауффенберг и Хефтен вместе с Ольбрихтом и Квирнгеймом арестовали Фромма и поставили на его место генерал-полковника Гепнера. Затем были арестованы и заперты в служебных помещениях группа сохранивших верность Фромму генералов и офицеров армии резерва, отказавшийся присоединиться к заговору начальник берлинского гарнизона генерал фон Кортцфляйш, а также трое полицейских чинов, направленных Гиммлером для задержания Штауффенберга.
Однако полностью очистить свои ряды от убежденных гитлеровцев заговорщикам не удалось, и почувствовавшие неладное офицеры-нацисты начали стихийно саботировать их мероприятия. Дежурный офицер узла связи лейтенант Георг Рериг намеренно задержал отправку приказов в военные округа, а некоторые из них вообще не передал. В результате командование всех округов, кроме Вены и Парижа, практически бездействовало, а после переданного в 18.45 по радио сообщения о провале покушения полностью отказалось от участия в перевороте. Начальник Крамницкого танкового училища полковник Глеземер после ввода подчиненных ему войск в Берлин сумел связаться с Геббельсом и сообщил ему о происходящем в городе. Командиры других танковых и пехотных училищ, овладев, согласно приказу, радиостанциями, не сделали ничего, чтобы помешать им передавать сообщения Геббельса, включая и парализовавшую многих заговорщиков информацию о провале покушения.