Наибольшие сложности были со столицей, наполненной подразделениями СС и СД. Предполагалось, что восточную часть города займут войска, расквартированные во Франкфурте-на-Одере, но в целом даже гипотетических сил на решающем участке у армейских заговорщиков явно не хватало. Остер постарался выйти из положения, задействовав в перевороте начавшую формироваться в столице дивизию «Бранденбург», и устроил на пост ее командира известного ему своими антигитлеровскими настроениями полковника фон Пфульштейна. Хайнц, другой знакомый заместителя Канариса, стал командиром 4-го полка в той же дивизии. Но… Пфульштейн критически высказывался по поводу режима, когда возглавлял ганноверское отделение абвера, и было это в конце 30-х, но стоило фюреру всего лишь наградить его, как он вновь вспомнил о верности присяге. В довершение ко всему формирующуюся дивизию из ведения абвера забрал себе генерал Йодль, что окончательно спутало карты Остеру.
Пока столичные заговорщики безрезультатно искали части для переворота, связь между Берлином и Восточным фронтом поддерживал Шлабрендорф и в ряде случаев Донаньи. Все в том же году были установлены контакты и между основными силами гражданского и военного крыльев заговора. В августе 1942 года на Восточный фронт по выданным Остером фальшивым документам направился Герделер. В Кенигсберге он встретился с командующим группы армий «Север» генерал-фельдмаршалом фон Кюхлером, пытаясь побудить его примкнуть к генеральской оппозиции, а в Смоленске — с командующим группой армий «Центр» генерал-фельдмаршалом фон Клюге и начальником оперативного отдела его штаба генералом фон Тресковом. Клюге неоднократно критически высказывался о Гитлере, но на активные действия решиться никак не мог. С Тресковом же Герделер обсудил планы устранения фюрера. Если Герделер мечтал о том, чтобы путем переговоров побудить Гитлера уйти в отставку, то более реалистичный и решительный Тресков с самого начала ориентировался на убийство.
Этот взгляд на «проблему фюрера» разделяли и наиболее смелые офицеры, чем объясняется лавинообразное увеличение попыток покушения на Гитлера в 1943 году. В начале года Хеннинг фон Тресков планировал собственноручно застрелить его при докладе. Понимая, что шансы на успех террориста-одиночки чрезвычайно малы, он склонил офицеров Шмидта-Зальцмана и фон Клейста втроем расстрелять диктатора из пистолетов во время посещения фронта. Однако в очередной раз сработала пресловутая военная дисциплина: при обсуждении этого плана с генерал-фельдмаршалом Клюге последний резко высказался против, и этот запрет вышестоящего офицера автоматически положил конец идее застрелить Гитлера при его посещении войск группы армий «Центр». Истолковав запрет командира в узком смысле и посчитав, что он распространяется только на пистолет, Хеннинг фон Тресков и Фабиан фон Шлабрендорф заложили два взрывных устройства в самолет фюрера, на котором он в середине марта 1943 года возвращался с Восточного фронта. Однако по какой-то необъяснимой случайности ни одна из двух бомб так и не сработала.
Эстафету немедленно подхватывают берлинские заговорщики во главе с генералом Фридрихом Ольбрихтом. Обсудив вопрос с абверовцами Гизевиусом, Остером и Лахузеном, он решил предпринять новое покушение на фюрера, все в том же марте, спустя всего лишь семь дней после провала попытки взорвать диктатора в самолете. Исполнителем нового теракта Тресков назначил полковника Рудольфа Кристофа барона фон Герсдорфа, недавно овдовевшего и поэтому готового пожертвовать своей жизнью ради убийства Гитлера, намеченного на «день героев». Поскольку праздник был перенесен с 15 на 21 марта, заговорщики не располагали подробной информацией о его сценарии и не могли точно рассчитать, в какое время надо зажечь запал. В результате Герсдорф решил взорвать себя вместе с Гитлером и другими нацистскими руководителями, вооружился английской миной и занял позицию у входа. Однако, вопреки обыкновению, фюрер быстро пробежал в зал да и там пробыл всего десять минут, что было явно меньше времени, нужного для того, чтобы взрыватель успел сработать.
В июле 1943 года Тресков и Герсдорф еще раз встречаются с фельдмаршалом Клюге и в очередной раз безуспешно пытаются заручиться его согласием на устранение Гитлера. Попытки покушений активизировались с приходом 1 октября 1943 года на должность начальника штаба армии резерва полковника Клауса Шенка фон Штауффенберга. Он являлся убежденным сторонником плана убийства Гитлера в его штаб-квартире. Поскольку сам Штауффенберг поначалу не имел доступа к фюреру, он начал искать надежного исполнителя, каковым оказался молодой капитан Аксель фон дер Буше, давший свое согласие заговорщикам в ноябре.