Антигитлеровский круг Артура Небе сложился еще в 1938 году, в крайне напряженный период судетского кризиса. Именно тогда некоторые генералы начали впервые подумывать о том, чтобы прервать этот марш к катастрофе, сместив Гитлера путем военного путча. В те дни государственный служащий и тайный противник нацизма Ганс-Бернд Гизевиус познакомил своего друга Небе с военными оппозиционерами: генерал-полковником Бекхом и Гансом Остером (впоследствии служил в абвере). Небе тогда был начальником Крипо – криминальной полиции (группенфюрером СС и руководителем подразделения в РСХА он стал позднее). Небе воспринял этих оппозиционеров весьма скептически и с большим недоверием: опытный профессионал полицейской службы увидел, что конспираторы – просто дилетанты. Он привык прятать следы, и его ужаснуло, как это они – почти в открытую, на публике – рассуждают о низложении фюрера. Сам Небе, приезжая на их встречи, оставлял машину где-нибудь на соседней улице, тщательно изучал обстановку и только после этих предосторожностей появлялся среди заговорщиков – всегда неожиданно. Герделер, сверхболтливый вожак сопротивления, не знал даже имени видного эсэсовца, которому оппозиционеры были обязаны информацией из РСХА. Если случалось так, что Герделер вдруг мог появиться на совещании, где присутствовал Небе, осмотрительный офицер полиции вовремя исчезал.
Трудно сказать, что заставило Небе поддержать сопротивление: страх ли за собственное будущее или тревога за страну, однако он был верен заговорщикам. В конце 1941 года, командуя эйнзацгруппе СС, Небе не видел иного пути, чтобы избавиться от нацистского режима и искупить собственную вину, кроме убийства Гитлера. С этого времени он постоянно подгонял заговорщиков. Они планировали покушение на фюрера, но всякий раз откладывали. Небе располагал группой полицейских офицеров, которые могли в день X обеспечить доступ военным частям путчистов в правительственные здания Берлина. Конечно, такая мера была бы невозможна без соучастия других эсэсовцев из полиции. Небе завербовал штурмбаннфюрера Ганса Лоббеса, исполнительного директора управления криминальной полиции, и начальника берлинского гестапо Пауля Канштейна. Находясь на таком посту, бригадефюрер СС (!) Канштейн не мог не стать ключевой фигурой во всех планах переворота. Его позиция усиливалась связью еще с двумя заговорщиками, берлинским полицей-президентом графом Хелльдорфом и его заместителем графом Шуленбургом. Канштейну был сделан определенный аванс: если бы путч 20 июля 1944 года удался, он стал бы новым руководителем политической полиции в Германии без Гитлера.
В Берлине были и другие эсэсовцы, имевшие связь с этой группой, но работавшие самостоятельно. К ним принадлежали, например, геринговский сотрудник Плаас из отдела прослушивания телефонов – он предупредил заговорщиков, что за ними следит гестапо; штурмбаннфюрер граф фон Сальвиати, начальник отдела в Главном управлении СС, с 1941 года прикомандированный к штабу фельдмаршала фон Рундштедта; Макс Фрауэндорфер, офицер СС, начальник трудового отдела (нечто вроде министра труда) в Польше. Этих людей от других эсэсовцев – критиков Гитлера – отличало моральное неприятие режима, попирающего права человека и страдающего саморазрушительной манией величия. Именно из этических соображений они и восставали против безответственного руководства рейха. Фон Хассель записал в дневнике, что Фрауэндорфер произвел на него впечатление «бескрайним отчаянием из-за того, что он пережил в Польше. Это было так ужасно, что он больше не выдержал».
Поскольку под покровом как бы сторонней помощи от некоторых эсэсовцев вполне могла скрываться возможность будущей поддержки путчистов империей Гиммлера, заговорщики считали нужным (хоть это и рискованно) завербовать как можно больше эсэсовцев. В конце концов, позиция СС будет решающей для успеха или провала переворота. Канарис уже высказал мнение, что раз уж было столько неудачных покушений на Гитлера, теперь нет другой альтернативы, кроме как постараться вовлечь Гиммлера в акцию против фюрера; «надо с ним откровенно поговорить». Фельдмаршал фон Бок тоже заявил, что будет сотрудничать, только если примет участие Гиммлер.
Герделер обратился за советом к своему другу, шведскому банкиру Валленбергу. Тот уточнил: «А Гиммлер знает, чем вы занимаетесь?» Герделер пожал плечами: «Я не в курсе». Услышав, что была упущена блестящая возможность устранить фюрера, – только из-за того, что в тот день отсутствовал Гиммлер, также подлежавший ликвидации, – Валленберг посоветовал: «Да оставьте вы Гиммлера в покое: если вы выступите только против Гитлера, Гиммлер мешать не станет».