После того как Гиммлер в апреле 1934 года был назначен инспектором прусского гестапо, он вновь перебрался из Мюнхена в Берлин. Вслед за ним переехало и все руководство СС. Оно расположилось во «дворце принца Альбрехта». Название этого здания на долгие годы стало синонимом СС и гестапо. К весне 1934 года была заложена основа централизованной системы террора и репрессий. Однако Гиммлер в должности рейхсфюрера СС еще не принадлежал к числу руководителей рейха, он был главой одной (пусть и стремительно набиравшей силу) из многочисленных национал-социалистических организаций. Ситуация изменилась только после 30 июня 1934 года, даты, которая в истории более известна как «ночь длинных ножей». Насильственное разрешение затянувшего конфликта между СА и политической организацией НСДАП стало трамплином, по которому Гиммлер вознесся буквально к вершинам могущества.
Предыстория «ночи длинных ножей» полна множеством противоречий и запутанного стечения обстоятельств. Поскольку эта книга посвящена Генриху Гиммлеру, а не истории национал-социалистического движения в целом, то события тех дней надо охарактеризовать лишь общими словами. В первый год пребывания у власти национал-социалистам, по сути, так и не удалось справиться с последствиями мирового кризиса. В стране сохранялась армия безработных, которая насчитывала около 6 миллионов человек. После всеобщего воодушевления в Германии наступило время разочарования, которое было заметно как на промышленных предприятиях, так и в сельском хозяйстве. К этому добавлялось недовольство действиями С А, которые буквально наводили ужас на всю страну. Надо отметить, что в середине 1934 года в рядах штурмовых отрядов находилось 4,5 миллиона человек, то есть в девять раз больше, чем насчитывали СА в январе 1933 года. Эта плохо контролируемая партийная армия, не являвшаяся вдобавок ко всему сплоченной организацией (в СА были слиты многие правые военизированные союзы, например «Стальной шлем» и т. д), тем не менее претендовала на особую роль в национал-социалистическом государстве. На практике же Эрнсту Рёму удалось поставить на посты имперских комиссаров всего лишь нескольких руководителей СА. Сам Эрнст Рём получил должность Имперского министра только 1 декабря 1933 года. Между тем в рядах штурмовиков стала курсировать идея о «второй революции». После того как большая часть политических противников национал-социализма оказалась в лагерях, на практике эта идея стала выражаться в запугивании штурмовиками бюргеров и населения в целом, что не только не придавало СА особой популярности, но и еще раз подчеркивало агрессивный, неуправляемый характер штурмовых отрядов.
Тем временем Эрнст Рём пытался определить, как должны были выстраиваться отношения СА и рейхсвера. Поначалу штурмовикам планировалось поручить допризывную подготовку молодежи, затем эта идея трансформировалась в мысль о создании из штурмовиков отрядов вооруженной милиции, а затем и «народной армии СА». В «народной армии» рейхсверу отводилась всего лишь роль учебно-подготовительной базы, на что никак не могли пойти кадровые военные. Чтобы положить конец этим метаниям, 28 февраля 1934 года Гитлер публично заявил, что «военные» планы Эрнста Рёма не имели под собой никакого основания.
Весной 1934 года в консервативных кругах планировали использовать недовольство СА, чтобы вновь создать коалиционное правительство. Некоторые из консерваторов даже планировали реставрацию монархии, что, по их мнению, могло произойти после смерти 86-летнего рейхспрезидента Гинденбурга. Глашатаем этих кругов был вице-канцлер фон Папен. В итоге стала складываться коалиция, которая должна была противостоять СА. Она состояла из партийных функционеров, представителей рейхсвера и руководства СС, связанного с политической полицией. В начале 1934 года Дильс, еще бывший главой прусского тайного государственного полицейского управления, стал собирать компромат на руководство СА. В начале февраля 1934 года к этой деятельности подключился рейхсвер. После того как руководство прусским гестапо перешло к Гиммлеру и Гейдриху, они не только не оставили этой затеи, но значительно активизировали деятельность в этом направлении. Данные действия не остались незамеченными. В мае 1934 года Эрнст Рём отдал приказ о сборе сведений о «враждебной по отношении к СА деятельности». В июне 1934 года национал-социалисты планировали начать кампанию против «ворчунов», под которыми подразумевали консерваторов. Казалось бы, что конфликт с СА отошел на второй план. Однако именно консерваторы во многом спровоцировали «ночь длинных ножей».