4 июня 1934 года Гитлер вызвал к себе Рема и потребовал, чтобы оружейные склады, созданные штурмовиками, были переданы рейхсверу. Он также просил Рема заверить военных, что национал-социалисты не собираются прибирать к рукам рейхсвер. Гитлер говорил с Ремом как со старым партийным товарищем и уверял, что сейчас самое важное — обеспечить безболезненный переход поста рейхспрезидента к нему, Гитлеру, а остальное, мол, приложится. Рем, однако, призывал фюрера не опираться на рейхсвер, а расправиться с ним с помощью штурмовиков.
Эта беседа была призвана убедить главу штурмовиков в том, что Гитлер ему по-прежнему доверяет и готов с его помощью попытаться наладить отношения с рейхсвером. В действительности план ликвидации руководства СА был уже готов.
Рем настолько поверил в миролюбие Гитлера, что 7 июня демонстративно объявил, что с 1 июля все штурмовики числятся в месячном отпуске. Сам Рем решил отдохнуть в санатории «Занзльбауэр» в Верхней Баварии.
Тем временем Гитлер, Геринг и Гиммлер действовали. 25 июня части рейхсвера и отряды СС были приведены в состояние боевой готовности. На следующий день Рудольф Гесс по поручению Гитлера выступил в Кельне, призвав соратников по партии снять лозунги «второй революции». Это должно было в последний раз усыпить бдительность Рема, создать впечатление, что с ним все еще хотят договориться по-хорошему, стремятся обойтись без силовых мер.
Рем приказал всем высшим чинам СА прибыть в Бад-Висзее для совещания перед уходом в отпуск. Тем временем Гитлер, Геринг и Гиммлер в Эссене, на свадьбе местного гауляйтера Тербовена, согласовали последние детали предстоявшей операции, вошедшей впоследствии в историю под названием «ночи длинных ножей» — так окрестили расправу иностранные журналисты.
28 июня Геринг создал специальные полицейские отряды для действий против штурмовиков. Подтянулись и эсэсовцы. О передвижениях полиции стало известно Карлу Эрнсту. Он забеспокоился, позвонил Герингу и спросил, чего тот опасается. Может быть, нужна помощь штурмовиков? Геринг заявил, что это просто полицейские учения, и заверил Эрнста в том, что остается его другом (Геринг только что был шафером на свадьбе Эрнста).
Успокоенный Эрнст отправился в свадебное путешествие. Рем же готовился торжественно принять Гитлера в Бад-Висзее и даже заказал художнику экслибрис, который, как он надеялся, фюрер поместит в новое издание «Моей борьбы». Но у Гитлера были другие планы. 30 июня в два часа ночи он прилетел в Мюнхен и оттуда вместе с чинами личной охраны во главе с Зеппом Дитрихом направился в Бад-Висзее, чтобы арестовать Рема.
Было уже семь утра. В коридоре санатория Гитлеру попался адъютант Рема граф Шпрети. Фюрер огрел его хлыстом по лицу и передал в руки охранников. Затем он ворвался в комнату Рема, который был еще в постели, обозвал его изменником и объявил, что тот арестован. В соседней комнате охранники застрелили ближайшего друга Рема Эдмунда Хай-неса, который попытался схватиться за револьвер, когда его застали в постели с любовником. Рема же и остальных арестованных в санатории штурмовиков перевезли в штадельхаймскую тюрьму. Здесь спустя сутки в камере Рема оставили пистолет с одним патроном, но он стреляться не стал. Тогда ему помогли уйти из жизни начальник концлагеря Дахау эсэсовец Теодор Эйке и один из его подчиненных.
Тем же самолетом, которым Гитлер прилетел в Мюнхен, Герингу сразу же после ареста Рема была направлена весточка в Берлин. Узнав, что «головка» штурмовиков обезврежена, глава Пруссии направил в столицу специальный моторизованный полицейский отряд во главе с майором Веке, усиленный эсэсовцами. Они окружили штаб-квартиру СА и без сопротивления арестовали всех, кто там находился. Считавшиеся наиболее опасными были немедленно расстреляны.
Карла Эрнста перехватили по дороге в Бремен, доставили самолетом в Берлин и расстреляли, как и остальных, в полицейском лагере в берлинском пригороде Лихтерфельд. Он решил, что в стране произошел антигитлеровский путч, который, возможно, организовал Геринг, и умер со словами «хайль Гитлер!» на устах.
Заодно со штурмовиками прикончили и кое-кого из «старой гвардии политиков», в том числе генерала фон Шлейхера, известного своей близостью к Рему. Его вместе с женой застрелили «при попытке к бегству». А вот фон Папена убивать не стали, а только поместили под домашний арест. Учли его международную известность и близость к Гинденбургу, который, кстати, расправу над штурмовиками одобрил и прислал по этому поводу поздравительные телеграммы Гитлеру и Герингу, где благодарил за «искоренение государственной измены». Гитлера президент поблагодарил еще и лично.