Et Goering choisit de s’allier à eux, Budolf Diels prend peur : il a heurté de front l’Ordre noir, le voici désavoué. Connaissant les méthodes expéditives des S.S., il s’enfuit à Karlsbad. Pourtant ce n’est pas encore la fin de la puissance policière de Goering : il lutte pied à pied. Diels peut revenir, être autorisé par décret du 9 novembre 1933 à porter l’uniforme de Standartenführer S.S., preuve qu’un accord est intervenu et que le passé est oublié.
Mais le combat sourd et souterrain se poursuit. Heydrich continue son travail de rongeur et d’organisateur. Il a l’appui du ministre de l’Intérieur du Reich Wilhelm Frick qui lutte pour que toutes les polices des Länder, les provinces allemandes, soient unifiées. Et Goering peu à peu cède du terrain, car il a besoin de Heydrich et de Himmler et de l’Ordre noir pour combattre les S.A. de Roehm, chaque jour plus remuants, chaque jour plus nombreux, défilant dans les villes en colonnes sombres, précédées de tambours et de fanfares et réclamant à grands cris la poursuite de la révolution.
Au mois d’avril 1934, Himmler atteint son but : le 10 avril, il visite en compagnie de Heydrich et de Goering le 8 de la Prinz-Albrecht-Strasse, le siège de la Gestapo. Il vient d’obtenir le contrôle de la police secrète de Prusse. Rudolf Diels a été renvoyé et nommé « Regierungspräsident » à Cologne. Quelques jours plus tard, le 20 avril, le couple Himmler-Heydrich contrôle toute la police secrète d’Allemagne et aussi les compagnies noires, les hommes implacables, les S.S.
Heydrich et Himmler se sont partagé les rôles : le Reichsführer est chef et inspecteur de la police secrète d’État (Gestapo) , Heydrich représente le Reichsführer et dirige le Geheime Staatspolizeiamt, administration de la Gestapo ou Gestapa. Heydrich demeure chef du S.D. (Sicherheitsdienst) qui devient, officiellement, le service de renseignements du Parti. Désormais, Himmler et Heydrich dirigent les forces de l’ombre qui « tiennent » le Parti et l’Allemagne. Le lendemain même de leur intronisation, la National-Zeitung dans un éditorial signé simplement des deux initiales H.O., révèle quelques-unes des intentions des deux chefs S.S. :
« La répression se fera désormais plus dure », écrit la National-Zeitung. Et pour bien indiquer que les S.A. aussi sont désormais visés, le journal poursuit : « Par ennemis de l’État il ne faut nullement entendre uniquement les agents et les agitateurs bolcheviques, par ennemis de l’État il faut entendre tous ceux qui, par la parole ou l’action, quels que soient leurs motifs, compromettent l’existence du Reich ».
Le journaliste ajoute, s’en prenant à la clémence supposée des mois qui viennent de s’écouler : « Depuis la fin de la révolution, l’ennemi politique ne court plus de risques. Dans les premières semaines, il y a eu des actions brutales : aujourd’hui, ceux qui font de l’agitation, du dénigrement, les saboteurs et les calomniateurs sont exposés tout au plus à être internés préventivement pour une durée plus ou moins longue dans un camp de concentration. Cette détention a des formes qui ne sont pas totalement effrayantes, mais cela va changer maintenant. Nous ne torturerons et ne tourmenterons personne, mais nous les fusillerons et tout d’abord les communistes. »
Sur tous les perturbateurs plane ainsi la menace du peloton d’exécution. Aux S.A. de réfléchir. Goering doit se féliciter d’avoir choisi l’alliance avec le Reichsführer S.S. A Nuremberg, face aux juges alliés avec sa morgue et son intelligence, il expliquera comment il avait réagi en cet avril 1934 à la décision du Führer de confier à Himmler et à Heydrich la direction de la Gestapo. « À cette époque, explique-t-il, je ne me suis pas expressément opposé à ce principe. Cela m’était désagréable, car je voulais diriger ma police secrète moi-même. Mais, quand le Führer me demanda d’accepter, disant que c’était la voie correcte, qu’il était nécessaire que la lutte contre les ennemis de l’État fût menée d’une manière uniforme sur toute l’étendue du Reich, je remis la police entre les mains de Himmler qui plaça Heydrich à sa tête. »
Ainsi Himmler est parvenu à ses fins et Roehm va devoir aussi compter avec ce subordonné dont la puissance est désormais secrète et immense, étendant ses rets sur toute l’Allemagne. Goering qui s’est incliné, qui sait avoir en Himmler un allié contre Roehm ne s’en méfie pas moins. Il crée rapidement une nouvelle police personnelle, nouvelle garde prétorienne, la Landespolizeigruppe, qui va prendre ses quartiers près de Berlin à Lichterfelde.
Maintenant Hermann Goering est plus tranquille. Dans son luxueux appartement du Kaiserdamm, il reçoit royalement singeant la légèreté, lui qui pèse près de 127 kilos, montrant à tous le portrait de sa femme Karin morte d’émotions et de fatigues, alors qu’il était engagé dans la bataille pour la prise du pouvoir, Karin à laquelle il voue un culte sincère et théâtral.