Мюллер начал карьеру профессионального полицейского в баварской полиции в 1923 году во время попытки государственного переворота, которая провалилась. Он боролся с нацистами.
Окончил он только начальную школу и никогда не забывал о своем крестьянском происхождении. В партию вступил поздно — номер его партбилета 107043! Первым его заметил Гиммлер и сделал из него верного приверженца идеям нацистской партии.
С 1933 года Мюллер боролся с врагами Гитлера. Он принимал активное участие в событиях «ночи длинных ножей», получив за заслуги звание оберштурмбанфюрера 4 июля 1934 года. В 1938 году стал полковником и активно участвовал в уничтожении евреев. События «хрустальной ночи» в ноябре 1938 года, направленные против евреев, были откликом на убийство советника немецкого посольства в Париже фон Рата. Это упрочило репутацию Мюллера, отличавшегося нечеловеческой жестокостью. Соперником в аду ему мог быть только Гейдрих. Они ненавидели друг друга, но оба пользовались благосклонностью Гитлера.
К началу войны Мюллер был одним из руководителей режима, от которого вскоре содрогнулся мир.
Центральное бюро безопасности рейха — хорошо отлаженная военная машина
Каждый день Гейдрих пытался выискать что-нибудь новенькое о каждом. Рассказывает Шелленберг:
Гейдрих дал распоряжение Шелленбергу. Тот выбрал красивый особняк в хорошем районе и взял его в аренду. Архитектору было поручено заняться внутренним убранством особняка, а тем временем техники нашпиговывали стены и мебель микрофонами. Обслуживающий персонал был подобран соответственно — по высшему классу двойной профессии.
Оставалось решить вопрос о девочках. Вернее, требовались молодые особы высшей категории, агенты в юбках. Подключили и начальника криминальной полиции Берлина Артура Нёбе, работавшего ранее в полиции нравов. Он поездил по европейским городам и привез то что надо — красоток, умеющих поддержать разговор, с хорошими манерами. В Берлине с ним сотрудничали из чувства патриотизма несколько дам из высшего общества — они занимали гостей в салоне Китти. Подключил и их к новой работе.
Гейдрих окружил себя умными молодыми помощниками, какими были 27-летний Адольф Эйхманн и 24-летний Вальтер Шелленберг. Сотрудничал он и с опытным немолодым Артуром Нёбе, специалистом криминальной полиции (он написал учебник полицейского сыска и создал криминальную лабораторию), а также с Генрихом Мюллером, тоже имевшим опыт работы в криминальной полиции.
Теперь, после опубликования приказа от 17 июня 1936 года, согласно которому в рамках Министерства внутренних дел было создан высший орган полиции — Центральное бюро безопасности рейха (начальником которого был назначен Гиммлер), и дирекция сипо с двумя подотделами — стапо и крипо (которыми руководил Гейдрих), внутри партии и в полиции уже никто не оспаривал главенство «Черного порядка» и СД. Гиммлер руководил теперь объединенными сипо и СД. Этот орган стал сокращенно называться сипо-СД.
Таким образом, в результате перегруппировок, способствовавших централизации полицейского ведомства, усилившей позицию Гейдриха, декретом от 27 сентября 1939 года секретные службы были объединены в Центральное бюро безопасности рейха (RSHA в соответствии с немецким названием).
Накануне войны в этом ведомстве работали в среднем 5 тысяч сотрудников секретной полиции. В период войны ее отделы неоднократно реорганизовывались.
В основе этой военной машины лежали принципы централизации и соблюдения секретности, что сделало ее уникальной бюрократической структурой для выполнения разведовательных операций. Бюро безопасности рейха имело свои разведшколы, гостиницы и салоны типа салона Китти, где агенты могли приобретать навыки и добывать информацию. Но громоздкость организации приводила к ужасным и нелепым ошибкам.
В немецкие спецслужбы редко вербовали дилетантов. Разведчиков готовили в разведшколах по строго разработанным методикам. Одна из школ находилась в Бернау, недалеко от Берлина. Здесь готовили диверсантов, агентов для засылки в другие страны. Обучались в этой школе и Иностранцы. По окончании учебы разведчик сдавал экзамен «на месте», выполняя порученное задание.