Служба в ВМФ казалась Гейдриху до некоторой степени упорядоченной. «Белый Моисей», как его еще называли, добился определенного уважения со стороны сослуживцев, которых часто побеждал в фехтовании, плавании, парусном спорте и на конных скачках. Однако и на флоте друзей у него не появилось. Он оставался странным чудаком, который сам себе доставлял в жизни неприятности. А это без последствий не проходит.
И действительно, мир Гейдриха заколебался, а служба на флоте оказалась под вопросом. Собственно говоря, сначала дело приняло форму обычного фарса. Молодой офицер Гейдрих подвергся в 1931 году суду чести за то, что, пообещав супружество дочери влиятельного старшего советника ВМФ по строительству, отказался от своих слов после того, как познакомился на танцах в Киле с дочерью сельского учителя из Фемарна, Линой фон Остен. Через два дня после знакомства у них уже состоялась и помолвка. Гейдрих вырезал из местной газеты объявление о своей помолвке с Линой и послал вырезку отвергнутой девушке. С юной особой случилось нервное потрясение.
Скандал достиг кульминации. Отец оскорбленной невесты обратился с жалобой к флотскому начальству. Дело дошло до суда чести, на котором Рейнгард Гейдрих вины не признал, вел себя вызывающе, в результате чего совет суда чести постановил уволить молодого офицера из рядов ВМФ за беспринципность и недостойное поведение. Гейдрих был уволен из ВМФ «за недостойное офицера поведение». Так Гейдрих потерял карьеру, положение и твердый заработок.
Его мир рухнул. Что делать? Ехать домой, в Галле, где он, униженный и потерпевший крах, временами плакал как малое дитя? Найти работу было невозможно. Германия переживала тяжелейший экономический кризис. И Рейнгард Гейдрих стал теперь одним из миллионов безработных без надежды трудоустроиться в ближайшем будущем.
Наконец мать Гейдриха обратилась к старому другу семьи шефу мюнхенских штурмовиков (СА) князю Карлу фон Эберштейну с просьбой пристроить сына. Эберштейн имел доступ к Генриху Гиммлеру, который тогда как раз вознамерился создать службу разведки СС, чтобы собирать для себя и руководства партии НСДАП информацию о друзьях и противниках партии. Гейдрих, имея специальность офицера связи, как нельзя лучше подходил для этой цели. Эберштейн организовал встречу Гейдриха с Гиммлером на своей птицеферме Вальдтрудсринг под Мюнхеном. Сама внешность белобрысого верзилы нордического типа, его манера поведения и быстро набросанный им план организации будущей секретной службы СС произвели на Гиммлера такое впечатление, что он тут же принял его на работу: Теперь Гейдрих. опять получил право носить мундир. Его вдова вспоминала: «В то время для Рейнгарда главным было то, что у него появилось дело, которое приобрело масштаб народного, национального и было военным».
Гейдриху исполнилось 27 лет, когда он приступил к работе на новом месте. До лета 1931 года он не имел контактов ни с партией НСДАП, ни с организацией СС. О партии Гитлера он знал только по рассказам своей жены Лины, которая вступила в ее ряды в 18-летнем возрасте. Он невысоко ценил шумные компании подвыпивших штурмовиков СА, однако манеры членов СС, присущие элитарному, закрытому Ордену, полностью соответствовали его чувству превосходства и элитарного самомнения.
Так началось в 1931 году роковое сотрудничество Гиммлера и Гейдриха, приведшие к созданию службы безопасности (СД) и ее батальонов профессиональных убийц. А это определило весь последующий курс войск СС и полиции на годы национал-социализма.
Своей карьерой Гейдрих был обязан Гиммлеру и за это платил ему безупречной лояльностью и беспримерно жестким проведением в жизнь политики СС. Гиммлер очень скоро понял, что Гейдрих обладает такими качествами, без которых невозможно обойтись при превращении СС и полиции в исполнительный орган воли фюрера и для создания культуры массового истребления людей.
Бредни о расовой чистке Гиммлера и бесстрастная ставка на насилие Гейдриха образовали роковую комбинацию. Каждый раз, когда Гиммлер предавался своей заветной мечте об империи избранных германцев, он вновь и вновь был вынужден капитулировать перед Гейдрихом, говоря: «Ох, уж вы тут еще со своей чертовой логикой! Что бы я ни сказал, вы всегда все сводите к нулю своей логикой!»
В действительности Гейдрих, как правило, находил пути выполнения желаний Гиммлера, но так, чтобы самому при этом обрести еще больше власти. Геринг говорил о Гиммлере: «Мозги Гиммлера называются Гейдрихом».
Взаимоотношения между Гиммлером и Гейдрихом не имели прецедента в истории Третьей империи по своим ужасным последствиям для жизней миллионов людей. Два человека, которые никогда не были друзьями, имели абсолютно одинаковые цели и дьявольски дополняли друг друга в своей паранойе к убийству: «У Рейнгарда не было друзей. Ни один человек не может сказать, что он был другом Гейдриха», — подтверждала Лина Гейдрих. И далее: «Он не хотел иметь друзей. Он считал, что не имеет права водить дружбу со знакомыми».