К двадцати годам Эрнст стал серьезнее. Он поступил в Зальцбургский университет и в 1926 году получил диплом юриста. Немного поработав в городском суде, Кальтенбруннер открыл собственную юридическую контору в Линце, а через шесть лет там же вступил в национал-социалистическую партию и стал активным членом СС. Юридическая специальность пригодилась и здесь: он заметно выделялся на фоне малограмотных молодых людей и безработных ветеранов.
В это время в Австрии бурную деятельность развили агенты адмирала Канариса. На организацию отрядов СС выделялись довольно крупные средства, через границу перевозились грузы оружия и боеприпасов. Канцлер Австрии Энгельберт Дольфус всеми силами пытался предотвратить намеченный гитлеровцами аншлюс. Борьба длилась два года. Дольфус решил сделать своей козырной картой группировки местных нацистов. Он объединил их отряды с правительственными войсками и организовал нападение на рабочие кварталы для подавления мифического восстания социал-демократов. Нацисты убили больше тысячи человек, но надежды Дольфуса на то, что разбушевавшиеся молодчики удовлетворятся этой малой кровью, не оправдались. В стране начался террор, приводящий к хаосу.
Разумеется, германский абвер приложил к разгулу страстей профессиональные руки диверсантов. Нацисты громили электростанции, вокзалы, мосты, убивали сторонников Дольфуса и сочувствующих ему. 25 июля 1934 года они ворвались в его кабинет в федеральной канцелярии. Во время перестрелки Дольфус был ранен в горло. Его не добивали. Его просто оставили истекающим кровью и никому не позволяли оказать ему медицинскую помощь. Энгельберт Дольфус умер от потери крови, окруженный толпой из полутора сотен австрийских эсэсовцев. Одним из них был Эрнст Кальтенбруннер, и, видимо, играл он здесь далеко не последнюю роль. Об этом можно судить хотя бы по тому, что в следующем году он становится признанным лидером австрийских СС.
Но тогда восстание было подавлено правительственными войсками, его руководителей и участников посадили в тюрьму. Вместе с ними сидел и Кальтенбруннер.
В 1937 году новый канцлер Австрии Курт Шушниг поручил герою войны Артуру Дольфусварту наладить связи с не успокаивающимися местными нацистами. Но это называется «пустить козла в огород». Зейсс-Инкварт, ярый сторонник германского нацизма, постарался как можно быстрее наводнить кабинеты правительства своими сторонниками. На пост статс-секретаря по вопросам безопасности был назначен Эрнст Кальтенбруннер.
Еще через полгода Гитлер пригласил Шушнига в Бергхоф. Это было одно из тех приглашений, от которых отказаться было невозможно. Не сумел Шушниг, приехавший в шале фюрера, отказать и другим настойчивым просьбам гостеприимного хозяина. Правда, они подкреплялись угрозой немедленного военного вторжения в Австрию, но альтернатива была не лучше: согласие на предложения Гитлера по сути было разрешением на вторжение мирное и небыстрое. Гитлер потребовал назначить Зейсс-Инкварта министром внутренних дел и начальником сыскной полиции, провести полную политическую амнистию, освобождавшую осужденных нацистов, и обеспечить вступление австрийской нацистской партии в Патриотический фронт.
Чтобы показать всему миру, что объединение с Германией навязывается Австрии насильно, Шушниг, вернувшись 9 марта на родину, объявляет о проведении через два дня плебисцита.
В ночь с 10 на 11 марта 1938 года Геринг приказал австрийским нацистам взять под контроль правительство Австрии. Не менее полутысячи венских эсэсовцев во главе с Кальтенбруннером окружили государственную канцелярию, а специальный отряд под командованием его адъютанта ворвался в здание. Не желая связывать свое имя с предательством интересов родины, Шушниг объявляет о своей отставке. Исполнение обязанностей канцлера берет на себя Зейсс-Инкварт и отправляется на переговоры с президентом Микласом. Вторжение эсэсовцев в канцелярию решило ход этих переговоров: Австрия была полностью подчинена Германии и объявлена протекторатом. Таким образом, предводитель венских нацистов Кальтенбруннер оказался замешанным в высшую государственную политику.
Из одной книги в другую переходит мелодраматическое описание встречи Кальтенбруннером на венском аэродроме прилетевшего в Австрию Генриха Гиммлера. Действительно, из уст Кальтенбруннера прозвучало: