Во внутренней политике Альбрехту пришлось столкнуться с усилением Швейцарского союза, к которому в 1351 году присоединился Цюрих. Поход Альбрехта II на Цюрих в 1352-м оказался неудачным, и город вместе с прилегающей областью был потерян для герцога. В 1355 году Альбрехт II утвердил закон, запрещающий раздел владений Габсбургов, так называемое «Правило Альбертинского дома». Несмотря на то, что уже дети Альбрехта II нарушили этот закон и разделили между собой австрийские земли, действие «Правила Альбертинского дома» было возобновлено императором Максимилианом I, а позднее вошло в текст Прагматической санкции и оставалось одним из краеугольных законов Австрийской монархии до 1918 года.
Альбрехт II умер в Вене 16 августа 1358 года и был похоронен в основанном им самим монастыре Гаминг. В XIV веке начался постепенный процесс вытеснения Габсбургов из Швейцарии. Еще в 1291 году три швейцарских общины, или кантона — Ури, Швиц и Унтервальден (вскоре к ним присоединился также Обервальден), — заключили между собой соглашение о союзе и взаимопомощи. Так возник прообраз Швейцарской конфедерации, благополучно существующей и сейчас. Один из кантонов, Унтервальден, однако, находился под сюзеренитетом Габсбургов, а в остальных династия всячески пыталась укрепить свое влияние. Столкновение интересов швейцарских крестьянских общин, городов и мелких землевладельцев, с одной стороны, и крупных феодалов, каковыми являлись Габсбурги, — с другой, не могло не привести к конфликту. Верх в нем взяли швейцарцы, к концу XIV века практически лишившие династию владений в этой стране. Правда, теряя земли на западе, Габсбурги приобретали их на востоке и юге: так, Альбрехту Хромому удалось завладеть Каринтией, Крайной и Вендской маркой на территории нынешней Словении.
Альбрехт Мудрый был не слишком воинственным правителем, возможно, потому, что из-за болезни не мог командовать войском. Гораздо больше ему нравилось плести дипломатические интриги, заниматься строительством и поощрять — насколько это было возможно в то время — научные изыскания. Так, при нем ученым монахом Иоанном Виктрингским был написан трактат, посвященный истории австрийских земель. Вообще, герцог немало сделал для укрепления единства Австрии, за которой, собственно, при нем и закрепилось официальное название dominium Austriae — «австрийские владения». После Чешского королевства, переживавшего при Карле IV Люксембурге (1346–1378) период небывалого расцвета, Австрия во второй половине XIV века, несомненно, была наиболее экономически сильным и политически влиятельным из государственных образований, входивших в состав Священной Римской империи.
Наследником Альбрехта II стал один из самых необычных Габсбургов, живших и правивших в эпоху позднего средневековья. Старший сын Альбрехта Мудрого, вошедший в историю под именем Рудольфа Основателя, с юных лет отличался бешеным честолюбием. Он мечтал не только о дальнейшем расширении габсбургских владений, но и о возвращении своей семьи на первые роли в империи. Несколько раз, ссылаясь на некие древние традиции и якобы данные прежними императорами обещания, Рудольф присваивал себе титулы, на которые не имел ни малейшего права. Он пытался воссоздать древнее Швабское герцогство и стать его правителем, а когда это не удалось, объявил себя великим герцогом Австрийским — небольшая, но все же ступенька в иерархии титулов, приближавшая честолюбивого Габсбурга к королевскому достоинству. Вершиной проделок Рудольфа стало «обнаружение» целой серии «древних» документов, в которых выдающиеся монархи прошлого, вплоть до Юлия Цезаря и Нерона, якобы предоставляли владельцам австрийских земель различные привилегии и всячески возвышали их между прочими своими подданными. Подлинность этих творений вызывала сильные сомнения уже у современников, в том числе у Карла IV, позднее же была доказано, что это подлог. Наиболее искусным образом был подделан действительно существовавший документ — рескрипт императора Фридриха Барбароссы, называвшийся Privilegium minus и датированный 1156 годом. В нем император повысил статус Восточной марки (Австрии), сделав ее герцогством. Фальсификат, получивший название Privilegium maius, представлял собой «исправленное и дополненное» распоряжение Барбароссы, на основании которого Рудольф и присвоил себе титул великого герцога.
Желая объединить все земли под одним флагом, Рудольф ввел изображение пяти орлов, в подражание символике римских императоров. Но Рудольф скоропостижно скончался, так и не реализовав своих честолюбивых планов. Только при Рудольфе IV с 1359 года Габсбурги стали носить титул эрцгерцогов.
Для своих подданных беспокойный и болезненно самолюбивый герцог был, однако, довольно неплохим правителем. Во всяком случае, жители Вены могут быть благодарны Рудольфу хотя бы за перестройку (фактически возведение заново) великолепного собора Святого Стефана, одной из главных достопримечательностей австрийской столицы.