Так началась, на этот раз непосредственно, борьба Вельфов и Вайблингенов. Чтобы сломить могущество Генриха Гордого, Конрад отнял у него Саксонию и отдал ее Альбрехту Медведю. Храбрый маркграф, который уже столько лет с такой энергией добивался господства над северными областями, естественно, был для Вельфов страшным противником. Другой королевский указ лишил Генриха Баварии, которую Конрад отдал своему сводному брату, австрийскому маркграфу Леопольду из дома Бабенбергов. Генрих не хотел уступать. В 1139 г. он изгнал Альбрехта Медведя из Саксонии, но внезапно умер от лихорадки (октябрь 1139 г.) во цвете лет, на 35-м году жизни, оставив свое опасное наследство десятилетнему сыну Генриху, который впоследствии получил прозвание Льва. Борьба продолжалась. Позже, в 1142 г., во Франкфурте был подписан договор: саксонские сеньоры подчинились королю, который признал молодого Генриха саксонским герцогом; вдова Генриха Гордого Гертруда вышла замуж за брата Конрада, маркграфа Генриха Язомирготта, который в следующем году получил в управление Баварию. Тем не менее мир в Германии не был восстановлен: сторонники Вельфов не разоружались вполне; повсюду вспыхивали войны между крупными сеньориальными фамилиями; Рожер Сицилийский и венгерский король вербовали себе союзников среди немецких князей, чтобы поддерживать раздоры в Германии; в Провансе и Бургундии власть Конрада была ничтожна.
Несмотря на столько затруднений внутри государства, Конрад составил между тем план целого ряда походов. Он заключил с константинопольским двором союзный договор против Рожера Сицилийского (1142); позднее император Мануил Комнин женился на его свояченице Берте Зульцбахской (1146). Увлеченный св. Бернардом, он возложил на себя крест в Шпейере на Рождестве 1146 г. Князья и сеньоры последовали его примеру; междоусобные войны прекратились. Во Франкфурте (март 1147 г.) провозглашен был всеобщий мир. В мае Конрад, короновав своего десятилетнего сына Генриха, выступил в поход со множеством искателей приключений, бедняков и богатых, даже женщин, вооруженных с ног до головы. Среди них, как рассказывает летописец, было много людей, которых гнали из отечества крайняя бедность, долги, стремление покрыть забвением какой-нибудь проступок. Это был Второй крестовый поход; известно, как неудачно он закончился.
В самой Германии многие сеньоры, особенно саксонские, мало интересуясь посещением Иерусалима, организовали под влиянием св. Бернарда Крестовый поход против вендов. Успеху немецкого влияния в этой стране помешали раздоры между Альбрехтом Медведем и Генрихом Гордым. Между тем граф Адольф Голштинский возобновил борьбу со славянами, завоевал Вагрию, восстановил Любек, покровительствовал христианским миссиям, призвал колонистов из Фландрии, Голландии и Вестфалии, обещая им землю, богатую плодами, стадами, пастбищами. «Несметное множество народа откликнулось на этот призыв» (Гельмольд). Он завязал дружеские сношения с ободритским князем Никлотом. Крестовый поход чуть не разрушил всей его работы, вызвав нашествие вендов: они снова разрушили Любек и опустошили поселения немецких колонистов. Поход, предпринятый против них, продолжался только несколько недель; единственным серьезным результатом его было обращение в христианство Ратибора, герцога Померании. Адольф получил возможность восстановить свое влияние в Вагрии, но больше всего эти события послужили на пользу Генриху Льву, который упрочил свою власть в Саксонии и завоевал область Дитмаршен (1148). Между тем его соперник Альбрехт Медведь после смерти бранденбургского князя Прибислава (1150) унаследовал его княжество; он ввел здесь германское устройство и довершил распространение христианства, покровительствуя пропаганде премонтранцев. Епископство Гавельбергское также обязано было ему своим развитием. Несмотря на анархию, которой ознаменовалось царствование Конрада, пределы германского мира все-таки расширялись в ущерб славянству.
Последние годы Конрада прошли так же тревожно. Во время Крестового похода князья возмутились против его сына Генриха; граф Вельф VI в союзе с Рожером Сицилийским старался возбудить большое восстание. Возвращение короля (май 1149 г.) не восстановило порядка. Вельф продолжал свои происки. Генрих Лев взялся за оружие и потребовал назад Баварию. Умирая (февраль 1152 г.), Конрад оставил Германию глубоко расстроенной, а королевскую власть — совершенно бессильной.