Если бы выборы происходили на общем съезде, первенство непременно досталось бы Генриху, поэтому Гогенштауфены предпочли действовать хитростью. За два месяца до назначенного срока папский легат Альбер и архиепископ Кёльнский Арнольд собрали в Люце-Кобленце съезд вельмож, на котором присутствовали в основном сторонники Гогенштауфенов. Здесь 7 марта Конрад был провозглашен королём, а через неделю короновался в Ахене. Этот выбор, впрочем, признали все владетельные князья. Генрих Вельф до июля медлил с выражением покорности, но увидев, что он остался в одиночестве, прислал Конраду знаки королевского достоинства, которые до этого хранились у него. В августе соперники увиделись на съезде в Аугсбурге. Но к миру эта встреча не привела. Конрад объявил, что государственные законы не дозволяют одному лицу владеть двумя герцогствами, и потому Генрих должен отказаться от Саксонии. Вельф отвечал, что будет оружием защищать свои владения. Опасаясь нападения, Конрад поспешно уехал из Аугсбурга, а на следующем съезде в Вюрцбурге Генрих был объявлен мятежником. Это событие послужило началом многолетней войне, в очередной раз расколовшей Германию на две партии. В 1139 г. маркграф Альбрехт Медведь, которого Конрад провозгласил герцогом Саксонским, и Леопольд, маркграф Австрийский, получивший от императора Баварию, безуспешно старались овладеть своими герцогствами. И баварцы, и саксонцы единодушно стояли за Вельфов. Генрих поразил обоих своих противников, а затем заставил отступить и самого императорд. Но в октябре он внезапно заболел и скончался, оставив после себя десятилетнего сына Генриха Льва. После этого война пошла более успешно для короля. В 1140 г. Конрад осадил Вейнсберг – родовой замок Вельфов и разгромил под ним Вельфа, дядю маленького герцога. Затем после трудной осады принудил сдаться защитников замка. Всех мужчин он приказал казнить, а женщинам позволил уйти, взяв с собой то, что они смогут унести на плечах. Тогда женщины взяли своих мужей на плечи и пошли из замка. Фридрих не хотел пропускать мужей и говорил, что было дано разрешение нести имущество, а не людей. Но Конрад, засмеявшись, отвечал брату: «Королевское слово неизменно». По прошествии двух лет был заключен мир. В 1142 г. на франкфуртском съезде Генрих Лев отказался от Баварии и был утвержден в сане герцога Саксонского.