Став верховным первосвященником, Лев немедленно столкнулся с вооружённым сопротивлением Тускулумского дома. Но он действовал решительно и опустошил все территории, подконтрольные этому роду, а папу Бенедикта IX и всех его сторонников отлучил от Церкви.
В рамках своей реформаторской деятельности папа много ездил по Европе. Всего за время понтификата он провёл двенадцать поместных Соборов в разных городах. Действуя решительно и последовательно, он вывел монастыри из подчинения светской власти, передав их под защиту Св. Престола. Стремясь к укреплению мира в Европе, он употреблял свои дипломатические способности и авторитет Церкви, чтобы предупреждать или останавливать кровопролитие.
В мае 1049 г. он встретился в Германии с Генрихом III. Императору трудно давалась борьба с герцогом Готфридом Бородатым, воевавшим с родным братом за право единолично править Лотарингией. Победить мятежника ему удалось только после двух военных походов и с помощью папы, который отлучил от Церкви Готфрида и тем самым способствовал прекращению междоусобной войны.
Несмотря на недовольство императора, Лев затем поехал во Францию и в Реймсе созвал синод франкских и английских епископов и аббатов, где были подготовлены и изданы ряд реформаторских декретов. Одним из его постановлений был повторный запрет на брак нормандского герцога Вильгельма, впоследствии завоевавшего Англию, и Матильды Фландрской. На обратном пути в Рим Лев еще раз посетил Германию. Повсюду на своем пути папа активно призывал к борьбе с двумя главными пороками Церкви — симонией и развратом.
Папа Лев отличался беззлобным и доброжелательным, хотя и твердым характером, и его любили даже итальянцы. Правда, во время его понтификата в римскую курию вошли многие немецкие и лотарингские кардиналы. В течение шести лет, прошедших до его смерти в возрасте 51 года, этот высокий рыжеволосый эльзасец воинственного вида (он командовал армией во время карательной экспедиции Конрада II в Италию) зарекомендовал себя как один из величайших церковных деятелей Средневековья.
По выражению Д. Норвича,
Лев приблизил к себе Гильдебранда насколько возможно и сделал одним из распорядителей папской казны. Но сам он несколько опасался своего энергичного соратника. Сохранилось предание, что понтифик увидел во сне Гильдебранда в пылающей одежде, окруженного пламенем, расходившимся во все стороны.
Лев IX начал свой понтификат с путешествия по Италии, имея в виду и политические цели. Папа был возмущен теми страданиями, которые нормандцы причинили Апулии.