Из всех соседей короля Карла первым ощутил тяжесть меча франков король лангобардов Дезидерий. Он не только принял вдову Карломана Гербергу, когда та бежала из Бургундии, но выказал намерение провозгласить ее сына королем франков. Но действительным поводом для начала войны стали не козни лангобардов против Карла, а отношения папства с Дезидерием. На папский престол только что взошел новый папа — Адриан I. Он был римлянином по рождению и ненавидел лангобардов. Папа отказался от предложенного Дезидерием союза и сразу после своего восхождения на Святой престол начал ссориться с неудачливым королем. Он потребовал от лангобардов важные города Феррара и Фаэнца, как часть Равеннского экзархата. Они были обещаны святым Петром, сказал он, в 757 году, когда Дезидерий боролся за корону с королем Ратхисом, и должны быть переданы немедленно. Дезидерий решил, что Карл слишком занят у себя за Альпами, наводя порядок в недавно аннексированных владениях брата, чтобы отправиться в Италию, и ответил на требование папы, отправив войско в Пентаполь и захватив Сенигаллию и Урбино. Вскоре после этого он собрал главные силы армии лангобардов и двинулся на Рим. Адриан этого ожидал. Он, как мог, укрепил оборону города и поспешно отправил посла к франкам, моля их прийти на помощь святому Петру и заставить нечестивых лангобардов выполнить соглашение, которое с ними заключил король Пипин. Новость об отправке этого посольства, судя по всему, встревожила Дезидерия. Он отошел к Витербо и, вместо того, чтобы продолжить осаду Рима, послал гонца к Карлу, который должен был объяснить, что обвинения папы безосновательны и он не удерживает ничего, действительно принадлежавшего экзархату (осень 772 года).
Дезидерий, впервые напав на Рим, был не так уж не прав, думая, что Карл занят делами собственного королевства. Тем летом он начал большое предприятие — завоевание Саксонии. Эта задача занимала его следующие двадцать лет. Летом 772 года он вторгся на территорию саксов, вынудил обитателей центральной ее части дать ему заложников и в знак своего триумфа срубил Ирминсуль, священное дерево, которому поклонялись все саксы, стоявшее в роще недалеко от Падерборна. Этому дереву саксы совершали богатые приношения. По возвращении в Австразию Карл встретился с послами Адриана и Дезидерия в Тьонвиле. Он ни на мгновение не отступил от политики поддержки папства, проводимой его отцом, и отослал послов Дезидерия, предложив лангобардам немедленно вернуть Святому престолу города, которые они незаконно заняли, тем самым поступив по справедливости со святым Петром. Король лангобардов слишком сильно разозлился, чтобы пойти навстречу требованиям франка, и поклялся, что ничего не вернет. Это и привело Карла в Италию. Выступив из Женевы, он с одной частью своей армии прошел Мон-Сени, а его дядя Бернар с остальными силами последовал по пути святого Бернара. Дезидерий, когда они приблизились, укрепил альпийские горные проходы у Сузы и Ивреи и перешел к обороне. Но отборный отряд франков обошел его позиции в Сузе. Увидев, что его окружают, лангобарды покинули свои позиции и отступили в Павию — то есть сделали в точности то же самое, что сделал их предшественник Айстульф в войне с королем Пипином. Карл пошел следом и осадил Павию, которая держалась много месяцев. Тем временем Адельгиз, сын Дезидерия, собрал вторую лангобардскую армию и занял позиции перед Вероной. Оставив часть армии для продолжения осады Павии, Карл выступил против Адельгиза, вынудил его бежать и захватил Верону, а потом — Брешию и Бергами. Принц лангобардов вышел в море и отправился в Константинополь, где попытался заручиться помощью Константина Копронима, тогда занятого болгарской войной.
Поскольку король Дезидерий в Павии демонстрировал чудеса упорства, осада затянулась, и Карл решил провести весну 774 года в Риме, чтобы достичь полного взаимопонимания с папой Адрианом. Он прибыл в город во время Святой недели, и принял участие в роскошных пасхальных торжествах. Его общение с папой завершилось подтверждением перехода к папству всего Равеннского экзархата, от Феррары и Комаккьо на севере до Осимо на юге, включая все места, относительно которых велся спор между папой и лангобардами. Позднее римские авторы даже утверждали, что Карл увеличил либеральный дар Пипина, добавив к нему север Тосканы, Парму, Модену, Венецию и остров Корсика. Однако у авторов того времени ничего подобного не сказано. Франкский король никогда не передавал папе суверенитет над Тосканой или Эмилией, тем более над Венецией, которая ему не принадлежала, и потому он не мог ее никому отдать, и далекой Корсикой.