В 854 г., после того как Карл казнил графа Менского Гаузберта, мятеж в Аквитании вспыхнул с новой силой. Аквитанцы обратились за помощью к Людовику Немецкому, который отправил к ним с войском своего сына Людовика. Осенью Карл заключил с восставшими новый договор: признал независимость их страны и дал им в короли своего сына Карла. В следующем году он помирился с Людовиком. Впрочем, до тех пор, пока живы были воспоминания о единстве империи, не прекращались попытки отдельных Каролингов объединить её всю в одних руках. В 858 г. аббат Адельгард и несколько других влиятельных французских вельмож пригласили Людовика занять королевство Карла. Людовик Немецкий пошел через Эльзас во владения брата. Карл вскоре увидел себя покинутым: большинство вассалов перешло на сторону Людовика. С маленьким отрядом он бежал в Бургундию, где имел больше приверженцев, чем в других областях государства. Отсюда он в 859 г. возобновил войну. Людовик не решился вступить в сражение и поспешно отошел в Германию. В 860 г. на съезде в Кобленце братья помирились и поддерживали хорошие отношения почти десять лет. В 869 г., узнав о смерти своего племянника Лотаря II, короля лотарингского, Карл немедленно захватил Мец и овладел всем его государством. Однако в январе 870 г. он получил грозное требование брата Людовика поделить с ним захваченные земли. В марте Карл согласился уступить брату половину Лотарингии. В августе братья встретились близ Мерсена на берегу Мааса и окончательно уговорились о границе раздела. Карл оставил за собой графства по левому берегу Мааса и Мозеля, а также по правому берегу Роны. Следующая размолвка между братьями произошла в 875 г. Узнав о смерти своего племянника, короля Итальянского и императора Людовика II, Карл немедленно двинулся в Италию и 25 декабря короновался в Риме императором. Людовик Немецкий, которому по родовым счетам должен был бы достаться императорский титул, опустошил Лотарингию. Не считаясь с этим, Карл короновался в начале 876 г. как король Итальянский. Осенью того же года Людовик Немецкий умер. Карл выступил против его сыновей, рассчитывая захватить Германию и таким образом соединить в своих руках всю империю. Сыновья Людовика ожидали врага при Адернах. Завязав для вида переговоры, Карл ночью тихо снялся с лагеря, разделил своё войско на многие отряды и велел им идти разными окольными дорогами для нападения на немцев в такое время, когда никто этого не ожидал. Но Людовик III (сын Людовика Немецкого), уведомленный об этом вероломстве, успел изготовиться к обороне. Сперва Карлу сопутствовала удача, но вскоре немецкая конница, врезавшись в ряды французов, нанесла им сильнейшее поражение. Темнота умножила беспорядок и расстройство. Победители с остервенением преследовали побежденных, безжалостно убивая всех, кто попадался им под руку. Сам Карл едва успел спастись и с трудом добрался с немногими спутниками до монастыря святого Ламберта на Маасе.
Германия таким образом осталась вне сферы влияния нового императора. Между тем Италия испытала новое нашествие арабов, которые несколько раз подступали к стенам самого Рима. Папа Иоанн VIII настойчиво звал Карла на помощь. В июне 877 г. император собрался наконец в поход против арабов. В Тортоне он встретился с папой. Затем в течение нескольких дней ожидал подхода своих графов, но те так и не явились. Зато пришло известие, что немецкий король Карл стоит неподалеку. Напуганный этой новостью, Карл отправился в обратный путь, так ничего и не сделав для папы. По дороге он занемог лихорадкой. Собственный врач, еврей Седекия, дал императору яд вместо лекарства и тем ускорил его смерть.
Карл III Толстый