По неизвестным нам причинам Карл и Карломан никогда не дружили. Возможно, младший сын, родившийся после коронации отца, считал себя выше старшего, который был сыном майордома. Мы только знаем, что на протяжении трех лет своего совместного правления они постоянно находились на грани ссоры. От открытого разрыва их предохраняло только благотворное влияние и мудрые советы матери Берты. Королевству повезло хотя бы в том, что оба были хорошими сыновьями и прислушивались к матери. Повезло франкам и в том, что жизнь юного короля оказалась короткой. Если бы Карломану было отведено больше дней на этом свете, можно не сомневаться, что повторилась бы история братоубийственных войн Меровингов. Историки, писавшие о жизни Карла Великого, всегда упоминают о провокациях со стороны младшего брата. Сторонники Карломана наверняка считали, что Карл давал повод для нападок.
Начало совместного правления двух королей ознаменовалось восстанием в недавно покоренной Аквитании. Герцог Вайфер, лидер южан в их затяжной войне с Пипином, был убит, и его старый отец Гунальд вышел из монастыря, чтобы возглавить восстание, которое быстро распространилось. Люди считали, что два завистливых брата будут слишком заняты ссорами между собой, чтобы воевать на юге. Карл немедленно отправился на юг и предложил младшему брату сделать то же самое. Карломан ненадолго появился, поругался со старшим братом и удалился в Бургундию. Правда, он не воспользовался возможностью напасть на старшего брата, и Карл сумел — без помощи, но и без препятствий — продолжить кампанию против аквитанцев. Она оказалась успешной. Ему удалось дойти до Бордо, построить большой укрепленный лагерь в районе Фронсака, которому суждено было стать главным оплотом Гаронны на много поколений, и разбил войско Гунальда. Старику пришлось искать убежища у Лупа, герцога Васконии. Но тот, опасаясь гнева Карла, покорился королю, выдал ему беженца, попросил мира и получил его. Карл вернулся домой с триумфом, вернул Гунальда в монастырь и стал признанным королем в Аквитании. Он разделил территорию на графства по обычной франкской системе, во главе которых поставил не местную знать, а людей с севера, в верности которых не сомневался. Больше Аквитания не создавала ему проблем.
Несмотря на то что Карломан отказался помогать брату в войне на юге, мать убедила Карла помириться с братом. Но он принял меры предосторожности на будущее, вступив в союз с соседями Карломана с юга и севера. Он заключил договор с Тассилоном, герцогом Баварии, чья зависимость от франкского королевства в последнее время стала слабой, а союз Карла с Дезидерием, королем лангобардов, стал еще прочнее благодаря его браку с дочерью Дезидерия по имени Дезидерата. Этот брачный союз был заключен, несмотря на яростные нападки папы, который требовал, чтобы Карл не смешивал благородную франкскую кровь с кровью «коварного грязного прокаженного лангобардского рода». Папа именовал этот союз не иначе как «дьявольским совокуплением, которое ни один нормальный человек не назовет браком». Папство так хорошо научилось использовать далеких монархов Галлии против соседних правителей Павии, что Стефан III рассматривал союз между франкским королем и лангобардской принцессой как предательство Святого престола. Несмотря на угрозы Стефана, брак был заключен, после чего, проявив благоразумие, а не последовательность, папа неожиданно позабыл обо всех своих возражениях против лангобардов и заключил мир с королем Дезидерием.
Однако через год Карл отказался от жены — якобы та была больна и бесплодна. Нам неизвестно, было ли это истинной причиной или политические мотивы тоже сыграли роль, однако сразу после развода Карл женился на швабской леди по имени Хильдегарда. Можно предположить, что его мотивы были аналогичны тем, которыми руководствовался английский король Генрих VIII в аналогичных обстоятельствах. Как бы то ни было, благодаря этому разводу он обзавелся смертельным врагом в лице отца Дезидераты. Неприятности не заставили себя ждать. Прошел слух, что между Карлом и Карломаном вот-вот начнется война, в которой примет участие Дезидерий. Словно для того, чтобы предотвратить такое развитие событий, король Карломан в декабре 771 года умер. Он оставил маленького сына, но знать и епископы Бургундии и Алеманнии не сделали попытку посадить младенца на трон отца. Вместо этого они направились к Карлу в Корбени и признали его королем всего государства франков. Вдова Карломана Герберта бежала с ребенком и небольшой свитой в Ломбардию, где Дезидерий с радостью принял врага Карла, тем более такого, который может претендовать на долю в королевстве франков.