Впрочем, при всем героизме Гильома, опасность со стороны испанских мусульман, грозивших Франкскому королевству с юга, пошла на спад лишь после смерти воинственного эмира Хишама I (788–796), на смену которому пришел его сын аль-Хакам I (796–822), в гораздо меньшей степени подверженный религиозному фанатизму и потому не особо предрасположенный к активному газавату. Как раз к этому времени, ко второй половине 790-х гг., Карл смог высвободить и перебросить к испанским рубежам существенные военные силы, задействованные ранее в борьбе против Аварского каганата. Приблизительно в то же время, когда Пипин добивал остатки аварского племени на востоке, его брат Людовик, по приказу Карла, перешел в решительное наступление на юге. В результате нескольких успешных походов за Пиренеи к югу от гор была заложена пограничная военизированная область, получившая название Испанской марки. Она включала города Херону, Урхель и Вик и должна была прикрывать Франкское королевство от нападения с юга. В значительной степени это можно было делать силами местного населения, так как в пограничную марку массово потянулись переселенцы-христиане из Кордовского эмирата, недовольные владычеством мусульман.
В 801 г. у арабов была отбита Барселона, ставшая с того времени главным военно-административным центром Испанской марки. В 806 г. франки овладели Памплоной – столицей области Наварра на северо-западе Испании. В 812 г. император франков подписал с эмиром Кордовы договор, зафиксировавший положение вещей. В итоге к 814 г., когда умер Карл, созданная им Испанская марка простиралась от Пиренейских гор на севере вплоть до протекающей с северо-запада на юго-восток чуть ли не через весь полуостров реки Эбро на юге. Это не только надежно защитило Франкское королевство на его южных границах, но и стало предзнаменованием Реконкисты – исторического процесса отвоевания Пиренейского полуострова у арабов, растянувшегося вплоть до конца XV в. Последний его аккорд – падение Гранадского эмирата – пришелся на тот же 1492 г., когда две каравеллы и флагманская каракка Христофора Колумба пересекли Атлантический океан, и был открыт Новый свет.
Относительно стабилизировав к началу 780-х гг. дела на юге (в Италии и Аквитании), создав там «долевые королевства» для своих сыновей Пипина и Людовика, Карл Великий стремился высвободить силы и время для северо-восточного направления своей политики: покорения саксов, войны с которыми растянулись более чем на 30 лет и стали наиболее жестокими из всех кампаний, которые вел Карл Великий за время своего правления. В «Жизни Карла Великого» Эйнгард описывает войну с саксами как самую длительную, тяжелую и кровопролитную из всех войн правления Карла Великого: «Она была самой продолжительной и жестокой и стоила франкскому народу наибольших потерь; ибо саксы, подобно почти всем народам, населяющим Германию, свирепые от природы, преданные культу демонов, нашей же религии противники, не считали бесчестным нарушить и осквернить как божеские, так и человеческие законы… Не сосчитать, сколько раз они, побежденные, моля о пощаде, покорялись королю, обещали исполнить предписанное, без промедления давали заложников, принимали отправляемых к ним послов; сколько раз они были до такой степени укрощены и смягчены, что даже обещали больше не поклоняться демонам и принять христианскую веру. Но сколь часто они на это соглашались, столь же часто и нарушали свое слово; со времени объявления войны не проходило и года без того, чтобы саксы не обнаружили своего непостоянства».
Саксы оказались наиболее грозными и непримиримыми противниками франков во многом благодаря тому, что были родственными им по происхождению германскими племенами, лишь отстававшими на несколько веков в своем социально-экономическом развитии. Условно их можно сравнить с франками времен Хлодвига до принятия христианства, только практически не подвергнувшимися какому-либо остаточному влиянию античной цивилизации, поскольку все их земли находились за пределами бывшей Римской империи.