Одной из основных его забот было восстановление внутреннего единства страны. В результате решительных и хорошо организованных кампаний двух первых лет своего правления он покончил с большинством покровителей Ибн Хафсуна, урегулировал отношения с правительством Кордовы, поощрив его к изъявлению лояльности. Значительное число замков и укреплений были переданы в надежные руки. Он воспользовался неладами внутри семейства, правившего Севильей (чья зависимость от Омейядов была номинальной), и еще до конца 913 г. туда был назначен правителем покорный Абд ар-Рахману человек. Благодаря такой тактике авторитет Ибн Хафсуна был поколеблен, и после его смерти в 917 г. сыновья его рассорились, а власть их была сведена к минимуму. Сдача Бобастро в 928 г. знаменовала конец угрозам единству. В последующие годы Абд ар-Рахман завершил установление действенного контроля над марками. В Нижней марке это было отмечено сдачей ему наследником Ибн ал-Джилики Бадахоса (930 г.). Затем последовала двухлетняя осада Толедо в Средней марке, после чего город сдался в 932 г. А вот в Верхней марке Туджибиды с самого начала проявили себя как сравнительно верные вассалы Абд ар-Рахмана, хотя в 937 г. правитель Сарагосы предпочел стать вассалом короля Леона, и восстановить контроль над Верхней маркой Абд ар-Рахману удалось лишь после военных действий и осады Сарагосы.
Первые двадцать лет правления Абд ар-Рахмана примечательны не только восстановлением единства ал-Андалуса, но и успехами в борьбе с христианскими королевствами севера Испании — Леоном и Наваррой. Возможно, что слабость этих государств в какой-то мере объяснялась развалом Каролингской империи, может быть также, что правители этого периода оказались менее способными, чем их предшественники и последователи. Во всяком случае, экспедиции Абд ар-Рахмана в 920 и 924 гг. положили конец христианским рейдам на мусульманскую территорию. Однако распространение мусульманского влияния было приостановлено во время ^ правления Рамиро II Леонского (932—950) (для краткости мы называем Леоном королевство Астурии и Леона).
Высшая точка успехов Рамиро приходится на 939 г. Абд ар-Рахман выступил против Лсопа с большей, чем обычно, армией, якобы достигавшей ста тысяч человек. Он встретился с Рамиро при Симанкоге, немного южнее современного Вальядолида. После нескольких дней предварительной разведки громоздкая мусульманская армия была обращена в бегство и понесла большие потери, из-за того что Рамиро предусмотрительно вырыл в тылу мусульман ров (хандак). Поражение было не таким уж непоправимым, но это был серьезный удар по гордости Абд ар-Рахмана. Рамиро воспользовался своим успехом и расселил христиан в окрестностях Саламанки. Но ему тут же пришлось заняться отражением попыток Кастилии поглотить его государство, и Абд ар-Рахман вскоре восстановил свою военную мощь и политическое влияние.
После смерти Рамиро II в 950 г. внутренние междоусобицы значительно ослабили христианские государства, и 951—961 годы свидетельствуют о невиданном увеличении власти и влияния Абд ар-Рахмана. Гегемонию (или сюзеренитет) Абд ар-Рахмана и его преемников признали король Леона, королева Наварры и графы Кастилии и Барселоны, причем это признание было не просто формальным, но подкреплялось выплатой ежегодной дани; отказ от уплаты приводил к карательным рейдам. В это же время были разрушены или переданы в руки мусульман большинство укреплений. Таким образом, начиная с 960 г. и до конца века мусульманский контроль над Пиренейским полуостровом был полнее, чем когда-либо.
Здесь представляется уместным рассмотреть точку зрения Арнолда Тойнби («А Study of History», vol. VIII, стр. 351), который считает, что, коль скоро Абд ар-Рахману и ал-Мансуру не удалось подчинить себе полностью весь полуостров в период, когда они обладали несомненным военным превосходством, это означает поворотный момент: конец мусульманской экспансии на этом направлении и начало христианского восстановления сил. Обсуждение этого вопроса позволяет выяснить некоторые существенные черты омейядской Испании. В определенном смысле покорение полуострова было закончено, поскольку северо-западную часть его занимало королевство Леон, которое признало Абд ар-Рахмана своим сюзереном. Однако покорение не было полным в двух отношениях: никто из мусульман не хотел селиться в северных землях, а местные правители оставались вассалами мусульманского сюзерена, но не превращались в глав общин зимми, т. е. «покровительствуемых».