Вскоре, однако, начались конфликты и среди завоевателей, которые принадлежали к разным народам, в том числе соперничавшим между собой. Берберы, чьим предводителем был Тарик, считали, что они, взяв на себя основные военные труды по завоеванию страны, не получили достаточной доли ее богатств. Арабы относились к ним с высокомерным пренебрежением и требовали признания своего первенства. Из-за этого возникали ссоры, порой перераставшие в жестокие расправы. Так, во время ссоры между двумя знатными людьми, Бальджем и престарелым эль-Маликом, воины Бальджа по его приказу схватили эль-Малика и распяли его. Тогда, согласно обычаю, вместе с человеком распинали и животных, например, собаку и свинью по обе стороны от казненного.
Тем временем христиане на севере, отделенные от мусульманских областей безлюдными, пустынными землями, ждали своего часа. Обе стороны относились друг к другу настороженно. Христиане мечтали о возвращении своей земли, а арабы хотели удержать завоеванное. Неизвестно, чем бы закончились все эти ссоры и раздоры, если бы не первый великий правитель арабской Испании Абдаррахман (эмир с 756 г.).
Арабы вообще верили в судьбу, и большую роль в их жизни играли предсказания. Возможно, именно убеждение Абдаррахмана в том, что править Испанией — его миссия, помогло ему добиться своей цели. Он был внуком халифа из династии Омейядов, которых победили и низложили Аббасиды. Юному Абдаррахману удалось бежать вместе со своим младшим братом, когда дворец их был захвачен врагами. Они укрылись в ближайшей деревне, но кто-то выдал их, и мальчикам снова пришлось спасаться бегством. Они попытались переплыть реку. Абдаррахман хорошо плавал, брат же его был схвачен преследователями и убит на глазах старшего брата, достигшего другого берега.
Несмотря на пережитые беды, Абдаррахман продолжал верить в свою судьбу. Какое-то время он бродяжничал, знал немало трудностей и лишений, но многому научился и никогда не забывал о том, что ему предначертано. В конце концов он оказался в Северной Африке среди берберов (мать его была берберкой по происхождению). Теперь Абдаррахман находился вблизи от Испании. Он послал туда своих людей, чтобы разведать, как там было бы воспринято появление потомка Омейядов. Ситуация складывалась благоприятная. Рознь между племенами продолжалась.
Сомаил, правитель, нанесший поражение йеменцам, обезглавивший их вождей и выставивший их головы на площади на всеобщее обозрение, стал в это время объектом всеобщей ненависти. Арабы-йеменцы готовы были принять представителя Омейядов как своего лидера. Но Абдаррахман сначала предпринял усилия к тому, чтобы поссорить Сомаила с его союзником Юсуфом.
Когда же это не удалось, Абдаррахман, по-прежнему веривший в свою судьбу, высадился в Испании со своими людьми и разгромил соединенные силы Сомаила и Юсуфа на берегу Гвадалквивира. В результате он стал эмиром Испании (точнее, эмиром Кордовы. —
Абдаррахману удалось восторжествовать над всеми врагами и создать Арабский эмират на Пиренейском полуострове.
Изгнанник из собственной страны, Абдаррахман дал начало новой династии в новой стране. У него было 12 детей (что по арабским меркам не так много, очевидно, потому, что он гораздо больше времени провел в боях, — чем в гареме). Абдаррахман известен также как человек, любивший науки и образование. В его правление начинается расцвет культуры. Тогда же была построена Кордовская мечеть (впоследствии — христианская церковь), один из шедевров арабской архитектуры.
Эмиры и халифы сперва уважали религию христиан-музарабов, но потом вновь начались их преследования. В Кордове и прилегающей области было много церквей и монастырей, множилось число христиан, и этот процесс, видимо, обеспокоил арабов, которые решили принять жесткие меры. Христиане не пытались избежать мученичества и даже, кажется, сами искали его. У Абдаррахмана это вызывало такое раздражение, что он даже на время прекратил преследования. Однако его сын Мухаммед I возобновил их.
Между тем в чужой стране характер арабов постепенно менялся. Прежде суровые бойцы, они теперь стали тяготеть к роскоши и праздности, проводя время в гаремах. Это было небезопасно. Помимо прямых врагов эмирата, северных христиан, известную опасность всегда представляли враги внутренние. В самом эмирате (позднее — халифате) не раз возникали мятежи. Особенно ярким примером таких смут могут служить события, происшедшие в начале правления аль-Хакама I.