После гибели 'Османа халифом стал 'Али ибн Абу Талиб. Му'авия же, который еще со времен халифа 'Омара ибн ал-Хаттаба занимал пост наместника Сирии, не согласился с таким избранием и публично возложил на 'Али ответственность за гибель своего сородича, объявив ему кровную месть. Бедуинское ополчение, находившееся в подвластной Му'авии Сирии, а также в Египте, поддержало Му'авию. На стороне 'Али выступили арабские племена Аравии и Ирака. Военное противостояние не принесло перевеса ни одной из сторон, однако Му'авия, который, в отличие от отважного 'Али, был тонким дипломатом, сумел заключить перемирие и сохранил за собою и права на халифат, и подвластные территории. Вскоре после этого 'Али, перенесший свою резиденцию из Медины в Куфу, был убит Ибн Мулджамом, воином из секты хариджитов. Основу этой группировки составили сторонники 'Али. Недовольные его половинчатой позицией, они выступили против своего прежнего главы с оружием в руках, однако были им разбиты. После 'Али халифом провозгласили его сына ал-Хасана, однако Му'авия сумел договориться с ним об отречении в обмен на значительный пенсион и спокойную жизнь в Медине. Ал-Хасан, благочестивый, но пассивный человек, уступил, не желая продолжения смуты в мусульманской общине.
Му'авия правил Халифатом почти двадцать лет (661 —680), избрав столицей Дамаск, древний город, издавна считавшийся центром Сирии. Основоположник новой династии многое сделал для того, чтобы укрепить основы мусульманской государственности и расширить границы империи. Во имя стабилизации государственной жизни Му'авия решил осуществить заимствованный у Византии принцип наследственной передачи власти в Халифате, провозгласив преемником своего сына Йазида. Правда, вскоре власть в государстве перешла к представителям другой ветви бану умаййа, главой которой был Марван ибн ал-Хакам, ставший халифом уже в преклонном возрасте. Потомки его получили наименование Марванидов, или бану марван, в отличие от Суфйанидов (бану суфйан). К числу последних принадлежали Му'авия и его прямые наследники. Во время династийного кризиса в Халифате опять, как и при 'Али ибн Абу Талибе и Му'авии ибн Абу Суфйане, разразилась междоусобная война, конец которой положил другой великий государь из династии Омейядов — 'Абд ал-Малик ибн Марван (685-705).
Единый клан Хашимитов, сородичей пророка Мухаммада, по всей видимости, уже ко времени смерти халифа 'Али ибн Абу Талиба разделился на две части — потомков 'Али и потомков 'Абдаллаха ибн ал-'Аббаса, другого двоюродного брата Пророка. Вполне очевидно, что в данном случае мы наблюдаем некое общее явление, характерное для арабского общества того времени. Дело в том, что и кочевая его часть, и оседлая, к которой принадлежало коренное население Мекки, вполне сохраняли племенное деление[7]. Каждое племя обладало своей собственной родословной, у истоков которой стоял некий прародитель. Кланы, или роды, племени вели свою родословную от неких близких потомков этого предполагаемого главы — от его сыновей или внуков. Оседлые арабы отличались развитостью общественных отношений, некоторые из них (чаще всего целые родовые коллективы) обладали значительной собственностью, другие жили в относительной бедности. Помимо свободных, полноправных членов племени имелась обширная прослойка зависимых людей — клиентов, вольноотпущенников, называвшихся по-арабски маула (или, употребляя форму множественного числа этого слова,