Марван захватил Дамаск и в сражении у Мардж Рахит разбил сирийских сторонников Ибн аз-Зубайра, что позволило ему стать хозяином положения в этой провинции Халифата. К концу 684 г. Марван захватил Египет, что еще больше укрепило его позиции. Поэтому по возвращении в Дамаск он объявил наследником своего сына Абд ал-Малика (685–705), положив таким образом начало второй ветви рода Омейядов — Марванидам.
Прежде всего новый халиф урегулировал отношения с Византией, поскольку одновременно с внутренними беспорядками сильно осложнилось положение на внешних границах. Византийцы изгнали арабов с Родоса, Крита и Кипра, а также разрушили базы арабского военного флота в Сирии, вернув себе тем самым господство в восточной части Средиземного моря. Арабов потеснили и в Малой Азии и даже в Сирии, где им пришлось отдать Антиохию. Летом 685 г. Абд ал-Малик был вынужден заключить крайне невыгодный для себя мирный договор с Константином IV, по которому халиф обязался платить византийскому императору по одной тысяче динаров, одному рабу и одному породистому коню за каждый день мира. В 687–688 гг. военные действия на византийско-арабской границе возобновились, но теперь успех сопутствовал арабам, которым удалось отбить Антиохию и дипломатическими средствами нейтрализовать союзников императора — мардаитов, укрепившихся в горных районах Сирии. Император Юстиниан И, вынужденный в это же время отражать натиск славян в Европе, пошел на заключение мира с Абд ал-Маликом. Арабы продолжали выплачивать дань, но размер ее существенно сократился, а византийцы обязались переселить мардаитов из Сирии в Армению.
Сразу же после заключения мирного договора с Византией Абд ал-Малик повел борьбу с внутренней оппозицией. Прежде всего были взяты под контроль города Месопотамии — хорошо укрепленный центр кайситов Киркисия и находившиеся в руках соратников ал-Мухтара Нисибин и Мосул. В 691 г. после победы при Маскине под власть Абд ал-Малика перешли Куфа и Басра. В Мосуле, Куфе и Басре Абд ал-Малик поставил своих наместников.
Первый поход против хариджитов Аравии окончился неудачей. Однако хариджитское объединение Наджды ибн Амира вскоре распалось из-за внутренних трений, а сам Наджда был убит в начале 90-х годов VII в. Вскоре после его гибели в Аравию было послано большое войско, которое разгромило хариджитских вождей Бахрейна.
Наконец, весной 692 г. полководец Абд ал-Малика ал-Хаджадж ибн Юсуф ас-Сакафи начал осаду Мекки, где в мечети укрылся Ибн аз-Зубайр и его немногочисленные соратники. Осажденные страдали от недостатка продовольствия, и некоторые из них покинули Ибн аз-Зубайра, в том числе и его сын Абдаллах. 5 ноября 692 г., пытаясь вырваться из окружения, Ибн аз-Зубайр погиб в бою. С его кончиной раскол Халифата удалось ликвидировать. Оставалось лишь справиться с его приверженцами в Хорасане и покончить с укрепившимися в южных районах Ирана азракитами ал-Катари. С этой целью Абд ал-Малик в 694 г. поручил управление всеми восточными областями Халифата ал-Хаджаджу ибн Юсуфу (694–714), который за несколько лет восстановил там порядок, жестоко подавляя всякое сопротивление.
РАСЦВЕТ ХАЛИФАТА ОМЕЙЯДОВ
Восстановив единство государства, Абд ал-Малик провел кардинальные реформы, благодаря которым в Халифате сформировалась собственные фискальная и административная системы. Все делопроизводство в канцеляриях было переведено на арабский язык. До этого в бывших византийских провинциях, особенно в Египте и Сирии, обходились услугами перешедших на службу к арабам прежних чиновников, пользовавшихся привычным для них греческим, сирийским или коптским языками, а в иранских провинциях — среднеперсидским. Это мероприятие привело к повсеместной замене старого чиновничества на арабское.
Завоевав бывшие византийские провинции, арабы сохранили прежние типы монет (византийскую золотую номисму и сасанидскую серебряную драхму), лишь добавив к ним (и то не сразу) арабские прокламационные надписи. Взамен прежних монет в 90-е годы VII в. был начат выпуск монет нового образца с арабской легендой — золотых динаров, серебряных дирхемов и медных фельсов. Правом выпуска монеты обладал только сам халиф.
В царствование Абд ал-Малика по всему Халифату появились почтовые станции, были измерены дороги и поставлены милевые камни. Начальник почты (сахиб ал-барид) не зависел от наместника и по совместительству выполнял функции тайной полиции.