Начиная с IX века сепаратизм эмиров, не говоря уже о феодальных владетелях рангом поменьше и тем более вождях племен или сект, захватывавших силой определенную территорию, ощущался все заметнее. Еще в конце VIII века в Марокко возникло фактически независимое государство Идрисидов (788–905), которым управляли шииты из числа алидов. Затем полунезависимым стал Хорасан, где был создан эмират Тадиридов (821–873), едва ли не все земли Средней Азии оказались под властью эмирата Саманидов (875–999), а Тунис и Алжир превратились в полунезависимый эмират Аглабидов (808–909). Наконец, в 868 году захватил власть в Египте наместник халифа из числа тюрок-гулямов, основавший династию Тулунидов (868–905). На развалинах халифата обретали былую независимость и многие местные династии. Например, в 875 году возродилось царство Багратидов в Армении.
Политический распад халифата в конце IX века был усугублен восстаниями зинджей. Зинджи, чернокожие рабы из Занзибара, использовались на тяжелых работах в Южном Междуречье близ Басры, где десятки тысяч их, организованные в отряды, занимались строительством каналов и расчисткой солончаков. Бывшие собственностью халифата зинджи в 869 году восстали и на протяжении четырнадцати лет удерживали под своей властью район Басры и часть Хузистана, действуя при этом с большой жестокостью: перестав быть рабами, зинджи в основанном ими собственном халифате стали превращать в рабов едва ли не всех остальных, начиная с пленных арабов.
В восстании зинджей участвовала и группа шиитов из крайней шиитской секты исмаилитов, получившая наименование карматов. В конце IX века карматы подняли еще одно восстание, распространившееся на Сирию, Ирак и Бахрейн.
В Сирии и Ираке оно вскоре было подавлено, но в Бахрейне карматы закрепились надолго, создав здесь собственное весьма своеобразное государство. Оно просуществовало около полутора столетий. По некоторым описаниям, им правила выборная коллегия руководителей, население вовсе не платило никаких налогов, а казна пополнялась за счет военной добычи, то есть грабительских набегов на соседние земли. В счет такой добычи входили и пленники-рабы; кроме того, государство на награбленные средства покупало других рабов. Десятки тысяч рабов обрабатывали землю, за счет чего, в сущности, и жило государство карматов.
Обращает на себя внимание то, как зинджи и карматы относились к рабам и рабству. Ислам как религия рабство не поощрял; это, однако, не мешало существованию государственного рабства в халифате. Поэтому важно не то, что рабы и рабство, несмотря на религиозный принцип социально-юридического равенства, все же были. Гораздо важнее, что социально неполноправные категории населения, испытавшие унижение в общегосударственном масштабе, иных форм эксплуатации чужого труда не желали знать: освободившиеся от рабства рабы предпочитали, став хозяевами жизни, жить за счет рабского труда других.
Можно добавить, что наряду с карматами активизировались и другие секты исмаилитов, в частности ассасины. Воины-смертники из числа специально воспитывавшихся сторонников этой секты (их именовали также федаями, федаинами) были нарочито ориентированы на смерть во имя веры. Хорошо тренированные и поддерживавшиеся в их воинственном азарте немалыми долями гашиша (откуда и название секты — гашашины,
Восстания и сепаратистские устремления эмиров привели к тому, что на рубеже IX и X веков реальная власть халифа сильно уменьшилась. В начале X века он контролировал лишь западную часть Ирана и небольшую прилегающую к ней территорию вместе со столицей Багдадом. Но и это продолжалось недолго. В 935 году в западноиранских землях возникло государство Бундов, которые в 945 году захватили Багдад и окончательно лишили халифа светской власти. Бунды присвоили себе титул «эмир эмиров» и стали управлять Ираком и Западным Ираном. Халиф же остался духовным главой правоверных, да и то лишь для ортодоксальных мусульман-суннитов. В этом состоянии он — а с ним и халифат как институт — просуществовал в Багдаде еще около трех веков. Впрочем, и это следует подчеркнуть, номинально халиф все-таки продолжал считаться верховным правителем, хотя функции его ограничивались вручением инвеституры очередному претенденту на власть в том или ином из эмиратов, позже также и султанатов.