Трещины халифат Аббасидов дал рано, однако процесс разрушения поначалу шел медленно, почти незаметно, и его завершение отстояло на несколько веков. Как мы помним, первой отпала Испания, когда в 755 г. беглый омейядский царевич Абд ар-Рахман основал там независимый халифат с центром в Кордове. Таким образом, у Багдада появился первый суннитский соперник. В 800 г. наместник, отправленный Гаруном в сегодняшний Тунис, принял титул эмира и стал фактически независимым властителем, хотя и признавал духовное верховенство багдадского халифа. Эмир чеканил монету, но имя халифа на ней часто отсутствовало. Титул и владения он по наследству передал своему потомству. Те, в свою очередь, в 902 г. присоединили к своим владениям Сицилию, которую удерживали вплоть до прихода туда норманнов в 1060 г.
На обломках тунисского эмирата позднее возникло новое государство, более могущественное и долговечное, — халифат Фатимидов, сделавших своей столицей незадолго до этого построенный Каир. Основатель династии Убайдулла аль-Махди якобы вел свою родословную от дочери пророка Фатимы. Будучи шиитами, Фатимиды считали багдадский режим узурпаторским, а себя — правоверными имами-халифами. Современник Убайдуллы глава кордовского халифата Абд ар-Рахман III провозгласил себя в 929 г. халифом, в результате чего исламская империя, пусть номинально, получила одновременно двух лидеров.
При пятом представителе династии, аль-Азизе, государство Фатимидов, чьи владения простирались от Красного моря до Атлантики, достигло пика своего могущества. Во время пятничной молитвы имя аль-Азиза звучало в мечетях таких городов, как Мекка и Дамаск, и даже в Южном Йемене. Увы, достойного преемника ему не нашлось. Аль-Хаким (996—1021) устроил гонения на христиан и евреев, а себя в рамках ультрашиитской доктрины объявил земным воплощением Аллаха. В качестве такового он был признан друзами. Представители этой секты носят имя ее основателя Дарузи и до сих пор существуют в Ливане и Сирии. Зато при дворе аль-Хакима работал великий египетский ученый аль-Хайсан (ум. 1039), чьи труды в области оптики опровергли мнение Евклида и Птолемея о том, что человеческий глаз испускает некие невидимые лучи, достигающие предметов, на которые упал взгляд.
Для западных историков Фатимиды — это в первую очередь главные противники крестоносцев; для восточных они первая и последняя шиитская династия, которая представляла реальную угрозу суннитскому исламу. Падение Фатимидов от руки Салах ад-Дина (1172), присоединившего Египет к своим сирийским владениям, вновь формально вернуло Северную Африку под власть багдадских халифов.
Западное крыло халифата потихоньку сокращало свой размах, однако те же самые процессы шли и на востоке. Здесь назначенный аль-Мамуном (820) наместник Хорасана, по происхождению невольник-перс, перенес свою столицу из Мерва в Нишапур, где стал править как суверенный властелин. Постепенно он расширил границы своих владений до самой Индии и вскоре перестал упоминать имя халифа во время пятничной молитвы. К 874 г. огромная территория от Индии до Багдада, от Средней Азии до Персидского залива ускользнула от арабов к персам-Саманидам.
В период правления Саманидов, который продолжался до 999 г., старая персидская аристократия вернулась к власти. Это был самый просвещенный режим того времени, а его столица, Бухара, своим интеллектуальным и политическим блеском затмевала Багдад. Саманиды покровительствовали как арабским, так и персидским авторам. Одному из них как своему патрону посвятил свой фундаментальный труд по медицине (914) ар-Рази. Это его сочинение было позднее переведено на латынь. Другой представитель этой династии известен тем, что оказал честь Ибн Сине, позволив ученому работать в своей богатейшей частной библиотеке. Именно в этот период персидская литература пережила свой ренессанс. Сокровищницу мировых поэтических шедевров пополнили такие произведения, как, например, «Шахнаме» («Книга царей») Фирдоуси (940—1020). Любопытно отметить, что, как и аль-Газали, великий персидский поэт также был уроженцем Туса. В своей поэме, состоящей из 60 тысячи двустиший, Фирдоуси с гордостью описал подвиги иранских царей и героев, как исторических, так и легендарных, начиная от Адама и кончая арабским завоеванием. «Шахнаме» послужила неиссякаемым источником вдохновения для более поздних персидских поэтов и была полностью или частично переведена на многие языки мира.