Сразу после апогея наступил упадок. Для Великих Сельджуков он начался в 1092 г., когда умер Малик-шах. Слабость этих восточных монархий заключалась в отсутствии четких правил наследования трона. Четверо сыновей монарха, Махмуд, Баркьярук, Мухаммед и Санджар были вовлечены в борьбу за власть, что послужило раздроблению государства.
Сразу после смерти Малик-шаха его жена Таркан-хатун захватила всю полноту власти. Получив поддержку со стороны эмиров, она назначила своего четырехлетнего сына Махмуда верховным сельджукским правителем. Таркан-хатун двинулась в Исфахан, где находился второй сын покойного султана от другой жены – двенадцатилетний Баркьярук. Таркан-хатун вступила в столицу империи, а Баркьярук, в сопровождении оставшихся ему верными эмиров и гулямов, бежал в Рей. Вокруг него сгруппировались небогатые, но стремившиеся к власти люди. Баркьярук при активном участии рейской знати был провозглашен верховным султаном.
В истории Сельджукского государства впервые появились два верховных правителя: Махмуд – в Исфахане и Баркьярук – в Рее. Двоевластие продолжалось недолго. В 1094 г. произошла решающая битва между армией Баркьярука и войсками Таркан-хатун. Баркьярук одержал победу и начал осаду Исфахана, где укрылись его противники. Вскоре умерла Таркан-хатун, а затем скончался от оспы ее малолетний сын Махмуд. Баркьярук получил инвеституру на верховную власть от багдадского халифа. Двенадцатилетнее правление Баркьярука было заполнено междоусобицами, ожесточенной борьбой за власть.
Баркьярук, еще в период борьбы с Махмудом, отдал во владения своему сводному брату Мухаммеду область в Азербайджане Гянджу. Укрепив власть в Азербайджане, осенью 1099 г., подстрекаемый своими визирями, Мухаммед двинулся против Баркьярука. Вскоре ему удалось захватить Рей. Мухаммед воссел на трон, а аббасидский халиф не замедлил огласить хутбу с его именем в Багдаде.
Жестокие военные столкновения между сводными братьями случились дважды, с переменным успехом. В результате чего в 1104 г. оба претендента на верховную султанскую власть заключили мирное соглашение, по которому оба брата именовались султанами, но верховным правителем объявлялся Баркьярук; Мухаммед помимо Азербайджана получил северо-западные провинции Ирана, области по Евфрату, Мосул и Сирию.
В процессе междоусобицы прекратились завоевательные походы, в связи с чем уменьшился приток богатств. Тюрки по-прежнему хранили верность племенным отношениям, шиитство доходило до крайности, исмаилиты Аламута ввели в систему политические убийства, которые совершались людьми, опьяненными гашишем – «гашишинами», – скоро это слово стало синонимом слова «убийца». Эти личности создавали государство в государстве, что ослабляло мощь сельджуков.
Между тем в 1092 г. в Северном Хорасане начал активно действовать сын Альп Арслана, Арслан Аргун, который при жизни отца был назначен эмиром Хорезма. Арслан Аргун воспользовался междоусобной борьбой своих племянников и других родичей и приступил к захвату Хорасана. В качестве предлога он выдвинул наследственное право на эту провинцию, которая некогда принадлежала его деду Чагри-беку. Он легко овладел в 1095 г. Мервом, Серахсом, Балхом, Термезом.
В 1096 г. султан Баркьярук снарядил своего сводного брата Санджара в поход на Хорасан против Арслана Аргуна. Арслан Аргун погиб, и Санджар почти без боя овладел Хорасаном, а затем был назначен его правителем.
В 1096 г. начался первый крестовый поход на Ближний Восток (см. «Тюрки и Крестовые походы»). Кровопролитные завоевания крестоносцев вызвали тревогу и озабоченность в государстве Сельджуков. Баркьярук решил готовить поход на Сирию и Палестину. Но междоусобица не дала возможности сельджукскому султану объединить в поход всех сельджукских эмиров и перейти к решительным действиям против крестоносцев. В 1105 г. Баркьярук умер. Несмотря на временную реставрацию центральной власти при Мухаммеде I (1105–1108 гг.), после смерти последнего брата Санджара власть себя дискредитировала.
Впрочем, все это не поколебало тюркское могущество. Напротив, в течение всего ХII в. и в начале ХIII в. положение тюрков еще больше укрепилось. Тот факт, что аббасидский халиф Ан-Назар (1188–1225 гг.) стал независимым властителем Багдада, а в Сирии, затем в Египте воцарилась династия Айюбидов, основанная знаменитым курдом Саладином (см. «Султан ислама»), в сущности, не имел серьезных последствий для тюркизма.
В царствование Санджара (1118–1157 гг.), последнего из Великих Сельджуков, достойного носить этот титул (он останется в силе до 1194 г., года смерти Тугрула III), дальневосточные народы, которые долгое время не вмешивались в дела Западной и Центральной Азии, снова вмешались в них косвенным образом.