Когда повторное завоевание Ирака завершилось, Марван послал еще одну армию в Хиджаз, и в начале 748 г. она разбила хариджитов при Вади ал-Кура, к северу от Медины. Преследуя эту разбитую армию, халифские войска нанесли ей новое поражение вблизи Мекки и еще одно в Йемене. Теперь Сирия, Ирак, Хиджаз и Йемен вновь стали покорными, хотя и ценой ослабления северных границ. Византийцы уже совершали набеги на арабскую территорию. Но Марван был неутомим, сокрушая одного врага за другим.
В 744 г., как только Марван стал халифом, его нескрываемое пристрастие к кейситской партии стало причиной разразившейся в Хорасане гражданской войны между кейситами и йеменитами, как это уже не раз случалось в столь многих частях Аравии. Здесь главным сторонником северной или кейситской партии было племя бану Тамим, в то время как интересы йеменитов отстаивало племя Азд. Наместник провинции Наср ибн Сайяр был кейситом.
Напомним, что Хорасан стал основным полем деятельности тайных аббасидских миссионеров, которые покрыли провинцию сетью своих подпольных ячеек. Начало гражданской войны между арабами этой провинции и общее смятение в империи убедило сторонников Аббасидов в том, что время действовать настало. Поэтому они направили посланников к имаму Ибрахиму, который жил на территории современной Иордании. Они поведали ему о том хаосе, в который погрузился Хорасан, и попросили разрешения перейти к более наступательной политике. Ибрахим ответил на их предложения согласием и поручил Абу Муслиму возглавить движение. Мы впервые встретились с этим человеком, когда он обслуживал аббасидских заключенных в темнице Куфы. Его настоящее имя было Абд ар-Рахман ибн Мухаммад, и, по-видимому, это был перс, живший в Куфе. Несмотря на незнатность своего происхождения, этот человек, избранный для руководства аббасидским переворотом, оказался прирожденным лидером. Этого миниатюрного человека со смуглым лицом и красивыми чертами, обладавшего даром убеждения, никогда не видели смеющимся. Его безмятежность едва ли могли нарушить даже самые серьезные события, величайшие победы не вызывали в нем ни малейшего признака радости, и самые катастрофические перемены никогда не выводили его из равновесия.
Когда он впервые прибыл в Хорасан, его моложавый вид вызвал сомнения относительно его пригодности для такой роли, но его явные способности вскоре заставили критиков замолчать. Он душой и телом отдался организации движения. Каждая группа и каждая ячейка получила руководителя. Беспорядки и лишения нескончаемых гражданских войн подготовили согласие народа на любой режим, способный дать долгожданного избавителя, который установит царство мира и справедливости. Движение выступило с мессианской проповедью, абсолютно соответствовавшей чаяниям народа. Организация скрывалась под маской мусульманского благочестия, призывая хранить верность клану бану Хашим, семье Пророка, из которой должен выйти обещанный имам. Запятнавшие себя кровью Омейяды, которые с самого начала были самыми заклятыми врагами Посланника Божия, в итоге будут свергнуты, и, наконец, воцарится мир.
Но несмотря на этот благочестивый облик, Абу Муслим был готов стать буквально «всем для всех». Так, хотя большинство персидских горожан в то время уже исповедовало ислам, многие крестьяне все еще цеплялись за верования своей древней религии, вроде переселения душ и представления о творении как о борьбе между светом и тьмой. У таких людей Абу Муслим создавал впечатление, будто верит, что в их воззрениях много правды. Он проявил столько такта в отношении секты хуррамитов, что они впоследствии признали его как своего мессию. Некоторые обещания и недоразумения в будущем должны были вызвать яростную реакцию, но к этому моменту Аббасиды уже прочно стояли у власти.
Хотя большинство тайных сторонников этой партии были мусульманами неарабского происхождения, среди ее горячих приверженцев находились и многие арабы. Тот факт, что первоначально пропаганда говорила о семье Пророка без особого упоминания о потомках Аббаса, обеспечило симпатии многих шиитов, которые полагали, что действуют в интересах потомков Али.
В июне 747 г., пока Марван осаждал хариджитов в Мосуле, Абу Муслим в Хорасане получил письмо от имама Ибрахима с приказом перейти к открытому восстанию под лозунгом «За семью!». Кроме того, прибыло два боевых знамени, которые были тут же водружены на копья. Переворот начался.
В провинции Хорасан новые мятежники вооружились и собрались, разместившись в нескольких укрепленных лагерях. Когда Абу Муслим приказал всем верным явиться в черном, многие его сторонники, вступившие в тайную организацию, впервые таким образом обнаружили себя.