Талиб ал-хакк убедил Абу Хамзу вместе поднять восстание в Хадрамауте. По-видимому, Абу Хамза возвратился в Басру, которая в то время была центром ибадитского движения и какое-то время вел там антиумаййадскую пропаганду, а затем ушел в Хадрамаут с большой группой сторонников, которых было несколько сотен. С приходом Абу Хамзы Абдаллах ибн Йахйа получил возможность открыто выступить против существующей власти. Наместник Хадрамаута не смог противостоять объединенным силам мятежников, они завладели его резиденцией в Даммуне, что по соседству с Таримом, а его самого заключили в тюрьму, но затем отпустили. Этот успех придал убедительности пропаганде Абдаллаха ибн Йахйи и привлек новых последователей, что позволило ему решиться напасть на столицу Йемена. Он разослал послания с призывом к походу на Сан‘а и вышел с Абу Хамзой во главе двухтысячного отряда. Имеющиеся источники не сообщают даты овладения Хадрамаутом, ни продолжительности пребывания в нем, ни даты похода на Сан‘а. Во всяком случае, поход вряд ли мог состояться ранее середины весны 747 г.
Наместник Йемена встретил ибадитов перед городом, в заранее подготовленном лагере, окруженном рвом, с более многочисленным войском, чем у Абдаллаха ибн Йахйи. Не смущаясь численным превосходством противника, ибадиты ночью напали на лагерь и разгромили застигнутое врасплох войско. Воины, бежавшие в город, и горожане не оказали сопротивления, и ибадиты беспрепятственно вступили в него. Абдаллах ибн Йахйа милостиво обошелся с жителями и роздал беднякам часть денег из захваченной казны.
Абдаллах ибн Йахйа пробыл в Сан‘а несколько месяцев до наступления времени хаджжа (20–22 августа 747 г.). Для участия в нем он послал Абу Хамзу и Балджа ибн Укбу ал-Азди во главе с двумя или десятью тысячами человек, среди которых были и басрийцы.
Видимо, с самого начала подразумевалось, что это не столько паломничество, сколько поход для расширения власти ибадитов на всю Аравию и далее на Сирию, потому что отряд Абу Хамзы прибыл не к началу обряда паломничества, а к середине. Паломники уже собрались у Арафата, и наместник Медины и Мекки Абдалвахид ибн Сулайман ибн Абдалмалик, руководивший хаджжем, приступил к проповеди, как на дороге из Таифа показалась колонна ибадитских всадников, остановившихся в стороне от остальных паломников, что не предвещало ничего доброго. Паломники забеспокоились и обратились к Абдалвахиду с просьбой что-то предпринять против ибадитов. Но он не стал вмешиваться. Тогда к Абу Хамзе пошел Абдаллах ибн Хасан, внук Хасана ибн Али, прося не нападать на паломников. Абу Хамза спокойно дождался ухода Абдалвахида с сопровождавшим его отрядом к Мине, после чего провел собственное моление и прочитал проповедь. Абдалвахид во избежание кровопролития на священной территории поспешил покинуть Мекку, оставив Абу Хамзу хозяином положения. Он сообщил халифу о потере Мекки. Получив ответ из Харрана недели через три, Абдалвахид направил против Абу Хамзы Абдаллаха ибн Абдал‘азиза, правнука халифа Усмана. Значительную часть его восьмитысячного войска составляли курайшиты и мединцы, потомки ансаров.
Поход с самого начала омрачило дурное предзнаменование: командующий уронил копье с прикрепленным к нему знаменем, и оно сломалось, а это не могло не повлиять на боевой дух мединцев.
Абу Хамза пошел им навстречу и столкнулся с ними у Кудайда, примерно в дне пути от Мекки 19.Х747 г. Силы противников были примерно равны, и сражение было очень упорным, но в конце концов понесшие большие потери мединцы были обращены в бегство. По одному сообщению только курайшитов погибло 300 человек, среди которых было 12 потомков аз-Зубайра ибн ал-Аввама, праправнук халифа Усмана, и потомки многих сподвижников Мухаммада.
Абу Хамза не стал терять времени и быстрым маршем за четыре дня дошел до Медины (23.Х). Этот разгром и захват Медины были еще хуже, чем потеря Мекки, и Марван сместил Абдалвахида и назначил Абдалмалика ибн Мухаммада ибн Атийу ас-Са‘ди, предоставив в его распоряжение не малоопытное курайшитско-ансарское ополчение, а закаленных непрерывной службой на византийской границе воинов (рабита) из кайситских племен. Эти 4000 всадников были хорошо экипированы и получили дополнительное жалование. Это войско стало на пути Балджа, отправившегося завоевывать Сирию, в Вади-л-Кура. На этот раз ибадиты были разгромлены, и Балдж в этом бою погиб. Голова его была вздета на копье и остатки его войска откатились к Медине, но удержаться там, среди враждебного населения, не могли. Лишь небольшая группа во главе с Саббахом ибн Хамданом держала оборону в горах около Медины три дня, а потом с несколькими сотнями горными дорогами он ушел в Мекку, где с 15000 воинов находился Абу Хамза. Описанные события не могли произойти ранее конца ноября 747 г.