В течение двух десятилетий главные претенденты на власть над общиной, потомки Али, не вступали в открытое противостояние с Умаййадами. Возглавивший их после гибели ал-Хусайна Мухаммад ибн ал-Ханафийа занял лояльную позицию по отношению к Абдалмалику и обеспечил роду Али благополучное во всех отношениях существование. После побоища в Кербала единственным потомком ал-Хусайна остался его тогда еще малолетний сын Али, прозванный его почитателями Зайн ал-Абидин («Краса поклоняющихся /Аллаху/»). По представлениям шиитов-имамитов он был имамом после своего отца. Однако в то время главой рода Алидов и старейшиной был Мухаммад ибн ал-Ханафийа, который стал имамом в глазах участников восстания ал-Мухтара. Он умер в 700–01 г., но почитатели считали его вечно живым. После его смерти старейшиной Алидов стал не Зайн ал-Абидин, а сын ал-Хасана, Зайд ибн ал-Хасан. Для части почитателей Мухаммада ибн ал-Ханафийи его преемником стал его сын, Абу Хашим Абдаллах. Соперничество между потомками ал-Хасана, ал-Хусайна и Мухаммада в начале VIII в. велось главным образом за право быть признанным старейшиной, имамом, распоряжающимся средствами рода. Эти люди достаточно хорошо знали друг друга, чтобы верить в то, что кто-то из них наделен божественной благодатью, и в своих тяжбах к таким аргументам не прибегали. Это хорошо показывает спор, возникший между Зайдом ибн ал-Хасаном и Абу Хашимом.
Зайд, как старший потомок Фатимы, получал какие-то средства из пожертвований, предназначенных еще Али (садакат), а Абу Хашим, будучи старшим из внуков Али, считал, что распоряжаться этими средствами должен он, и обратился за разрешением этого спора к суду авторитетных законников Медины, заявив, что средства эти были завещаны Али, а не Фатимой, и распоряжаться ими по завещанию должен наиболее достойный из его старших потомков, он же лучше Зайда знает Коран и сунну пророка и является таким образом самым достойным. Судьи признали его правоту, но Зайд отверг их решение. Конфликт все более обострялся, и когда в сентябре 710 г. ал-Валид проезжал через Медину в хаджж, Зайд донес на Абу Хашима, что тот вносит раскол в общину, что у него в Ираке есть сторонники (ши‘а), из сподвижников ал-Мухтара, которые считают Абу Хашима имамом и присылают ему пожертвования (садаку). Во всяком случае, примечательно, что Зайд не обвинил своего соперника в том, что тот сам себя называет имамом.
Ал-Валид серьезно отнесся к словам своего тестя и, возвращаясь, взял с собой Абу Хашима и в Дамаске заключил его в тюрьму.
Его брат Аун безуспешно пытался добиться его освобождения. Тогда за это взялся Зайн ал-Абидин. Он поехал в Дамаск, заверил ал-Валида, что ни о какой раскольнической деятельности Абу Хашима не известно и его арест порочит Умаййадов. Ал-Валид освободил Абу Хашима и даже включил его в круг участников своих вечерних бесед (маджлисов).
Вскоре после описываемых событий, в 94/712–13 г., Зайн ал-Абидин скончался, и его почитатели признали своим имамом его сына Мухаммада ал-Бакира («Проникающего в суть»). И в этом случае об имамате приходится говорить как о частном деле небольшой группы лиц. Во всяком случае, халифы не воспринимали ал-Бакира как соперника, оспаривающего их власть, да он и не предпринимал враждебных действий.
Иначе повернулось дело с имаматом Абу Хашима. Он оказался плохим царедворцем – был слишком независим в суждениях. Однажды во время обсуждения причин, по которым Мухаммад не женился на дочерях ансаров, ал-Валид неуважительно назвал его Абу-л-Банат («Отец дочерей»), обидно подчеркнув отсутствие у Абу Хашима сыновей. Тот запальчиво ответил, что у пророка Лута (Лота) и Шу‘айба тоже были одни дочери, как и у Мухаммада, и ничего позорного в этом нет. Ал-Валид разгневался и сказал, что лишает его своего покровительства, а Абу Хашим заявил, что и так засиделся в Дамаске и Сирии.
В это время в Дамаске находился Мухаммад ибн Али, правнук ал-Аббаса, собиравшийся возвращаться в свое поместье в ал-Хумайме (примерно в 100 км южнее Мертвого моря), и он пригласил Абу Хашима в попутчики. По дороге Абу Хашим заболел, а по другим сведениям был отравлен в пути специально подосланными ал-Валидом людьми. Он не мог продолжить путь в Медину и оставался в доме Мухаммада ибн Али, где и умер там в 97 или 98 г. х. (716 г.?).