Овладев столицей, принц еще не стал хозяином Испании. Юсуф и Сумайль потерпели серьезное поражение, но они не отчаивались и рассчитывали все исправить. В соответствии с соглашением, которое они заключили, расставаясь после бегства, Юсуф направился за помощью в Толедо, а Сумайль – в Хаэн, где сразу же призвал всех маадитов к оружию. Юсуф позже присоединился к нему с контингентом из Сарагосы, с которым случайно встретился по пути, а также с войском из Толедо. Два лидера вынудили правителя провинции Хаэн удалиться в крепость Ментеса, а правителя Эльвиры – искать убежища в горах. Тем временем Юсуф, узнав, что Абд-ер-Рахман намеревается выступить против него, приказал своему сыну Абу Зайду следовать в Кордову другим путем, отличным от того, что выбрал Абд-ер-Рахман, и захватить столицу. Эта операция не должна была стать трудной, поскольку в Кордове не было войск – только слабый гарнизон. Если план окажется успешным, Абд-ер-Рахман будет вынужден повернуть назад, чтобы вернуть Кордову, и Юсуф получить время для обеспечения подкрепления. План был успешно выполнен. Как только Абд-ер-Рахман выступил в поход, Абу Зайд внезапно напал на столицу, захватил ее, загнал Обайдаллаха с несколькими солдатами в башню большой мечети и вынудил сдаться. Вскоре после этого, узнав, что Абд-ер-Рахман возвращается, Абу Зайд покинул Кордову, захватив с собой Обайдаллаха и двух юных рабынь, найденных во дворце. Сопровождавшие его вожди открыто порицали Абу Зайда за этот акт. «Твое поведение не столь благородно, как Абд-ер-Рахмана, – сказали они. – Ведь он, когда в его руках были твои сестры и жены твоего отца, любезно предложил им защиту, а ты уводишь его женщин». Абу Зайд, почувствовав справедливость упреков, когда его войско отошло на милю от Кордовы, приказал поставить шатер, в котором оставил рабынь с их личными вещами. Лишь после этого он направился на соединение с армией отца в Эльвиру.
Узнав, что Абу Зайд ушел из Кордовы, Абд-ер-Рахман быстро направился к Юсуфу, однако события приняли неожиданный оборот. Решив, что они слишком слабы и в перспективе не смогут устоять против принца, Сумайль и Юсуф запросили условия перемирия. Они объявили, что готовы признать Абд-ер-Рахмана эмиром, если только их личная собственность останется неприкосновенной и будет объявлена всеобщая амнистия. Принц принял предложение, но поставил условие, чтобы Юсуф передал ему в качестве заложников своих сыновей – Абу Зайда и Абу-л Асвада. С ними он обещал обращаться хорошо, указав, что они ни в чем не будут ограничены – им только нельзя будет покидать дворец, и они возвратятся к отцу, как только мир будет окончательно установлен. Во время этих переговоров пленник Абд-ер-Рахмана испанец Халид был обменян на Обайдаллаха: по иронии судьбы вольноотпущенник Омейядов получил свободу за счет человека, которого сам же бросил в тюрьму.
Абд-ер-Рахман, теперь общепризнанный эмир Испании, вернулся в Кордову в июле 756 года. По правую руку от него ехал Юсуф, по левую – Сумайль. Сумайль показал себя самым изысканным и хорошо воспитанным человеком, и Абд-ер-Рахман впоследствии неоднократно говорил: «Бог дарует верховную власть по желанию, а не согласно заслугам человека. Всю дорогу от Эльвиры до Кордовы Сумайль был рядом со мной, тем не менее его колено ни разу не коснулось моего, голова его мула ни разу не оказалась впереди головы моего мула. Он ни разу не задал мне нескромного вопроса, не начинал говорить, если я не обращался к нему». Заметим, что Зияд, сводный брат Муавии I и правитель Ирака, примерно так же восхвалял Харису. Хронисты добавляют, что у принца не было оснований петь подобные дифирамбы Юсуфу.
Какое-то время все шло нормально. Махинации врагов Юсуфа, выдвигавшие против него обвинения в том, что он без права на то присвоил земли, не имели успеха. И к нему, и к Сумайлю обращались с подчеркнутым уважением, и Абд-ер-Рахман нередко советовался с ними в случае возникновения сложностей. Сумайль покорился судьбе. Юсуф, неспособный принимать смелые решения по собственной инициативе, возможно, также примирился со своим второстепенным положением. Но его окружали недовольные – курашитская знать, фихриты и хашимиты – которые во время его правления занимали высшие посты. Эти люди не могли примириться с безвестностью, в которой оказались при Абд-ер-Рахмане, и всеми силами старались настроить бывшего эмира против нынешнего, искажая даже простейшие его слова. В этом начинании они вполне преуспели. Решив снова взять в руки оружие, Юсуф тщетно искал поддержки Сумайля и кайситов. Больше ему повезло с baladis – арабами, которые прибыли в Испанию до сирийцев, особенно с теми, кто жили в Лаканте (возможно, это место в районе Фуэнте-де-Сантос), Мериде и Толедо. И однажды Абд-ер-Рахман узнал, что Юсуф бежал в направлении Мериды. Он тут же направил кавалерию в погоню, но было уже слишком поздно. Послав за Сумайлем, принц упрекнул его в том, что он был посвящен в планы Юсуфа.