В момент смерти отца Харун ар-Рашид был наместником Азербайджана и Армении. Он поспешил признать власть брата, присягнул ему сам и привел к присяге свои провинции. Ал-Хади (785-786) не тронул ар-Рашида, но постарался ограничить влияние матери, которая привыкла действовать в правление ал-Махди как полновластная государыня. Пишут, что она приказывала и запрещала, вступалась за других, скрепляла и разрешала дела по своему усмотрению, и толпы народа толпились около ее дворца с утра до вечера. Хайзуран попыталась действовать в том же духе при ал-Хади, но тот быстро положил этому конец. По свидетельству Ибн ал-Тиктака, он однажды сказал матери: "Что это за постоянная толкотня и вечером и утром у твоего дворца? Разве у тебя для твоих занятий не стало веретена? Разве нет у тебя Корана для собственного назидания? Разве не достает у тебя для сидения комнат в твоем дому? Клянусь, пусть я буду отвержен от родства с пророком, если не отрублю голову и не конфискую имение того из моих полководцев и близких людей, кто решиться подойти к твоим воротам…" Слыша такие речи халифа, вельможи прекратили посещения его матери. Ей было строго запрещено покидать гарем и иметь какие-либо прямые отношения с военными и чиновниками. Халиф полагал, что этих мер будет достаточно для обуздания ее властолюбия, но оказалось, что он недооценил своей соперницы. Этот просчет стоил ему жизни. В сентябре 786 г. ал-Хади был убит. По общераспространенному преданию, халифа во сне задушили подушками невольницы его матери. После этого она заставил отказаться от всяких претензий на халифат маленького сына ал-Хади, Джафара. Правление перешло к Харуну ар-Рашиду.
В год восшествия на престол Харуну (786-809) было не более 22 лет. Это был человек красноречивый, ученый, великодушный и очень щедрый. Он любил поэтов и поэзию, был приветлив к людям образованным и занимающимся юриспруденцией, очень уважал ученых. Он и сам был талантливый поэт, знаток истории, древностей и литературы. Что до талантов правителя, то Харун ар-Рашид так и не смог их проявить. Долгое время он вообще не занимался государственными делами – поначалу все решала за него мать (она умерла в 790 г.), а потом его визирь Йахйя ибн Халид – второй видный представитель рода Бармакидов. Сыновья последнего – Фадл и Джафар (как считалось, друзья и первые любимцы халифа) – вскоре также были допущены к высшим рычагам управления. В 792 г. Фадла назначили правителем Армении, Азербайджана, Мидии и Каспийских провинций, а в 794 г. он стал еще и наместником Хорасана. Джафар также формально занимал несколько высоких постов. В действительности он делами не занимался, но зато был постоянным собеседником и сотрапезником Харуна ар-Рашида. Подлинным правителем государства после смерти Хайзуран стал Йахйа. У него хранилась личная печать халифа, он принимал жалобщиков и имел решающий голос при всех назначениях высших чиновников. Это был талантливый и умный администратор, человек образованный и прямой, с твердыми суждениями, распорядительный и хорошо знающий свое дело. По словам Ибн ал-Тиктака, "он укреплял границы Халифата, поправлял недостатки, собирал подати, заселял окраины, старался доставить Халифату полный блеск и весь был предан заботам о государстве". Благодаря ему арабская империя пережила при Харуне ар-Рашиде эпоху небывалого процветания.
Однако постепенно халиф стал все более и более тяготиться опекой своего визиря. Долгое время он тщательно скрывал свое нерасположение и продолжал осыпать Йахйю все новыми и новыми почестями. Современники уже привыкли видеть в Бармакидах постоянных соправителей халифов. Их род, находившийся у власти около полувека, сделался как бы неотъемлемой частью политической системы. Тем большей неожиданностью для поданных ар-Рашида стало распространившееся в конце января 803 г. известие о внезапном падении этой могущественной семьи. Джафар был схвачен и казнен по приказу халифа без всяких объяснений. Йахйа и другие его сыновья оказались в тюрьме. Все их огромное имущество стало собственностью казны.