14 июля 1804 года Баба-хан прямо с марша без раздумий атаковал войска Цицианова. Русские попали в клещи: с одной стороны наступала шахская конница, с другой — совершил вылазку эриванский гарнизон, воодушевленный долгожданным «сикурсом». Персы напали ночью, чтобы уменьшить эффективность действий регулярных войск. Отчасти их расчет оправдался, темнота помешала наладить связь между отдельными частями осадного корпуса. В самом тяжелом положении оказался отряд майора Нольде. 56 солдат и офицеров в течение нескольких часов отбивали атаки трехтысячного войска. Сам бравый майор и его подчиненные — штабс-капитан Цыренев, поручики Кофтырев и Кубовский, прапорщик Рагер — «ободряли» солдат и сами вступали в рукопашные схватки с персами. Оборона этого редута представляет одну из героических страниц в истории российского оружия, подобно флешам Багратиона и курганной батарее Раевского. Так же отважно дрались защитники Мухалнетского реданта, несмотря на гибель своего командира поручика Мигданова. В критическую минуту сказался опыт полковника Цехановского. В кромешной темноте ситуацию можно было оценить только по звукам боя: размеренные пушечные выстрелы и дружные залпы ружей означали, что пехота без суеты отбивает натиск, а пушкари картечью охлаждают горячность врага; беспорядочная ружейная трескотня была уже тревожным сигналом: противник напирал, и солдаты палили, не дожидаясь команды; если же стрельба вдруг резко умолкала, бывалые солдаты крестились: началась резня, когда возиться с заряжанием уже не хватало времени. Именно это услышал Цехановский и повел своих егерей на выручку. Подойдя в темноте с тыла к наседавшим персам, он приказал ударить в штыки и кричать «ура» как можно громче. Опасаясь окружения и не ведая, что русских всего несколько десятков, противник бросился в бегство. В трудное положение попал и отрад Леонтьева. Сдерживая натиск персидской конницы, он «прислонился» к скале, но на нее вскарабкались вражеские стрелки и в считаные минуты уложили наповал восьмерых офицеров и 120 солдат. Чтобы очистить гору, был послан отряд поручика Лабынцева, известного впоследствии кавказского генерала. Он выгнал неприятельских стрелков, но понес такие потери, что не удержал позиции. Вторую попытку доверили прапорщику с «говорящей» фамилией Выскребенцев. Он действительно выскреб сарбазов из расщелин, где те укрывались, и спас свою часть от неминуемой гибели. Но патроны и вода кончались, а отойти от скалы Леонтьев не мог, так как в этом случае он подставил бы фланги и тыл под удар многочисленной кавалерии. Наконец раздались звуки барабанов — на подмогу пришел батальон саратовцев во главе с капитаном Кушелевым.
Сражение под Эриванью заметно отличалось от предыдущих схваток с персами. Присутствие самого Баба-хана придало войскам невиданную раннее стойкость, ставшую для русских неприятным сюрпризом. Дважды складывалась критическая ситуация, когда бой шел буквально в нескольких шагах от склада припасов, накануне доставленных из Грузии. Если бы персам удалось поджечь зарядные ящики и фуры с порохом, осаду пришлось бы снять уже на следующий день. И все же русским удалось разгромить противника. Потери составили убитыми и ранеными 13 офицеров и 166 солдат; вражеских же тел на поле боя с рассветом подобрали более тысячи. За эту победу Цицианов получил орден Святого Владимира 1-й степени, хотя сам он мечтал о Георгии 2-й степени, том самом ордене, который получил Гудович в 1791 году за взятие Анапы.
Разгром персов позволил сделать осаду Эриванской крепости более «строгой». Гарнизон сначала вел себя сдержанно, беспокоя осаждавших только дальними и потому безвредными выстрелами, а также отдельными попытками выбраться за цепь русских постов или, наоборот, пробраться в крепость, пользуясь пышной зеленью садов и кромешной темнотой южных ночей. Шансы пройти незамеченными были невелики, поскольку кроме армейских постов окрестности Эривани патрулировали конные пикеты из отрада союзного России Джафар-Кули-хана. В полевом сражении от этих всадников было мало проку, но для караульной службы, а также для всякого рода «партизанщины» они были просто незаменимы. Некоторым из лазутчиков подобные попытки стоили жизни, поскольку солдаты не особенно старались брать пленных, опасаясь удара кинжала, которым персы умело владели. Время от времени тревогу устраивали армяне-перебежчики, доставлявшие сведения о положении в Эривани. Порой неподалеку от лагеря появлялись неприятельские отряды, однако активных действий они не предпринимали, ограничиваясь наблюдением за происходящим. Магомет-хан либо надеялся закончить дело миром, либо тянул время. По-прежнему с завидной регулярностью он отправлял посланников к Цицианову; их переписка продолжалась до сентября 1804 года. Однако хан всячески уклонялся от принятия присяги, ссылаясь теперь на то, что его семья находилась в заложниках у персов. Русский главнокомандующий предложил эриванскому владыке захватить отряд шахских войск, с тем чтобы обменять знатных пленников на его родню.