Теснимые неприятельскою пехотою и кавалериею и поражаемые ружейным и артиллерийским огнем, наши казаки и солдаты, теряя убитых по дороге, изнемогали под тяжестью неравного боя. Поспешное отступление под палящими лучами южного солнца затруднялось сильно пересеченной и трудно проходимой местностью; многие падали от усталости и гибли под ударами куртинских пик. Спешенные казаки и солдаты, перемешавшись, образовали одну непрерывную стрелковую цепь, которая, пользуясь местностью, временами приостанавливалась и отбивалась от турок залпами. Вдруг несколько эскадронов турецкой кавалерии, под предводительством Гуссейн-аги, все время теснивших наш правый фланг и осыпавших нас градом пуль из своих магазинок, быстро направились на гребень, лежавший на пути отступления отряда. Командир хоперской сотни, войсковой старшина Кванин, руководивший боем на нашем правом фланге вовремя заметил этот маневр и, поняв опасность, угрожавшую нам, предложил штабс-капитану Визирову, поскорее занять этот гребень сотнями елисаветпольской милиции. Но, к сожалению, это приказание не могло быть исполнено. Визиров повел было милиционеров вперед, но те, почувствовав себя на свободе, двинулись прямо в Баязет. Тогда подполковник Пацевич отдал приказание посадить казаков на коней, но дело это оказалось также не легким: почти все казаки были пешими в боевой линии, где, перемешавшись с пехотою, вели непрерывную перестрелку с турками. Тем не менее хоперцы и уманцы мало-помалу собрались к своим коноводам и, сев на лошадей, быстро двинулись для противодействия неприятельскому обходу. В то же время подполковник Пацевич, поручив дальнейшее управление боем войсковому старшине Кванину, сам отправился в Баязет, чтобы распорядиться по обороне цитадели и насколько возможно облегчить отступление нашего отряда.
Между тем в Баязете, по уходе рекогносцировочного отряда, с утра усилились хлопоты по перевозке и переноске имущества из города в цитадель. В 10 часов утра прибыли туда три сотни милиции Эриванского конно-иррегулярного полка, под начальством полковника Измаил-хана нахичеванского, а в 11 часов из-за горы, со стороны ванской дороги, вдруг послышались отдаленные выстрелы, гул которых с каждой минутой все более и более усиливался, сливаясь с грохотом орудийной пальбы. Наконец, на гребне возвышенностей, окружающих Баязет с юга, показалась длинная черная линия отступавших наших войск, опоясанная белыми дымками. Первые подошли к цитадели опередившие отряд казаки, которые, поспешно сбатовав лошадей на кладбищенском кургане, служившим биваком, опять присоединились к отступавшему отряду вместе с двумя ротами крымцев, чтобы помочь ему огнем своих дальнобойных берданок.
Когда наш отступавший отряд появился в виду Баязета и стало очевидным его отчаянное положение, капитан Штоквич немедленно приказал эриванской милиции двинуться на поддержку нашим войскам. Да и было вовремя, так как следом за нашею цепью, спустившеюся вниз на 300–800 шагов, появились густые массы турецкой кавалерии, которая заняла оставленные ближайшие отроги гор и начала осыпать наши войска градом пуль, бросаясь на пехотинцев и казаков поодиночке и большими толпами; отдельные всадники подскакивали даже к самой цепи и, сделав выстрел почтив упор, удалялись обратно. Как только в цитадели заметили, что можно действовать из орудий, грянул выстрел, за ним другой, и две наши гранаты, удачно разорвавшись среди турок, рассеяли большую толпу курдов своими осколками. Огонь наших орудий и удачный маневр милиционеров Измаил-хана нахичеванского, отбивших залпами турецкую пехоту, стремившуюся обойти нас со стороны Кизил-дага, дали возможность нашему отряду прийти в порядок, приостановиться и начать более спокойное отступление.
Так, шаг за шагом, отряд наш отошел к городу и достиг цитадели. Только в воротах замка дело не обошлось без давки и лишних жертв, так как турки сосредоточили в этом пункте жестокий ружейный огонь. Затем ворота цитадели затворились и с этой минуты началась мужественная, полная высокого самоотвержения и энергии 23-х дневная оборона Баязета против в десятеро сильнейшего противника!..
Баязетская цитадель или баязетский замок, приютивший в своих стенах до 1500 наших героев, расположен в центре города, на одном из скалистых горных отрогов, врезывающихся внутрь долины и города с юго-востока в виде мыска с отвесными обрывами. На этом скалистом мыске было воздвигнуто в XVII веке одним из полунезависимых куртинских владетелей, Исаак-пашею, огромное здание, в виде средневекового в мавританском стиле замка, получившего, в силу местных условий своего расположения, значение цитадели гор. Баязета. Весь замок состоял из ряда массивных двухэтажных зданий, составлявших внешние его стены с двумя внутренними и одним наружным двором.