Первая война в жизни А.А. Брусилова — против турок — прошла для него на Кавказском фронте. По сравнению с Балканским фронтом Кавказ являлся второстепенным театром военных действий. Однако же в годы неудачной Крымской войны 1853–1856 гг. успехи на Кавказе позволили русской дипломатии приобрести хотя бы небольшой задел для переговоров с победителями. Поэтому и теперь на Кавказском фронте намечались наступательные действия. Целью русских ударов ставился захват мощных турецких крепостей Карс и Эрзерум, после чего перед русскими лежало уже сердце Османской империи.
15-й Тверской драгунский полк входил в состав 1-й кавалерийской дивизии. Дивизия входила в состав главных сил русской Кавказской армии под командованием ген. М.Т. Лорис-Меликова общей численностью в 52,5 тыс. штыков и сабель. Уже в апреле 1877 г. русская конница, сосредоточенная на Кавказском фронте, в том числе и тверские драгуны, перешла линию государственной границы.
Отдельный Кавказский корпус (главные силы) М.Т. Лорис-Меликова (30 тыс. чел. при 96 орудиях) наступал на крепость Карс, Ахалцихский отряд Ф.Д. Девеля (9 тыс. при 24 орудиях) — на Ардаган, Эриванский отряд А.А. Тергукасова (11 тыс. при 32 орудиях) — на Баязет. Турецкий главнокомандующий Мухтар-паша, имея около 70 тыс. штыков и сабель, оборонялся, опираясь на сильные крепости.
В конце апреля — начале мая русские войска блокировали крепость Карс, а затем захватили крепость Ардаган. Ардаган на реке Куре прикрывал собой кратчайшее направление на Эрзерум. На Ардаган двинулся отряд ген. Ф.Д. Девеля в 9 батальонов и 18 сотен при 44 орудиях. Противник имел в крепости гарнизон численностью 10 тыс. чел. при сотне орудий. 13 мая к блокированному Ардагану прибыли осадные орудия (50 единиц) и отряд ген. В.А. Геймана в 8 батальонов и 10 эскадронов при 28 орудиях. Вместе с отрядом генерала Геймана прибыл и сам главнокомандующий Лорис-Меликов. 17 мая русский артиллерийский огонь вынудил противника покинуть Ардаган и отступить к Батуму. За отличие при штурме Ардагана поручик Брусилов награждается орденом Св. Станислава 3-й степени с мечами и бантом. Это — первая награда будущего полководца, и сразу — боевая. Затем за бои у Игдыра 23–24 августа А.А. Брусилов был награжден орденом Св. Анны 3-й степени с мечами и бантом.
После непродолжительной летней заминки, когда русское командование, переоценив силы противника, отступило на русскую территорию, Кавказская армия вновь двинулась вперед. В сражении на Аладжинских высотах 13–15 октября 1877 г. турки потерпели сокрушительное поражение. Русские здесь имели 55 тыс. чел. при 224 орудиях, Мухтар-паша — 35 тыс. при 54 орудиях. Фактически исход сражения был решен превосходством русских в артиллерийском отношении. Противник потерял до 6 тыс. чел. убитыми и ранеными, свыше 8,5 тыс. пленными, 40 орудий. Потери русских составили более 5,5 тыс. чел.
После разгрома турки могли вести лишь стратегическую оборону в крепостях. Одной из таких крепостей был Карс — крепость, имевшая в окружности 20 км обвода, три сотни орудий на фортах и 25 тыс. гарнизона. К 10 октября Карс был обложен русскими и оказался в плотном кольце осады. Незадолго до начала штурма А. А. Брусилов производится в штабс-капитаны. 5 ноября русская Кавказская армия генерала Лазарева бросилась на штурм Карса. 15-й Тверской драгунский полк в самом штурме участия, разумеется, не принимал.
1я кавалерийская дивизия стояла к западу от крепости, на пути вероятного турецкого прорыва. Несмотря на то что турецкий командующий Гуссейн-паша бежал, турки все-таки попытались пробиться к Эрзеруму. 6 ноября большая турецкая колонна стала отходить на запад. Путь ей преградила русская кавалерия. До боя, впрочем, не дошло: турецкие войска сложили оружие. За участие в штурме крепости Карс штабс-капитан Брусилов был награжден орденом Св. Станислава 2-й степени с мечами. В неудачной осаде крепости Эрзерум, где часть блокадного корпуса, считая и командующего генерала Геймана, погибла от эпидемий, А. А. Брусилов не участвовал, так как 15-й Тверской драгунский полк был отведен в тыл, на зимние квартиры.
По окончании Русско-турецкой войны 1877–1878 гг. А. А. Брусилов неспешно продвигается по службе: командир 1-го эскадрона, начальник полковой учебной команды. В 1881 г. Брусилову поступило предложение участвовать в Ахал-Текинском походе ген. М.Д. Скобелева. Но в связи с состоянием здоровья от предложения пришлось отказаться. Для дальнейшего витка карьеры требовалось образование в Николаевской академии Генерального штаба, однако Брусилов так и не стал учиться. Шансом для молодого офицера стала служба в открывшейся в столице Офицерской кавалерийской школе, где тогда училось только 36 офицеров. Осенью 1881 г. Брусилов прибыл в Санкт-Петербург, к новому месту службы, а вскоре был произведен в капитаны.