В 1861 году с 7 февраля по 13 октября С. А. Шереметев находился в составе Абадзехского отряда, занимавшегося устройством дороги между укр. Майкопским, станиц. Лабинскою и укр. Хамкеты, устройством Абадзехской кордонной линии и постройкой станиц Нижне-Фарской и Кужорской, и рубкой просеки вверх по р. Фарсу.
В 1862 году 28 апреля С. А. Шереметев зачислен по армейской кавалерии с оставлением в звании флигель-адъютанта, а в следующем году 5 декабря по Высочайшему повелению назначен командующим Собственным Его Величества конвоем. 10 апреля 1864 года произведен в полковники. В 1865 г. 30 августа Всемилостивейше награжден орденом св. Владимира 4 ст., а в 1866 году 28 октября пожалован бриллиантовым перстнем с вензелевым изображением имени Его Высочества Государя Наследника Цесаревича. В 1867 году 30 августа за отличие по службе награжден орденом св. Анны 2 ст. В 1869 году 24 мая, по отчислении от должности командира Собственного Его Величества конвоя, зачислен по гвардейской кавалерии и 30 августа награжден орденом св. Владимира 3 степени.
В 1872 году 16 апреля С. А. Шереметев за отличие по службе произведен в генерал-майоры с назначением в свиту Его Величества. 21 мая 1874 года Всемилостивейше пожалован бронзовой медалью в память столетнего юбилея военного ордена св. Великомученика и Победоносца Георгия, а в следующем году 28 мая награжден участком земли в 300 десятин на Кавказе в Черноморском округе и в этом же году 30 августа за отличие по службе пожалован орденом св. Станислава 1 ст. В 1876 году 12 августа Сергей Алексеевич был назначен командующим сводной Кавказской казачьей дивизией с оставлением в свите Его Величества. Приказом по Кавказскому военному округу 27 ноября 1876 года назначен командующим 1-й сводной Кавказской кавалерийской дивизией, которая под его начальством в следующем 1877 году поступила в состав действовавшего корпуса на Кавказско-Турецкой границе. Во главе своей дивизии С. А. Шереметев участвовал 12 апреля при переходе через границу главных сил корпуса под начальством генерал-адъютанта Лорис-Меликова и авангарда Ахалцыхского отряда под начальством генерал-лейтенанта Девеля, в кавалерийской перестрелке у Джелаб-Кичута и Молла-Муса; 16 апреля в перестрелке кавалерии под Карсом, у Азат-Кева; 26 апреля под начальством С. А. Шереметева была произведена кавалерийская рекогносцировка по с. з. сторону Карса; 1 мая происходила усиленная рекогносцировка Ардагана; 4 мая – бомбардирование Ардагана и штурм Гелявердинских высот, рекогносцировка с.-в. фортов Карса и кавалерийское дело под начальством свиты Его Величества генерал-майора князя Челокаева, впереди укр. Карадаг; 5 мая совершилось взятие Ардагана войсками генерал-лейтенантов Геймана и Девеля под личным начальством генерал-адъютанта Лорис-Меликова. С 22 мая начала устанавливаться блокада крепости Карса; 28 мая произведена рекогносцировка северных фортов Карса лично Его Императорским Высочеством главнокомандующим Кавказской армией, причем произошла вылазка турок из Карса и дело у Мелик-Кея; 30 мая войска, состоявшие пол начальством С. А. Шереметева, отразили вылазку войск Карского гарнизона с северных фортов; 4 июня началось бомбардирование северо-восточных фортов Карса: Араба, Карадага и Мухлиса; 10 июня С. А. Шереметев со вверенными ему войсками вторично отразил вылазку части Карского гарнизона перед укр. Карадагом; 25 и 28 июня было прекращено бомбардирование и снята блокада Карса; 6 августа вновь начались военные действия усиленной рекогносцировкой генерал-адъютантом Лорис-Меликовым Аладжинской позиции турок, причем произошел бой колонны полковника Комарова 4-го на горе большой Ягны. 20, 21 и 22 сентября С. А. Шереметев участвовал в знаменитом трехдневном сражении с турецкой армией под Аладжинскими высотами и у гор Большой и Малой Ягны, под начальством генерал-адъютанта Лорис-Меликова и под личным руководством Его Императорского Высочества главнокомандующего армией. Затем после целого ряда сражений с турками, в которых С. А. Шереметев принимал деятельное участие со вверенной ему дивизией, 8 октября крепость Карс была вторично обложена нашими войсками, а в ночь с 5 на 6 ноября произведен штурм и взятие крепости Карса войсками действующего корпуса под начальством генерал-адъютанта Лорис-Меликова и под непосредственным руководством Его Императорского Высочества главнокомандующего армией.