С 1835 по 1838 год он провел за пределами России. В это время он много читает, слушает лекции в университетах, собирает большую библиотеку.
Возвратившись из-за границы, князь Барятинский жил в Петербурге, состоял на службе в лейб-гвардии гусарском полку, очень увлекался скачками, для которых специально держал дорогих лошадей.
В 1845 году Барятинский, тяготясь светской жизнью и имея чин полковника, вновь попросился на Кавказ. Командуя 3-м батальоном Кабардинского полка, он участвовал в Даргинской экспедиции князя Воронцова против Шамиля и при занятии Андийских высот выбил со своим батальоном горцев с их укреплений. За этот подвиг Александр Иванович получил орден Св. Георгия 4-й степени.
В 1847 году он назначается на должность флигель-адъютанта и командира Кабардинского полка. Как командир Барятинский был весьма требователен к подчиненным, в то же время уделяя большое внимание быту и различным хозяйственным нуждам солдат. Ему удалось превратить свой дом в центр полковой жизни, то есть офицеры могли свободно к нему заходить. Вместе с полком он участвовал во многих операциях против горцев, и за короткое время полк заслужил репутацию храбрейшего.
Одновременно князь Барятинский постоянно следил за общим ходом дел на Кавказе; он также старался вникнуть в установленную князем Воронцовым систему военных действий, находил ее достаточно разумной, но внес в нее существенные поправки.
За определенное время князь Барятинский совершил несколько боевых подвигов. Из них особенно следует упомянуть о сражении при ауле Зандак, где князь отвлек неприятеля от наших главных сил и к тому же сумел воздержаться от тщеславного желания ценой множества жизней своих подчиненных завладеть неприятельскими орудиями. В ноябре и декабре 1847 года Барятинский предпринял ряд удачных набегов на кавказские аулы, за что был награжден орденом Св. Владимира 3-й степени. Летом 1848 года, действуя со своими кабардинцами в отряде князя Аргутинского-Долгорукого, князь Барятинский при взятии аула Гергебиля своей стойкостью и распорядительностью содействовал успешному окончанию дела, за что получил чин генерал-майора.
В 1848 году Барятинскому снова предоставили небольшой отпуск, который он провел в Туле, ибо не любил придворную жизнь. По окончании отпуска он поспешил на Кавказ, а посланному за ним курьеру сообщил о своих болезнях и усталости, из-за чего он вынужден продлить свое пребывание в полку еще на год. Но все-таки ему пришлось явиться в Петербург для восстановления своего прежнего положения. Находясь в столице, Александр Иванович попал в немилость к Николаю I, решительно отвергнув попытки императора устроить его личную жизнь. Он был отчислен от командования полком и некоторое время оставался вне армейской службы. Однако он сразу дал понять, что ко двору больше не вернется; он также перестал пребывать в свите и предпочитал проводить время в кругу близких людей.
В третий раз Барятинский попал на Кавказ в 1850 году. С 23 мая Барятинский состоял при Кавказской армии и на него также возложили обязанность сопровождать цесаревича в поездке по Кавказу. В конце того же года он получил назначение на должность командира Кавказской гренадерской бригады с правами начальника дивизии.
Всю зиму 1851 года русские войска уничтожали устроенный Шамилем в Чечне Шалинский окоп. Кроме того, Барятинскому удалось нанести горцам сильное поражение в бою при реке Бас, захватить много лошадей и оружия. Удачным стал и разгром Шамиля возле Чуртугаевской переправы, при минимальных потерях в русских войсках. Дело в том, что у Барятинского была отлично поставлена разведка. Его лазутчики добывали ему точные сведения о планах Шамиля, что давало возможность рассчитывать все свои действия.
Барятинский был хорошим воином, но он еще являлся и прекрасным администратором. При нем в Чечне появились новые аулы, а в старых население значительно увеличилось, ибо чеченцам в конце концов самим надоедало воевать. Барятинский устроил для чеченцев в крепости Грозной суд, который почти сразу завоевал репутацию уважаемого учреждения.
В январе 1853 года князь Барятинский был назначен генерал-адъютантом, а осенью был утвержден в должности начальника штаба Кавказской армии. Он был произведен в генерал-лейтенанты и получил возможность разработать и осуществить свой план по полному разгрому Шамиля. Но новая война приостановила активные действия против горцев на Кавказе.
С началом Крымской войны Барятинскому еще раз удалось проявить свой талант стратега в сражении с 60-тысячной турецкой армией Мушир-Зариф-Мустафы-паши при Курюп-Даре. За него Барятинскому был пожалован орден Св. Георгия 3-й степени.
Вскоре князя Воронцова сменил Н.Н. Муравьев, и Барятинский отпросился в отпуск и уехал в Санкт-Петербург. По возвращении на Кавказ его назначили командиром резервного гвардейского корпуса, которым он командовал так хорошо, что ему вручили орден Белого Орла, хотя недоброжелатели Барятинского считали князя неспособным командовать корпусом.