Князь Барятинский принимал участие в экспедиции генерала Вельяминова осенью 1835 года против горцев. В ней он командовал сотней казаков. 21 сентября он был тяжело ранен и едва не попал в плен. Ружейная пуля, пущенная в упор, попала Барятинскому в бок и осталась там до конца его жизни. Рана была очень тяжелой, и для лечения Барятинскому пришлось уехать сначала в Петербург, а потом за границу. За участие в экспедиции он был произведен в чин поручика и награжден саблей с надписью «За храбрость».
С 1835 по 1838 год он провел за пределами России. В это время он много читает, слушает лекции в университетах, собирает большую библиотеку.
Возвратившись из-за границы, князь Барятинский жил в Петербурге, состоял на службе в лейб-гвардии гусарском полку, очень увлекался скачками, для которых специально держал дорогих лошадей.
В 1845 году Барятинский, тяготясь светской жизнью и имея чин полковника, вновь попросился на Кавказ. Командуя 3-м батальоном Кабардинского полка, он участвовал в Даргинской экспедиции князя Воронцова против Шамиля и при занятии Андийских высот выбил со своим батальоном горцев с их укреплений. За этот подвиг Александр Иванович получил орден Св. Георгия 4-й степени.
В 1847 году он назначается на должность флигель-адъютанта и командира Кабардинского полка. Как командир Барятинский был весьма требователен к подчиненным, в то же время уделяя большое внимание быту и различным хозяйственным нуждам солдат. Ему удалось превратить свой дом в центр полковой жизни, то есть офицеры могли свободно к нему заходить. Вместе с полком он участвовал во многих операциях против горцев, и за короткое время полк заслужил репутацию храбрейшего.
Одновременно князь Барятинский постоянно следил за общим ходом дел на Кавказе; он также старался вникнуть в установленную князем Воронцовым систему военных действий, находил ее достаточно разумной, но внес в нее существенные поправки.
За определенное время князь Барятинский совершил несколько боевых подвигов. Из них особенно следует упомянуть о сражении при ауле Зандак, где князь отвлек неприятеля от наших главных сил и к тому же сумел воздержаться от тщеславного желания ценой множества жизней своих подчиненных завладеть неприятельскими орудиями. В ноябре и декабре 1847 года Барятинский предпринял ряд удачных набегов на кавказские аулы, за что был награжден орденом Св. Владимира 3-й степени. Летом 1848 года, действуя со своими кабардинцами в отряде князя Аргутинского-Долгорукого, князь Барятинский при взятии аула Гергебиля своей стойкостью и распорядительностью содействовал успешному окончанию дела, за что получил чин генерал-майора.
В 1848 году Барятинскому снова предоставили небольшой отпуск, который он провел в Туле, ибо не любил придворную жизнь. По окончании отпуска он поспешил на Кавказ, а посланному за ним курьеру сообщил о своих болезнях и усталости, из-за чего он вынужден продлить свое пребывание в полку еще на год. Но все-таки ему пришлось явиться в Петербург для восстановления своего прежнего положения. Находясь в столице, Александр Иванович попал в немилость к Николаю I, решительно отвергнув попытки императора устроить его личную жизнь. Он был отчислен от командования полком и некоторое время оставался вне армейской службы. Однако он сразу дал понять, что ко двору больше не вернется; он также перестал пребывать в свите и предпочитал проводить время в кругу близких людей.
В третий раз Барятинский попал на Кавказ в 1850 году. С 23 мая Барятинский состоял при Кавказской армии и на него также возложили обязанность сопровождать цесаревича в поездке по Кавказу. В конце того же года он получил назначение на должность командира Кавказской гренадерской бригады с правами начальника дивизии.
Всю зиму 1851 года русские войска уничтожали устроенный Шамилем в Чечне Шалинский окоп. Кроме того, Барятинскому удалось нанести горцам сильное поражение в бою при реке Бас, захватить много лошадей и оружия. Удачным стал и разгром Шамиля возле Чуртугаевской переправы, при минимальных потерях в русских войсках. Дело в том, что у Барятинского была отлично поставлена разведка. Его лазутчики добывали ему точные сведения о планах Шамиля, что давало возможность рассчитывать все свои действия.
Барятинский был хорошим воином, но он еще являлся и прекрасным администратором. При нем в Чечне появились новые аулы, а в старых население значительно увеличилось, ибо чеченцам в конце концов самим надоедало воевать. Барятинский устроил для чеченцев в крепости Грозной суд, который почти сразу завоевал репутацию уважаемого учреждения.
В январе 1853 года князь Барятинский был назначен генерал-адъютантом, а осенью был утвержден в должности начальника штаба Кавказской армии. Он был произведен в генерал-лейтенанты и получил возможность разработать и осуществить свой план по полному разгрому Шамиля. Но новая война приостановила активные действия против горцев на Кавказе.
С началом Крымской войны Барятинскому еще раз удалось проявить свой талант стратега в сражении с 60-тысячной турецкой армией Мушир-Зариф-Мустафы-паши при Курюп-Даре. За него Барятинскому был пожалован орден Св. Георгия 3-й степени.
Вскоре князя Воронцова сменил Н.Н. Муравьев, и Барятинский отпросился в отпуск и уехал в Санкт-Петербург. По возвращении на Кавказ его назначили командиром резервного гвардейского корпуса, которым он командовал так хорошо, что ему вручили орден Белого Орла, хотя недоброжелатели Барятинского считали князя неспособным командовать корпусом.
Свои соображения по покорению Кавказа Барятинский изложил письменно. Он настаивал на удержании на Кавказе двух пехотных дивизий, переведенных туда во время Крымской войны. Князь полагал, что такое усиление Кавказской армии даст возможность приступить к решительным действиям. Император одобрил мнение Александра Ивановича и распорядился оставить дивизии на Кавказе, а Барятинского назначил командующим отдельным Кавказским корпусом и кавказским наместником.
Барятинскому предстояло решить много проблем, но самой главной из них была окончание войны, которая истощила силы местного населения и не давала им возможность спокойно заниматься хозяйством.
Будучи главнокомандующим, Барятинский разделил войска на пять отделов. Первым отделом стало правое крыло Кавказской линии, подчиненное начальнику 19-й пехотной дивизии; вторым – левое крыло, подчиненное начальнику 20-й пехотной дивизии, третьим – Прикаспийский край и Дербентская губерния под управлением начальника 21-й пехотной дивизии, Лезгинская кордонная линия с Джаро-Белоканским округом, подчиненная начальнику Кавказской гренадерской дивизии, составила четвертый отдел; пятый – Кутаисское генерал-губернаторство.
Одновременно с этим Барятинский проводил на Кавказе ряд мероприятий, которые должны были бы поднять благосостояние этого края и навести в нем порядок. Была введена должность начальника главного управления, который должен был заведовать департаментами общих дел, судебных дел и финансовых дел.
В 1858—1859 годах русские войска продолжали наступать. Утвердившись на Черных горах, левое крыло получило возможность перейти в безлесную полосу, откуда открывался доступ к коренным народам Дагестана. Местные жители так устали от войны, что аулы один за другим сдавались на милость победителей.
Барятинского очень заботила обстановка в округе. Он лично объехал весь Северный Кавказ, чтобы подбодрить солдат и проверить, насколько тщательно выполняется намеченный план действий. Поездки Барятинского вызывали одобрение не только в войсках, но и среди горцев, которые даже получали подарки.
Князь был уверен, что скоро независимость Шамиля закончится. В июле он стянул к месту его пребывания войско в 40 тысяч человек при 48-ми орудиях, и сам стал командовать ими.
Позиция Шамиля находилась у середины течения реки Койсубу. Искусными стратегическими движениями Барятинский стеснил войска Шамиля и разъединил их с массой населения. Из-за этого по всему Кавказу поднялось восстание против Шамиля, и горские племена один за другим стали сдаваться в плен. Сам Шамиль заперся в Гунибе; это место было совершенно недоступно для нападения. Через две с лишним недели гора Гуниб-Даг была плотно окружена русскими войсками, а жившие неподалеку горские племена покорились России. За блестяще проведенную операцию Барятинский получил орден Св. Георгия 2-й степени.