Молодому острослову не удалось избежать опалы. Ложный донос отправил его в ссылку в Кострому. Там, кстати, он встретил другого изгнанника, Платова, впоследствии графа и атамана Войска Донского. Новый император Александр I вернул его на службу, о чем ни минуты потом не жалел. Ермолов участвовал в боевых действиях с Францией в 1805 г. и геройски вел себя при Аустерлице. В ходе кампании 1806–1807 гг. Ермолов отличился в битве при Прейсиш-Эйлау в феврале 1807 г. Огонь его конно-артиллерийской роты остановил наступление французов, чем способствовал успешным действиям всей армии. Причем огонь был открыт им без приказа, по собственной инициативе. С 1809 г. командовал резервными войсками в Киевской, Полтавской и Черниговской губерниях. С началом Отечественной войны был назначен начальником Главного штаба 1-й Западной армии. Именно Ермолов придавал особое значение организации партизанской борьбы с неприятелем.
С начала Бородинского сражения Ермолов находился при штабе Кутузова. В критический момент натиска французов на левый фланг русских войск он был послан с поручением «привести в надлежащее устройство» артиллерию 2-й армии.
Обнаружив, что батарея Раевского взята противником, Ермолов лично повел в бой батальон уфимцев, а конным ротам велел отвлечь на себя огонь врага. В течение получаса батарея была отбита у французов. Затем некоторое время он руководил ее обороной, пока не был контужен картечью. На совете в Филях генерал Ермолов высказался за новый бой под Москвой, а после начала отступления Наполеона из древней столицы он среди других настаивал на том, чтобы дать сражение под Малоярославцем. Исход этого сражения заставил повернуть французов на разоренную смоленскую дорогу, что предопределило окончательную катастрофу Великой армии.
Отличился Ермолов и во время заграничных походов 1813–1814 гг., исполняя обязанности начальника артиллерии союзных армий, а затем командуя дивизией и корпусом. В сражении при Бауцене в период отхода союзных войск Ермолову было поручено командовать арьергардом. Его смелые действия обеспечили отход армии без крупных потерь. Проявил храбрость он и при Кульме, и при взятии Парижа, где командовал гвардейским корпусом.
На Кавказе
К 1816 г. расположенные на Кавказе войска были сведены в отдельный кавказский корпус. Его главнокомандующим был назначен Ермолов. С прибытием героя Эйлау и Бородина в истории Кавказа началась особая ермоловская эпоха. Заметим, что еще задолго до этого единоверные с Россией грузинские государственные образования искали российского подданства, чтобы защитить себя от угрозы физического уничтожения и ассимиляции со стороны Турции и Персии.
Подписав в 1783 г. Георгиевский трактат с Грузией, которая, сохраняя внутреннее самоуправление, переходила под протекторат северного соседа, Российская империя лишила Турцию важнейших рычагов своего влияния на Большом Кавказе. В начале XIX столетия Россия закрепляла свои успехи, достигнутые в результате русско-турецких и русско-персидских войн. В 1801 г. к России присоединяется Восточно-Грузинское царство, в 1804 г. — Имеретия.
В результате двух успешных войн с Ираном (1804–1813) и Турцией (1806–1812) российская империя приобретает Карабахское, Ганджинское, Шекинское, Дербентское, Кубинское ханства, добивается признания за собой прав на Гурию и Мегрелию. Новые территории — новые подданные, а вместе с ними и новые проблемы. Российская военная и гражданская администрации очень скоро узнали, что такое горский менталитет и кавказские социально-экономические отношения.