16-го августа, Коновницын был назначен начальником главного арьергарда отступающих русских армий. Прибыв на другой день в Царёво-Займище, Кутузов утвердил назначение его и послал адъютанта сказать Коновницыну, что он помнит то счастливое время, когда за двадцать перед тем лет знавал его юношею в Яссах и уверен, что Коновницын будет удерживать французов в возможном отдалении от русской армии. Издавна благоговея перед Кутузовым, Коновницын отвечал ему, что не даст французам перешагнуть через наш арьергард или проглотить его, и сдержал свое слово. С 17-го до 23-го августа, – день вступления Кутузова на Бородинскую позицию, – Коновницын был в беспрерывном огне, ежедневно выдерживая упорные нападения Мюрата. Тогдашние арьергардные дела его можно уподобить по количеству сражавшихся войск, генеральным битвам восемнадцатого столетия. Ни разу не удавалось Мюрату оттеснить русских прежде времени, назначенного Коновницыным к отступлению. В сих жарких делах Коновницын не потерял ни одного орудия, не бросил ни одной повозки и старался не только давать армии спокойно отходить назад, но заботился и о том, чтобы жители окрестных мест успевали увозить свое имущество. Отступление Коновницына представляло величественное и трогательное зрелище: он шёл среди пожаров, со всем народонаселением придорожных селений; отовсюду выезжали под его защиту крестьянские обозы и господские экипажи. Иные из бегущих брели за ним, не смотря на свои раны. Духовенство с иконами и хоругвями, окружённое молящимся народом с непокрытыми и поникшими головами, шло посреди полков Коновницына, стройных, но безмолвных и печальных. Могли ли они равнодушно взирать на пожары, на удалявшийся из домов своих народ, на храмы Божии, разрушаемые несчастием, видя веру отцов своих поруганною, Россию, казавшуюся бессильною? И прекрасен был в то скорбное время Коновницын! Давая в течение дня отчаянный отпор Мюрату, по окончании боя являлся он ангелом-утешителем среди бесчисленного множества смолян и других беглецов, толпившихся вокруг его лагеря. Он не находил достаточно слов для изъявления благодарности солдатам, когда они делили солдатский запас свой с злополучными соотечественниками. 23-го августа была жестокая схватка Мюрата с Коновницыным у Гриднева, в 15 верстах от Бородина. Долго не уступал Коновницын, когда под вечер вице-король Италийский не показался на его правом крыле. Тогда, пользуясь темнотою, отошел он к Колоцкому монастырю. На следующее утро французы вновь атаковали его. При необходимости выиграть несколько часов времени для укрепления Бородинской позиции, Кутузов послал на подкрепление Коновницына 1-й кавалерийский полк Уварова. Коновницын явился к Уварову, как к старшему его в чине. «Пётр Петрович! – отвечал Уваров: – не время считаться старшинством. Вам поручен арьергард, а я прислан Вам на помощь – приказывайте!» Сначала Коновницын оборонялся успешно. Дорохов с Изюмским гусарским полком и казаками опрокинул и истребил три французских эскадрона, но при появлении вице-короля Италийского, как накануне обходившего наше правое крыло, Коновницын принужден был отступать и на отступлении был встречен Кутузовым. Будто любимого сына после долгой разлуки, обнял Кутузов Коновницына. Полки арьергарда вошли в состав своих корпусов и вступили в позицию, открывая взорам неприятеля русскую армию, устроенную в боевой порядок.
В день Бородинского побоища 3-я дивизия Коновницына стояла с корпусом Тучкова, к коему принадлежала она на старой Смоленской дороге, во второй линии крайнего левого крыла.
В 7-м часу утра князь Багратион, видя громады сил неприятельских, устремленные против него, послал за дивизиею Коновницына и просил Кутузова о подкреплении. Пока Коновницын спешил, а Кутузов отправлял подкрепления к левому крылу, Багратион был в жарком бою. Войска обеих сторон бросались на батареи, и взаимные усилия русских и неприятелей яростно возобновлялись. Тщетно отбивали неприятелей. Смыкаясь, они валили вперед и овладели укреплениями. Прибыл Коновницын и не дал утвердиться французам. Он кинулся на них с своею дивизиею. «Презирая всю жестокость неприятельского огня, – говорил он в своем донесении Кутузову: – полки пошли на штыки и с словом “ура”! опрокинули французов, привели в крайнее замешательство колонны их, заняв высоту, с самого начала сражения упорно защищаемую». Раненые и убитые тысячами покрывали оспариваемые батареи и окрестности.