С весны 1794 года начались трения между Карно и сторонниками М. Робеспьера. Причиной тому послужило несогласие Карно с некоторыми военно-политическими шагами якобинского руководства, в частности, он резко выступал против крайностей кровавого якобинского террора, особенно репрессий против высшего командного состава армии. Вследствие этого Карно подвергался ожесточенным нападкам со стороны радикалов как в Конвенте, так и в Комитете общественного спасения. Во время государственного переворота 9 термидора (27—28 июля 1794 года) он выступил против Робеспьера и его ближайшего окружения. После их свержения был избран председателем Конвента. С ноября 1795 года — член Совета старейшин (верхняя палата французского парламента, заменившего Конвент), был избран его председателем. Но вскоре Карно вновь вернулся к военной деятельности, возглавив вновь учрежденное Военное министерство. Находясь на этом посту, он восстановил Политехническую школу, разгромленную во время якобинского террора. Во многом способствовал назначению генерала Наполеона Бонапарта командующим Итальянской армией. В 1796 году избран членом Директории [правительство Французской республики, созданное на основе конституции III года. Существовало с 4 ноября 1795 года до 10 ноября 1799 года. Состояло из 5 членов (директоров), избиравшихся обеими палатами парламента — Советом пятисот и Советом старейшин. Каждый год один из членов Директории выбывал по жребию и подлежал замене путем выборов]. В период руководства Карно Военным министерством французские войска добились новых выдающихся успехов. Так, возглавляемая Наполеоном Бонапартом Итальянская армия одержала блистательную победу в Северной Италии и завоевала ее. Были одержаны значительные успехи и на некоторых других фронтах. Понимая, что после длительной и разорительной войны Франция остро нуждается в передышке, Карно в 1797 году выступил за заключение мира, чтобы восстановить внутренний порядок в стране. Однако его предложение вызвало резко негативную реакцию со стороны большинства членов Директории, заподозривших Карно в сговоре с врагами Франции. Во время государственного переворота 18 фрюктидора (4 сентября 1797 года), вовремя предупрежденный о том, что его ожидает арест и ссылка в Кайенну (Французская Гвиана), он успел бежать в Швейцарию. Когда над этой страной нависла угроза оккупации французской армией, перебрался в Баварию (1798). Жил под чужим именем в Аугсбурге. После государственного переворота 18 брюмера (9 ноября 1799 года) пришедший к власти генерал Наполеон Бонапарт разрешил вернуться на родину всем изгнанникам. В их числе был и Карно, возвратившийся во Францию в конце 1799 года. В апреле 1800 года первый консул Французской республики Наполеон Бонапарт назначил его военным министром. Карно взялся за исполнение возложенных на него обязанностей с присущей ему энергией. Основные усилия он сосредоточил на завершении подготовки армии Наполеона к вторжению в Северную Италию, утерянную французами в 1799 году. Поход этот увенчался полным успехом. Не одобряя стремления Наполеона к единоличной власти, Карно подал в отставку и, не дожидаясь ответа на поданное им прошение, в октябре 1800 года оставил свой пост. По другой версии, Наполеон сам отправил Карно в отставку, заподозрив его в связях с республиканской оппозицией своему режиму. Отойдя от дел, Карно занялся научной работой, склонность к которой проявил еще в юные годы. Его способности в исследовательской работе, особенно в точных науках, отмечали еще наставники в военно-инженерном училище. Он не оставлял своих научных изысканий и в последующие годы, сосредоточившись в основном на исследованиях в области математики и прикладной механики, а затем и фортификации. Труды Карно по проблемам математического анализа, геометрии и механики были высоко оценены научным сообществом. В 1796 году он был избран членом Института Франции (высшее научное учреждение Французской республики, аналог Академии наук) по вакансии отделения физико-математических наук. После бегства из Франции французские академики, или как их тогда называли «бессмертные», (избрание в Институт Франции считалось пожизненным), исключили его из своих рядов. На место Карно был избран Наполеон Бонапарт. Но с возвращением из эмиграции Карно был восстановлен в правах члена Института. В 1802 году Карно был избран членом Трибунала, где продолжал отстаивать республиканские принципы и выступил против пожизненного консульства Наполеона Бонапарта. Встретив сильное противодействие сторонников первого консула, отошел от политической деятельности и удалился в свое небольшое поместье в Бургундии. Жил бедно, продолжал заниматься наукой, поддерживал связи с Институтом Франции и Политехнической школой. Находился под строгим надзором полиции. В 1804 году выступил с протестом против установления Империи и провозглашения Наполеона императором. Но это был глас вопиющего в пустыне, абсолютное большинство французов были за империю. Но, выступая против устремлений Наполеона к авторитарной власти, Карно в то же время был его сторонником по многим другим вопросам, как внешнеполитическим, так и внутренним. И Наполеону это было хорошо известно. Когда один из агентов полиции сообщил в Париж своему начальству, что Карно является участником антиправительственного заговора и об этом было доложено императору, то Наполеон сразу же отверг этот домысел, заявив: «Можно было бы и не наблюдать за человеком, который хотя и принадлежит к числу недовольных, но никогда не примет участия в заговоре».