Многие вельможи, имевшие влияние на государя, считали Сперанского «выскочкой», называли «поповичем», говорили, что он «возжигает бунты» и т. п. Преобразования, которые предлагал проводить Михаил Михайлович в области внутренней и внешней политики, не устраивали их. Оппонентом Сперанского стал даже знаменитый историк Н. М. Карамзин, который считал, что император не имеет права ограничивать свою власть, врученную ему предками. В такой обстановке отставка Сперанского не заставила себя ждать. 17 марта 1812 года он освобождается от занимаемой должности, и его ссылают в Нижний Новгород, а в сентябре того же года – в Пермь. Ему устанавливают содержание – шесть тысяч рублей в год. В 1814 году Сперанскому было высочайше разрешено жить в собственном имении, в деревне Великополье, недалеко от Нижнего Новгорода. Здесь он занялся сельским хозяйством, совершенствовал свои знания в английском языке, изучал еврейский и, конечно же, мечтал вернуться на государеву службу. И только 30 августа 1816 года благодаря протекции графа А. А. Аракчеева, бывшего тогда всесильным временщиком, начинается процесс реабилитации Сперанского – он возвращается из ссылки и назначается пензенским губернатором, а 22 марта 1819 года перемещается на должность сибирского генерал-губернатора (в Тобольске). Изголодавшийся по серьезной работе и пытаясь оправдать оказанное ему доверие, он ревностно исполняет свои обязанности.
И это оценивается. В 1821 году Сперанскому наконец-то милостиво было дозволено вернуться в Санкт-Петербург и предложено место в Государственном совете, а также поручено временное управление Комиссией составления законов.
К этому времени Михаил Михайлович уже оставил свои революционные конституционные проекты и более не замахивался на ограничение власти императора. Его дочь, Елизавета Михайловна, была пожалована во фрейлины при высочайшем дворе. В январе 1823 года Сперанский назначается также членом Комитета о проекте учреждения для военных поселений и для Войска Донского, а через два года становится одним из авторов Манифеста от 13 декабря о вступлении на престол Николая I.
После разгрома восстания декабристов его вводят в члены Верховного уголовного суда.
При новом императоре авторитет и влияние Сперанского опять начинают расти. В 1826 году Николай I доверяет ему возглавить только что образованное Второе отделение Собственной его императорского величества канцелярии, занимавшееся законодательными вопросами. Именно под его руководством в кратчайшие сроки было подготовлено и издано первое «Полное собрание законов Российской империи» (1830 год) и «Свод законов Российской империи» (1832 год). 19 января 1833 года на чрезвычайном собрании Государственного совета, на котором выступил с речью император Николай I, было принято решение: «I. Свод законов издать ныне же и разослать во все присутственные места. II. При сем объявить, что свод получает исключительную силу закона с 1 января 1835 года…» По окончании заседания государь подошел к Сперанскому, обнял его и надел на него снятую с себя самого Андреевскую ленту. На языке геральдики это означало, что Михаил Михайлович удостаивался ордена Святого Андрея Первозванного. Триумф Сперанского был полный. Как из рога изобилия на него опять посыпались всевозможные милости. Сперанский становится членом ряда секретных комиссий и комитетов. В 1835–1837 годах он читает курс юридических наук наследнику престола великому князю Александру Николаевичу. Тогда же ему вручаются алмазные знаки к ордену Святого Андрея Первозванного, золотая табакерка с алмазами и портретами их императорских величеств, а также знак отличной беспорочной службы за 35 лет.
В 1838 году Михаил Михайлович назначается председателем Департамента законов Государственного совета. 1 января 1839 года ему был «пожалован» графский титул за составление Свода военных постановлений.
М. М. Сперанский был автором нескольких сочинений, в том числе «О военных поселениях», «Обозрение исторических сведений о Своде законов», «Правила высшего красноречия», «Руководство к познанию законов» и др.
Он являлся членом ряда академий и университетов: Российской, Московской духовной, Харьковского, Казанского, Петербургского, а также некоторых обществ: Вольного экономического, фармацевтического в Петербурге, любителей отечественной словесности в Казани, любителей природы и сельского хозяйства в Москве, любителей коммерческих знаний.
Ушел из жизни Михаил Михайлович 11 февраля 1839 года и был похоронен в Петербурге на Тихвинском кладбище Александро-Невской лавры.