В ночь гибели Павла I Константина разбудил пьяный Платон Зубов: «Ну, вставайте, идите к императору Александру, он вас ждёт». «Можете себе представить, как я был удивлён и даже испуган этими словами. Я смотрю на Зубова: я был ещё в полусне и думал, что мне всё это приснилось. Платон грубо тащит меня за руку и подымает с постели…» – вспоминал позднее Константин. Увидев заплаканного брата и узнав о смерти отца, он сперва подумал, что то «был заговор извне, против всех нас». Чуть позже, встретив офицера Н.А. Саблукова, Великий князь сказал: «Ну, Саблуков, хорошую здесь только что заварили кашу?» – «Да, – ответил тот, – в самом деле хорошая была каша, но я рад, что не принимал во всём этом участия!» – «Друг мой, – задумчиво произнес Великий князь, – после того, что случилось, пусть мой брат царствует, – и, помедлив, добавил: – Если хочет… Но если бы престол достался мне, то я бы, наверное, отрёкся». Впоследствии Константин именно так и поступит, правда, по совсем другой причине.
После присоединения к России Царства Польского его наместником Александр назначил одноногого генерала Юзефа Зайончека (1752–1826, с 1818 года князь), а командующим польской армией при нём Константина. Великий князь поднял польские вооружённые силы на должную высоту, никогда не нарушал польскую конституцию и пользовался репутацией хотя и вспыльчивого, но великодушного, честного и остроумного человека.
Как и старшего брата, Константина всегда тяготила мысль о престоле. Официально он считался наследником, но править не хотел. Междуцарствие 1825 года показало, что ему вообще были безразличны проблемы государственного управления: он не только не приехал в Петербург, чтобы внести ясность в вопрос о наследовании престола, но и не отправил официального акта о своём отречении, ограничившись частными письмами. Когда же Николай попросил его всё-таки стать императором, а лишь затем отречься, Константин не счёл нужным обременять себя подобными хлопотами и поставил Николая в очень сложное положение. Единственной, видимо, стезёй, на которой он полагал достойным «оправдывать» своё царственное происхождение, была военная служба. Но самое главное, из-за чего и произошёл «сбой» в порядке престолонаследия, заключалось в семейной жизни цесаревича.
Великая княгиня Анна Фёдоровна. Художник Л.Э. Виже-Лебрен. Около 1796 г.
Ещё в возрасте 17 лет Константина женили на юной кобургской принцессе Юлиане, ставшей в России Анной Фёдоровной. Супруги плохо ладили друг с другом, и после пяти лет брака Анна оставила мужа и уехала из России. Формально тем не менее развода не произошло. Из-за слабого здоровья Анна Фёдоровна поселилась в Швейцарии. Константина нисколько не расстроил уход жены. В 1803 году он предлагал ей расторгнуть брак, поскольку хотел жениться на княжне Святополк-Четвертинской, сестре фаворитки своего брата Александра. Но все намерения цесаревича разбились о твёрдую позицию его матери Марии Фёдоровны, категорически возражавшей против развода и повторного брака.
Тем не менее в 1820 году Константин развёлся с Анной Фёдоровной и женился на молодой польской красавице графине Жанетте Грудзинской (род Грудзинских герба Гржимала был возведён в графское достоинство королём Пруссии 19 февраля 1786 года). Невеста была на 15 лет младше Константина, и их роман длился целых шесть лет до того, как они обвенчались. Узнав о предстоящем разводе сына, Мария Фёдоровна пришла в ужас. Она считала, что официальное объявление о разводе подорвёт уважение народа к императорской семье и поколеблет её репутацию: «по разрушении брака Вашего последний крестьянин отдалённейшей губернии, не слыша больше имени Великой Княгини, при церковных молитвах возглашенным, известится о разводе Вашем, с почтением к таинству брака и к самой вере поколеблется… Он предположит, что вера для Императорской Фамилии менее священна, нежели для него, а такового довольно, чтобы ощетить сердце и умы подданных от Государя и всего Царского Дома. Сколь ужасно вымолвить, что соблазн сей производится от Императорского брата, обязанного быть для подданных образцом добродетели!.. При малейшем же хотя в одной черте сей добродетели нарушении общее мнение ниспровергается, почтение к Государю и его роду погибает».
Одновременно с матримониальными заботами Константин принял и окончательное решение об отказе от наследования престола.