В 1837 г. Тону было поручено составление проекта еще одного грандиозного сооружения в Москве — Большого Кремлевского дворца. В 1839 г., одновременно с храмом Христа Спасителя, начались строительные работы, законченные в 1849 г. В проектировании и строительстве Большого Кремлевского дворца принимала участие большая группа московских мастеров. Распределение работ между ними было следующим: в 1838 г. главным архитектором был назначен Тон, главным художником — Ф. Солнцев, "архитекторским помощником" — П. А. Герасимов; Ф. Ф. Рихтер был назначен старшим архитектором, заменявшим Тона в общем руководстве, лишь с 1843 г. Проектирование интерьеров и внутреннего убранства велось архитекторами Ф. Ф. Рихтером и Н. И. Чичаговым, большая роль в проектных работах и наблюдении за строительством принадлежала также Н. И. Чичагову, В. А. Бакареву, Н. А. Шохину и другим.
Первоначально Большой Кремлевский дворец и Оружейная палата (в ее проектировании наряду с К. Л. Тоном принимали участие Н. И. Чичагов, П. А. Герасимов, В. А. Бакарев, М. Трубников и И. Горский) рассматривались как единый комплекс, предполагалось их одновременное строительство. Однако при составлении сметы на 1842 г. было решено разделить строительство на две очереди. В первую очередь вошли дворцовый корпус — апартаменты царей, или корпус, выходящий на Москву-реку, — с парадными залами и включенными в их состав древними сооружениями; во вторую — апартаменты великих князей, примыкавший к ним корпус Оружейной палаты, часть кремлевской стены у Боровицких ворот, водоподъемная система нового дворца и перестройка церкви Уара.
Задача, стоявшая перед Тоном, отличалась от задач его предшественников (от В. И. Баженова и М. Ф. Казакова и до В. П. Стасова). Все они проектировали дворец в стиле классицизма, подчеркивая приобщенность послепетровской России к мировому историческому процессу. Задача Тона была иной. И композиционно и стилем требовалось подчеркнуть связь здания с окружающими его национальными историческими святынями — древними храмами и царскими дворцами. Новое осознавало и утверждало себя не как открытый и откровенный разрыв со старым, с формами и приемами зодчества древнего Кремля, как было до сих пор, а в сознательном обращении к забытой традиции, на протяжении более чем столетия занимавшей подчиненное место в системе культурных ценностей. Это находит отражение в облике и композиции дворца: нижний этаж (терраса), схема фасада, обработка его плоскости пилястрами, рисунок наличников — все это восходит к облику, композиции и формам Теремного дворца царя Алексея Михайловича.
Новые помещения Большого Кремлевского дворца составили единое целое с древними и стали их непосредственным продолжением. К древней традиции восходят также черты живописности в созданном по проекту Тона ансамбле. Планировка Большого Кремлевского дворца традиционна и нова одновременно. К традициям классицизма восходят регулярность общего плана постройки (прямоугольник с внутренним двором в центре) и анфиладность расположения залов, как бы нанизанных на одну ось. Нов сам прием планировки, в период классицизма употреблявшийся в Петербурге по преимуществу при строительстве доходных домов, корпуса которых располагались по периметру участка, оставляя незастроенным пространство внутреннего двора. Но в конкретных условиях Кремля этот прием, переосмысленный применительно к сооружению дворцорого типа, трактован оригинально и воспринимается совсем непохожим на прототипы благодаря тому, что Большой Кремлевский дворец включил в свой состав древние храмы, Терема, Золотую Царицыну и Грановитую палаты. Галерея зимнего сада соединила Большой Кремлевский дворец с корпусом, где разместились царские апартаменты, Оружейная палата, Конюшенный корпус, примыкающие под тупым углом к основной группе помещений. В результате возник несвойственный классицизму живописный, свободно расположенный, подобно древнерусским прототипам, ансамбль.
Однако обращение к традиции всегда сопровождается ее переосмыслением. Так случилось и на этот раз. Приближенный к бровке Кремлевского холма дворец (высота 49,94 м, длина 121,5 м) придал панораме Кремля со стороны Москвы-реки черты представительности, внес отсутствовавший прежде элемент фронтальности. Кремль приобрел отчетливо выраженный парадный фасад. Прежде в панораме Кремля доминировали вертикали соборов и колоколен. Отныне их живописную группу уравновешивает огромный нерасчлепенный блок дворца. Он поставлен в соответствии с привычными для послепетровского регулярного градостроительства правилами расположения зданий по красной линии улиц. Разница лишь в том, что здесь эта линия является воображаемой — это гладь Москвы-реки.