Поначалу в едином целом с Большим дворцом должна была строиться и Оружейная палата, но в 1842 году ее отделили. В единый комплекс вошли Грановитая палата, Теремной дворец, Золотая царицына палата и дворцовые церкви. Один из древнейших храмов столицы — собор Спаса на Бору был заключен во внутреннее пространство Большого Кремлевского дворца. Мотивы Теремного дворца Тон использовал в наружной отделке нового сооружения, своим главным фасадом смотрящего на Кремлевскую набережную. Окна выполнены в традиции русского зодчества и украшены резными наличниками с двойными арками и гирькой посередине. Так же, как и храм Христа Спасителя, по мысли императора, дворец должен был стать памятником славы русского воинства. Пять его парадных залов — Георгиевский, Андреевский, Александровский, Владимирский и Екатерининский — названы в честь орденов Российской империи, их внутреннее убранство выполнено в соответствии с мотивами регалий этих орденов.
И здесь, в новом сверкающем Георгиевском зале, в субботу Пасхальной седмицы 9 апреля 1849 года, совершив чин освящения нового дворца, святитель Филарет произносил торжественную речь:
— Между прочими царскими чертогами, сей чертог Георгия Победоносца самым наименованием своим не дает ли уже разуметь, о ком помышлял государь, нарекая ему сие имя? — Он помышлял о своих верных подвижниках браней, и не только помышлял, но и восхотел свою о них мысль торжественно здесь проявить и увековечить. Как царский дух его живет в его воинстве непрестанным попечением о его благоустройстве и совершенстве: так хощет он, чтобы память и честь его воинства жила в его царском доме. Чертог Георгия Победоносца должен быть храмом славы победоносного Российского воинства, или, что равно справедливо, храмом царской любви к верному воинству. Имена полков, светлые испытанною верностью, мужеством, победами, — имена членов почетного сонма Георгиевских ратоборцев будут здесь навеки сиять и осияваться царскою славою. И сего-то царственного памятника полагает ныне начало благочестивейший государь; и сему-то начинанию призываем благословение свыше, при предстательстве святого Георгия Победоносца.
Здесь же стояли и слушали воины, коим вскоре предстояло идти в сражение — было уже известно о начале восстания в Венгрии, и он говорил им:
— Да поможет Бог Державной мудрости держать Российское воинство в таком, как ныне, положении, чтобы один грозный вид его достаточен был отражать войну и чтобы не было нужды поражать врагов. Но если когда дерзость врагов и царственное правосудие вызовут вас к брани: вы вспомните тогда особенно сей чертог, и каждый полк, и каждый воин скажут единым сердцем: станем подвизаться так, чтобы царь в своем Георгиевском чертоге веселым оком воззрел на имена полков наших!
Но с открытием и освящением Большого Кремлевского дворца связано не только светлое воспоминание в жизни Филарета. Он не мог забыть о сносе древнейшей кремлевской церкви, отданной в жертву дворцу. Храм Рождества Иоанна Предтечи был построен еще в XII веке, то есть был ровесником Первопрестольной. Дорог он был сердцу православного москвича тем, что являлся памятником низвержения язычества. На месте его некогда находилось языческое капище, при коем совершались обряды в честь божества Купалы и непотребные радения, сопровождаемые купанием в реке и свальным грехом. Принявшие истинную веру москвичи на месте разрушенного капища воздвигли храм в честь праздника Рождества Иоанна Предтечи, совпадающего по времени с днем Купалы. Так языческое купание было заменено почитанием Крестителя, «купавшего» Христа во время крещения в Иордане. Деревянная Предтеченская церковь простояла до времен Василия Темного, который возвел на ее месте каменную. Затем архитектор Але-виз Фрязин построил другую, она-то и простояла до 1847 года, когда выяснилось, что после возведения нового дворца ей грозит разрушение — езда на лошадях, неизбежная вблизи дворца, создаст вибрацию, и постройка не выдержит. Приняли решение храм перенести внутрь Боровицкой башни. Но Филарет, узнав об этом, загоревал и возмутился. Пришлось его долго уговаривать. В итоге он смирился, но лично составил таблички, объясняющие причину переноса, и эти таблички с разрешения императора были помещены на стенах башни.
В башенном храме отныне один раз в год совершались богослужения — в праздник Иоанна Предтечи. Снос стариннейшей церкви создал некое незаконченное пространство, и впоследствии все тот же Тон установил здесь массивную чугунную решетку с воротами. Пройдет шестьдесят лет, и большевики равнодушно уничтожат храм внутри Боровицкой башни — прошлое России для них будет пустой звук.