С постройкой в Кремле Успенского (1475—1479 гг.) и Благовещенского (1484—1489 гг.) соборов, а также с началом строительства Архангельского собора появилась необходимость в возведении для них общей колокольни — звонницы. Колокольня, существовавшая здесь раньше, была разобрана. Очевидно, ни по масштабам, ни по состоянию она не соответствовала новым соборам и не могла вместить все необходимые колокола. Эта старая колокольня совмещалась с церковью Иоанна Лествичннка. Отсюда, по преданию, и произошло название вновь построенной колокольни — Иван Великий. В названии нашла отражение и огромная высота колокольни.
Колокольня Ивана Великого, построенная в 1505— 1508 гг., первоначально выглядела иначе. Её три яруса поднимались на 60 м. Каждый вышележащий ярус, резко уменьшаясь в гранях и медленно убывая по высоте, становится стройнее по пропорциям и легче по массе. Завершающий ярус — цилиндрический, надстроен он при Борисе Годунове в 1600 г.
Современник Бориса Годунова дьяк Иван Тимофеев объясняет:
«На самой верхней главе церковной, которая была выше всех других церквей, и прежней высоте которой он, равняясь с нею гордостью, сделал в начале своего царствования большое прибавление и верх которой позолотил,— она и теперь, блестя, существует и всеми видна, превосходя своею высотою другие храмы, на нем на вызолоченных досках золотыми буквами он обозначил своё имя, положив его как некое чудо на подставке, чтобы всякий мог, смотря, прочитать крупные буквы, как будто имея их у себя в руках».
Надпись эта следующая:
«Изволепием Святыя Троицы повелением Великого Государя Царя и Великого князя Бориса Фёдоровича всея Русии самодержца и сына его благоверного Великого государя царевича и Великого князя Фёдора Борисовича всея Русии храм совершен и позлащен во второе лето государства их 108» (или 1600 г.).
В 1532—1543 гг. по проекту зодчего Петрока Малого с северной стороны к колокольне Ивана Великого пристроили звонницу новгородско-псковского типа с храмом. В 1642 г., в царствование Михаила Фёдоровича Романова и патриаршество его отца Филарета, у этой звонницы Бажен Огурцов возвёл так называемую Филаретовскую пристройку.
На Филаретовской пристройке и звоннице сохранились три колокола.
Большой колокол (который называли Успенский, Праздничный, Царь-колокол) весит 65 т 320 кг. Он был перелит в 1817—1819 гг. на заводе М. Г. Богданова из колокола весом 58 т 165 кг, отлитого мастером К. М. Слизовым в 1760 г. Слизовский колокол разбился при взрыве Филаретовской пристройки наполеоновскими солдатами. Вновь отлитый девяностолетним мастером Яковом Завьяловым Успенский колокол был самым большим из действующих русских колоколов, самым лучшим по тону и звуку. На нем есть надпись:
«Лит сей колокол на заводе московского 2-й гильдии купца Михаила Гаврилова Богданова Яковом Завьяловым и при С.-Петербургского арсенала пушечным мастером 14 класса Русиновым под распоряжением преосвященного архиепископа Августина».
Как предполагают, тот же Августин сочинил и многословную патриотическую надпись, в которой излагается история отливки колокола: