Военизированные добровольцы вскоре потянулись к Белому дому из различных горячих точек, вооружившись оружием из подпольного склада Хасбулатова (когда здание было взято штурмом, там обнаружили 163 автомата, 5 пулеметов, 2 снайперские винтовки, 1 гранатомет, 420 пистолетов, 248 газовых пистолетов, 1 взрывное устройство и 23 единицы другого оружия). Командующим защитников был генерал-сталинист Альберт Макашов – активный сторонник переворота 1991 года, известный своими выпадами в сторону «жидов», сейчас он пообещал заставить предателей «умыться собственной кровью». Он получил поддержку неонациста Александра Баркашова, боевики которого носили форму со знаком свастики на рукавах и изучали книгу Адольфа Гитлера Mein Kampf. Казаки, ветераны и просто бандиты собрались вокруг здания, избивая журналистов и других людей, подозреваемых в том, что они евреи. В надежде избежать насилия Ельцин послал милицию окружить Белый дом, вооружившись только резиновыми дубинками и пластиковыми щитами.
23 сентября боевики, защищающие Белый дом, атаковали штаб-квартиру объединенных вооруженных сил СНГ, застрелив одного милиционера; была убита пулей пожилая женщина, выглянувшая из окна своей квартиры. Под покровительством православной церкви Кремль пытался вести переговоры с Хасбулатовым, предлагая восстановить свет и отопление в здании правительства, вывести милицию и обсудить «правовые и политические гарантии», если Белый дом согласится сдать свое оружие. Хасбулатов отказался.
2 октября радикальные коммунисты во главе с крайне левым пропагандистом Виктором Анпиловым взбунтовались на Смоленской площади, нападая на милицию с бутылками с зажигательной смесью и заостренными металлическими прутьями; один милиционер был убит и 24 ранены. На следующий день толпа под руководством Анпилова, состоящая примерно из 10 000–15 000 боевиков, прорвала милицейский кордон возле Белого дома. Восторженные Хасбулатов и Руцкой послали их вместе с войсками Макашова идти через дорогу и занять кабинет мэра, что они и сделали, проезжая сквозь стеклянные стены и разбивая грузовики, стреляя и выводя разоруженных милиционеров. «Пора покончить с фашистской диктатурой Ельцина», – восторженно сказал Хасбулатов остальным депутатам. – Именно в эту минуту запланирован захват Кремля под командованием исполняющего обязанности президента. Кремль сегодня же будет взят!» – боевики Макашова захватили автобусы и направились в телецентр Останкино на север Москвы в сопровождении толпы сторонников, вооруженных бутылками с зажигательной смесью. Они протаранили двери грузовиками и взорвали в здании гранату. Для предотвращения освещения восстания защитники Хасбулатова убрали программу из эфира.
Ельцин, стремящийся выстроить отношения с армией, 31 августа посетил местные военные подразделения: понаблюдал за прыжками с парашютом и пообедал с офицерами. По инициативе министра обороны Павла Грачёва они выпивали за его здоровье, кричали «Ура!» и обещали полную поддержку друг другу. Теперь, когда Ельцин встретился с генералами лицом к лицу, понял, что армия защитить не может – «кто на картошке находится, кто воевать не хочет». Он убедил Грачёва направить несколько танков к правительству. Затем Ельцин посетил КГБ и разговаривал с бойцами «Альфы». «Вы выполните мой приказ?» – спросил он, когда его молча встретили. Неохотно отряды были развернуты возле Белого дома; они согласились на его штурм только после того, как один человек остановил свой бронированный автомобиль, чтобы помочь раненым гражданам, и был убит снайпером.
В декабре прошли выборы нового двухпалатного правительства.