21 сентября был проведен референдум о выходе из состава СССР и установлении независимой государственности с вопросом «Согласны ли вы, чтобы Республика Армения была независимым демократическим государством вне состава СССР?». 95 % избирателей приняли участие в голосовании, и 99 % проголосовавших высказались за выход Армении из состава Советского Союза.
В референдуме, состоявшемся 17 марта 1991 года, из 185,6 миллиона (80 %) граждан СССР с правом голоса приняли участие 148,5 миллиона (79,5 %); из них 113,5 миллиона (76,43 %), ответив «Да», высказались за сохранение обновленного СССР.
Только около половины москвичей и ленинградцев проголосовали за сохранение СССР.
21 марта 1991 года Верховный Совет СССР рассмотрел предварительные результаты референдума. Он отметил, что за сохранение Союза Советских Социалистических Республик высказались 112 млн человек, то есть 76 % голосовавших, а следовательно, «судьба народов страны неразделима, и что только совместными усилиями они могут успешно решать вопросы экономического, социального и культурного развития».
Отдельно отмечалось, что, несмотря на то что органами власти ряда республик (Грузия, Литва, Молдова, Латвия, Армения, Эстония) не были выполнены решения IV Съезда народных депутатов СССР и Верховного Совета СССР о проведении референдума, более двух миллионов граждан СССР, проживающих в этих республиках, выразили свою волю и сказали «Да» Союзу ССР. Такое проявление гражданственности Верховный Совет СССР оценил как «Акт мужества и патриотизма».
Верховный Совет СССР утвердил Постановление от 21 марта 1991 года № 2041-1:
1.
2.
Также Верховный Совет СССР предложил Комитету конституционного надзора СССР рассмотреть вопрос о соответствии принятых в связи с проведением референдума актов высших органов государственной власти республик, ограничивающих права граждан СССР, Конституции СССР и законам СССР 3 апреля 1991 года Комитет конституционного надзора СССР подтвердил свое заявление от 5 марта того же года о том, что любые акты высших органов государственной власти республик, прямо или косвенно препятствовавшие гражданам СССР свободно участвовать в общесоюзном референдуме 17 марта 1991 года, противоречили Конституции СССР
На внеочередном, III Съезде народных депутатов РСФСР был принят проект постановления «О Союзе Суверенных Республик (Союзном договоре) и порядке его подписания», в котором учитывалась «воля народов Российской Федерации, выраженная в итогах референдума о сохранении Союза ССР» и была обозначена
В соответствии с итогами референдума уполномоченной центральными и республиканскими властями рабочей группой в рамках так называемого Новоогаревского процесса весной-летом 1991 года был разработан проект по заключению договора федерации «О Союзе Суверенных Республик», подписание которого было назначено на 20 августа.