Задуманный и утвержденный в 1923 г., этот союз был настолько централизованным, что в окончательной редакции текста первой Конституции СССР от 30 января 1924 г. пришлось сделать некоторые уступки чувствам представителей нерусских национальностей. «Право выхода» из союза, гарантированное всем союзным республикам в статье 4, было просто фикцией и подчинялось праву рабочего класса укреплять свою власть. И хотя суверенитет отдельных республик был ограничен статьей 3 «только в отношении вопросов, относящихся к компетенции Союза», эта конституция передавала так много реальной власти центральным «Всесоюзным Комиссариатам» в Москве, что местной администрации ее оставалось очень мало. В добавление к Совету Союза, в котором делегаты от РСФСР составляли, разумеется, огромное большинство, в качестве второй палаты Верховного Совета был создан Совет национальностей, в котором союзные республики и даже автономные образования внутри этих республик (в основном в РСФСР) имели равное представительство, но эта палата решала по большей части проблемы национальностей.
Что касается этих проблем, то главным принципом, многократно повторяемым Лениным и Сталиным (который был официальным экспертом в этой области), была свобода по форме, но самобытность по содержанию – формулировка, признававшая право каждой национальности на использование своего языка и народных обычаев, но при условии, что все политическое, экономическое и культурное развитие всех народов будет строго следовать коммунистическому образцу. А так как существовала Коммунистическая партия (ВКП(б), одна на весь союз с преобладанием русского большинства, которая реально управляла федерацией, то любые конституционные гарантии, основанные на разделе власти между союзом и отдельными республиками, оставались просто формальностью.
Господство РСФСР сохранялось даже после создания союзных республик в Средней Азии; из них Казахская ССР, созданная в 1936 г., получила территорию более миллиона квадратных миль, но была редко заселена (около 6 миллионов жителей). Две другие советские республики, расположенные на западной границе союза, были самыми большими по населению, но даже Украина (УССР) с ее 35 миллионами человек была в этом отношении в три раза меньше РСФСР; ее площадь 200 тысяч квадратных миль была незначительной по сравнению с 6,5 миллиона квадратных миль площади России. Более того, среди жителей УССР существовало значительное русское меньшинство.
И все же именно украинский национализм представлял собой самую большую проблему для национальной политики Советского Союза, и именно на Украине эта политика демонстрировала самую поразительную неустойчивость. В первые годы коммунистической власти украинские язык и культура пользовались официальной поддержкой. Киев, снова ставший столицей республики, превратился в важный интеллектуальный центр с украинскими академией и университетом. Но когда, несмотря на эти официальные уступки, коммунизм не достиг достаточного прогресса, в качестве противопоставления появилась политика стандартизации и унификации под властью Москвы, которая была даже еще более жесткой, чем при царях. Первый пятилетний план, который был введен в действие в 1928 г., стал шансом привлечь в старые и новые промышленные центры Украины большое количество рабочих из России. Русский язык был введен как второй язык во всех школах, и начались репрессии в отношении и интеллектуальных лидеров, обвиненных в реакционном национализме, и крестьян, выступавших против коллективизации сельского хозяйства.
Аресты, суды и депортации, в том числе профессора Михаила Грушевского (1866–1934), сломленного и умершего в ссылке, дезорганизовывали жизнь украинского народа.
Такие насильственные меры не понадобились в гораздо меньшей Белорусской ССР с ее площадью всего лишь около 60 тысяч квадратных миль и 8 миллионами человек населения. Здесь тоже родной язык и культура поощрялись, по крайней мере сначала, и в столице республике Минске был создан интеллектуальный центр со своим Белорусским университетом. Но так как в республике национальное самосознание было менее развито, чем на Украине, а организованное сопротивление коммунизму было еще более затруднено, то на эту формально белорусскую культуру большое влияние оказывала Москва. Подобно украинцам, белорусы тоже имели меньше реальной свободы в своей советской республике, чем в соседней Польше, где, даже будучи меньшинствами, они могли самоорганизоваться политически без какой-либо навязанной идеологии.