Хотя построение коммунизма и руководящая роль партии были абсолютными принципами советской политики, в жизни федеральная структура Советского государства и его институтов была менее неприкосновенной. Это были тактические схемы; разработанные большевиками еще в первые годы своего правления, которые должны были сделать правление Коммунистической партии эффективным и приемлемым для многонационального общества, а также показать всему миру, что Советский Союз является добровольной федерацией равных народов, а не какой-то новой версией Российской империи. Тем не менее именно федеральной структуре государства суждено было сыграть при Горбачеве главную роль в распаде Советского Союза. Согласно советской конституции, СССР был добровольной федерацией союзных республик, сохранявших право на самоопределение и отделение. Внутри некоторых из этих союзных республик существовали так называемые автономные республики и области, которые как в теории, так и в советской практике обладали меньшей властью, чем сами союзные республики. Однако все эти образования были привязаны к конкретным народам и определялись как их территориальная родина. Исполнительные, законодательные и юридические институты союзных республик были одни и те же во всем Советском Союзе, причем для всех республиканских институтов обязательным было подчинение имперским (всесоюзным) центральным государственным институтам в Москве и главным образом - партийной иерархии от скромных сельских парторганизаций до Политбюро.
Однако внутри этой устоявшейся структуры институтов и идеологического, и политического управления на протяжении десятилетий в политике партии происходили существенные изменения, в том числе (и не в последнюю очередь) в отношении Москвы к национальному вопросу. В первые годы советской власти национальная политика определялась в основном «жестами раскаяния» за предыдущее русское господство и пренебрежение малыми народами. Русский национализм, объявленный идеологией царизма и белой контрреволюции, был назван главным врагом. Поощрялось развитие нерусских языков, культур и чувства национальной идентичности. Большие усилия предпринимались по набору нерусских кадров и внедрению их, где только возможно, в высшие эшелоны республиканских властей. На Украине, например, к 1930 году почти все партийное и государственное руководство состояло из украинцев, почти все украинцы (а также многие русские и евреи) обучались в школах на украинском языке, на котором печаталось и 88 процентов фабричных газет, Это было полной противоположностью царской политике, и в 1930 году украинское население имело гораздо более сильное чувство национальной идентичности, чем в 1917 году.
Но уже с 1930-х годов, по мере укрепления власти Сталина, который рассматривал растущее самосознание нерусских народов как угрозу власти Москвы, началось стремительное движение вспять. В это же время основным приоритетом стало форсированное экономическое развитие, нацеленное на создание социалистического, современного и урбанистического общества. Теперь позиция властей по отношению к некоторым аспектам русского национализма стала менее враждебной, что, без сомнения, не могло не устраивать огромное число русских рабочих и крестьян, которых сталинская образовательная и экономическая политика выдвигала на руководящие позиции. Подчеркивание русского патриотизма и связывание его с лояльностью советской системе было важно для достижения сталинского замысла, состоявшего в создании объединенного, монолитного и изолированного общества, способного выжить во все более опасной международной обстановке 1930-х годов. Русские* составлявшие в то время больше половины населения страны, были политическим, территориальным и демографическим ядром Советского Союза, и неудивительно, что тематика русского патриотизма во время Второй мировой воины начала усиленно выводиться на первый план, хотя советская символика и атрибутика все-таки занимали ведущее место в официальной пропаганде и акцентировались все больше и больше по мере приближения победы над Германией. Тем не менее к моменту смерти Сталина в 1953 году утвердился статус русского народа как лидера, основной нации и щедрого покровителя всех народов СССР.