При знакомстве с перипетиями «союзного» строительства в 1920–1930-е гг. возникает впечатление некоей простоты, механистичности и автоматизма постоянно предпринимавшихся «объединений» и «размежеваний». За ними очень смутно проглядывает родоклановая борьба, в которой принадлежность к той или иной народности имела не меньшее значение, чем политические убеждения. Но уже самый порядок национально-территориальных перемен говорит о многом. Можно обнаружить две их ключевые тенденции: стремление к обособлению от многонациональных образований, поощряемых Москвой, и попытки повысить статус национального объединения — от округа к области, а затем к автономной или даже к союзной республике. Согласие союзных верхов вести эту постоянную игру «на повышение», оборвавшуюся лишь после принятия Конституции 1936 г., было вызвано желанием устранить дополнительный источник национальных трений и потребностью иметь политическую поддержку автономий, немаловажную в развернувшейся в 1920-е гг. борьбе за власть. Вместе с тем это не препятствовало проведению периодических «антинационалистических» кампаний, с помощью которых устраняли национальных лидеров, заподозренных в излишней самостоятельности. В эти годы получили известность «дело Султан-Галиева», одного из руководителей Крымской республики, и «дело Скрыпника», занимавшего высокие посты в правительстве Украины.
4. Государственная безопасность
Реформа государственной безопасности началась почти сразу же после окончания Гражданской войны. В 1922 г. ВЧК была упразднена, у органов безопасности отнято право выносить приговоры и производить расстрелы. Вместо ВЧК 6 февраля 1922 г. образовано Главное политическое управление (ГПУ), подчиненное наркому внутренних дел РСФСР. В числе его задач были названы: «а) подавление открытых контрреволюционных выступлений, в том числе бандитизма; б) принятие мер охраны и борьбы со шпионажем; в) охрана железнодорожных и водных путей сообщения; г) политическая охрана границ РСФСР; д) борьба с контрабандой и переходом границ республики без соответствующих разрешений; е) выполнение специальных поручений Президиума Всероссийского Центрального исполнительного комитета или Совета Народных Комиссаров по охране революционного порядка». Вместе с тем органы госбезопасности уже с начала 1920-х гг. все активнее использовались и как инструмент внутрипартийных репрессий и дискредитации оппозиционеров в компартии.
После образования СССР, в 1923 г., было создано Объединенное государственное политическое управление СССР (ОГПУ) — орган, уже формально не зависимый от НКВД РСФСР. Возникновение в 1934 г. НКВД СССР привело к новому переподчинению структур госбезопасности. ОГПУ переименовывается в Главное управление государственной безопасности и становится частью НКВД СССР. ОГПУ возглавляли в 1923–1926 гг. Ф.Э. Дзержинский и в 1926–1934 гг. В.Р Менжинский. В 1934–1936 гг. пост наркома внутренних дел занимал Г.Г. Ягода. Его сменил Н.И. Ежов, пробывший в этой должности до 1938 г. Последним в 1930-е гг. наркомом внутренних дел СССР был Л.П. Берия.
Массовые политические чистки 1920–1930-х гг. можно разделить на несколько этапов. Первая волна репрессий поднялась в начале 1920-х гг. Расстрел многочисленной «группы Таганцева», обвиненной в контрреволюционной деятельности в 1921 г., высылка за границу и в ссылку представителей интеллигенции и суд над группой эсеров в 1922 г. были ее самыми известными, но не единственными эпизодами.
Вторая волна чисток относится к середине 1920-х гг. Ее жертвами стали преимущественно представители враждебных коммунистам политических партий — эсеров, меньшевиков, кадетов. Наиболее часто применявшаяся к ним мера наказания — высылка, преимущественно на Север и в Сибирь.
Чистки 1929–1931 гг. коснулись прежде всего интеллигенции. Научную интеллигенцию подозревали в составлении политических заговоров, военную — в подготовке военных переворотов и шпионаже, техническую — во вредительстве. В начале 1930-х гг. было сфабриковано несколько громких политических дел: «Академическое дело», дело «Промпартии», дело «Союзного бюро меньшевиков». По итогам их «расследования» были арестованы и казнены сотни неповинных людей, обвиненных в попытках свержения Советской власти. «Раскулачивание» 1929–1932 гг. являлось одной из крупнейших политических чисток: число репрессированных крестьян сравнимо лишь с количеством жертв Большого террора. Сам террор 1937–1938 гг. достиг такого размаха, что это испугало даже его организаторов. В 1938 г. спешно принимается постановление ЦК ВКП(б), осуждающее «перегибы» в деле разоблачения «врагов народа». Репрессии в 1938–1941 гг. не прекратились, но они уже не имели такого массового характера, как в 1937 г.