В крупных городах были проведены аресты видных деятелей культуры и науки. В августе 1922 г. ВЦИК принял декрет «Об административной высылке лиц, признаваемых социально опасными». Осенью из страны были высланы 160 «особо активных контрреволюционных элементов», в том числе философы Н. О. Лосский, Н. А. Бердяев, С. Н. Булгаков, С. Л. Франк, Л. П. Карсавин, историки А. А. Кизеветтер, С. П. Мельгунов, социолог П. А. Сорокин, идеолог анархизма Г. П. Максимов.
Всего в эмиграции в результате Гражданской войны оказалось более 1 млн жителей бывшей Российской империи. Несмотря на тяжелые условия жизни большинства эмигрантов, они создали «вторую Россию», продолжившую культурную и политическую традицию начала века. Они вели споры о причинах катастрофы, произошедшей с ними и со страной, сводили старые политические счеты, пытались осмыслить и оправдаться. Это была благодатная среда для издательской деятельности — в 1924 г. в Германии вышло более 1 тыс. наименований изданий на русском языке. Затем ажиотаж стал спадать. До 30-х гг. белая эмиграция надеялась на скорое возвращение на родину и смену власти силовым путем.
Более суровая расправа, чем высылка, ждала лидеров оппозиционных партий, оставшихся в стране. В условиях НЭПа коммунисты опасались, что рост буржуазных элементов приведет к усилению оппозиции. Поэтому, пока положение режима было стабильным, коммунистическое руководство решило разгромить оппозиционные партии.
В декабре 1921 г. ЦК РКП(б) принял решение о полной ликвидации партии эсеров. В начале 1922 г. было решено организовать несколько «образцовых громких воспитательных процессов» в целях создания в обществе отрицательного мнения об эсерах и меньшевиках.
В мае 1922 г. В. И. Ленин писал наркому юстиции Д. И. Курскому по поводу проекта вводного закона к уголовному кодексу: «По-моему, надо расширять применение расстрела (с заменой высылкой за границу)… ко всем видам деятельности меньшевиков, с.-р. и т. п.».
25 мая 1922 г. новый кодекс был принят, а 8 июня открылся процесс по делу эсеров.
7 августа суд приговорил 12 обвиняемых к смертной казни, 10 получили от двух до 10 лет тюремного заключения. Однако смертная казнь была заменена заключением.
Репрессиям подверглись и другие партии и движения: меньшевики, левые эсеры, максималисты и анархисты. Некоторые оппозиционные структуры под давлением властей заявили о самороспуске, несогласных с этим арестовывали. В мае 1925 г. был взят под стражу последний состав центрального бюро ПСР.
ВЧК в январе 1922 г. была преобразована в Главное политическое управление — ГПУ (с 1923 г. — Объединенное ГПУ — ОГПУ). Ее руководителем остался Ф. Э. Дзержинский. ОГПУ и его органы вели борьбу с бандитизмом, шпионажем, осуществляли подавление открытых контрреволюционных выступлений, охрану границ, железнодорожных и водных путей сообщения, борьбу с контрабандой. ОГПУ контролировало настроения населения и пресекало антисоветскую пропаганду, к которой относили иногда и простую критику жизни в СССР.
Внесудебные репрессии отменялись, а подготовленные дела передавались в суд. Однако уже в октябре 1922 г. ВЦИК предоставил ГПУ право внесудебной расправы, правда, с ограничениями как по сфере применения, так и по суровости наказания.
ОГПУ занималось не только выполнением своих непосредственных обязанностей, но и решением неотложных хозяйственных задач: борьбой с разрухой, эпидемиями, перебоями в работе транспорта, детской беспризорностью.
В развитие идей рабочего контроля в 1920 г. была создана полуобщественная-полугосударственная организация — Рабоче-крестьянская инспекция (РКИ). Предполагалось, что рабочие и крестьяне через участие в деятельности РКИ обретают опыт управления обществом. Представители РКИ работали во всех органах государственного аппарата. Низовые структуры этого комиссариата создавались на каждом предприятии и в сельской местности. В основном в состав инспекции входили рабочие, делегированные с предприятий на четырехмесячный срок.
В 1923 г. совместным декретом ЦИК и СНК «О реорганизации народных комиссариатов рабоче-крестьянской инспекции союзных республик» были уточнены функции РКИ: отныне они состояли в разработке методов научной организации труда в государственном аппарате и проверке эффективности его работы. Однако, поскольку выполнение этих задач требовало знания механизма работы государственных органов, набор рабочих в РКИ был прекращен, а ее штат резко уменьшен. Из инструмента контроля снизу РКИ окончательно превратилась в структуру партийно-государственного контроля сверху.
В апреле 1921 г. СНК РСФСР принял декрет «О привлечении работниц и крестьянок к работе в советских учреждениях». Согласно ему устанавливалась система, когда в течение двух недель практикантки должны были приходить на работу в советские учреждения. Основное место работы на это время за ними бронировалось. Вскоре аналогичный декрет был принят в отношении молодежи. Таким образом, шла подготовка вытеснения старого чиновничества новыми кадрами.