19 августа 1936 г. Зиновьев, Каменев и другие бывшие лидеры левой оппозиции были осуждены на публичном судебном процессе и расстреляны. В сентябре НКВД возглавил Н. И. Ежов. В январе 1937 г. на публичном процессе были приговорены к смерти видные большевики Ю. Л. Пятаков, Л. П. Серебряков, Н. И. Муралов и др. Накануне пленума ЦК покончил с собой авторитетный член Политбюро Г. К. Орджоникидзе.
На состоявшемся сразу после гибели Орджоникидзе февральско-мартовском пленуме ЦК ВКП(б) 1937 г. Сталин, опираясь на результаты двух первых процессов над бывшими лидерами ВКП(б), подвел идеологическую основу под террористический удар, который обрушится на партию несколькими месяцами позднее. Процессы доказывали: вредителем или пособником вредителей может быть объявлен любой руководитель. Одним из важнейших итогов пленума стало согласие ЦК на арест Н. И. Бухарина и А. И. Рыкова, обвиненных в связях с заговором Л. Б. Каменева и Г. Е. Зиновьева. Тем самым был дан зеленый свет машине террора. Однако и ее нужно было подготовить к предстоящей «работе». В марте 1937 г. была осуществлена чистка НКВД, затем прокуратуры и судов.
Сталинское руководство опасалось, что противники Сталина могут попытаться отстранить его от власти. 22–29 мая 1937 г. были арестованы М. Н. Тухачевский, И. Э. Якир, И. П. Уборевич, Р. П. Эйдеман и другие военные руководители. Начальник Главного политического управления Я. Б. Гамарник покончил с собой, понимая, что его ждет. За короткий срок арестованные признались в заговоре, дав показания на своих многочисленных сослуживцев. В ночь на 12 июня 1937 г. после однодневного закрытого суда арестованные военачальники были расстреляны. Чистка армии волнами продолжалась до 1938 г., полностью обезопасив сталинскую группировку от угрозы военного переворота. Погибли тысячи командиров, имевших опыт Гражданской войны.
Сталин не боялся случайно уничтожить тех, кто в реальности не решился бы на сопротивление ему. Столкнувшись с угрозой (реальной или потенциальной), он наносил «удары по площадям» и таким образом в корне ликвидировал опасность для своей власти. Это была рискованная политика, так как она консолидировала скрытую оппозицию в среде бюрократии, но все же сталинская группировка действовала быстрее, чем готовились заговоры. Даже если заговора в реальности не было, то у Сталина тем не менее были основания для беспокойства. Ценой такого способа сохранения режима стала гибель сотен тысяч людей, не причастных ни к каким оппозиционным структурам, перемещение в лагеря миллионов людей, заподозренных в недовольстве.
Разгром военных обеспечил Сталину достаточный перевес сил для ликвидации автономных (а возможно, и враждебных ему) партийных группировок. В мае 1937 г. были схвачены не участвовавшие во фракциях и уклонах члены ЦК, начались массовые аресты в Ленинграде, а затем и по всей стране. Попытки сопротивления и протеста уже не имели под собой социальной основы и пресекались. Однако новые административные кадры выдвигались из среды тех кругов, против которых велась борьба, поэтому машина репрессий должна была уничтожить несколько слоев руководителей, прежде чем кланы и «заговоры» могли считаться ликвидированными. Проводя такую «ротацию» кадров, Сталин опирался на местные кадры, использовал накопившиеся противоречия в бюрократическом классе.
Большинство людей не смущало, что бывшие лидеры большевизма признавались в заговоре, а их «подельники» — в самых страшных преступлениях, направленных против народа. Публичным пиком террора стал третий показательный процесс 2–13 марта 1938 г. над правыми (Н. И. Бухарин, А. И. Рыков) и остатками бывших троцкистов (X. Г. Раковский, Н. Н. Крестинский). Массовые кампании в поддержку террора позволили также «выпустить пар» недовольства низким уровнем жизни, тяжелыми условиями труда и т. д. (снижение темпов роста промышленности стало еще одним результатом террора).
Проведение террора требовало большой агитационной работы.
Общество не знало о масштабах репрессий, но в прессе широко освещались московские процессы. Поэтому благодаря пропаганде в сознание широких слоев населения вошли радикальные лозунги: «Кто не с нами, тот против нас», «Если враг не сдается, его уничтожают». Таким образом, и с этой стороны сталинский режим получал поддержку.