В Москву были этапированы из мест заключения отбывающие наказание оппозиционеры. В их числе бывшие секретари МГК ВКП(б) Куликов и Рютин, которым было предъявлено обвинение в терроризме. Изменился характер следствия, к арестованным теперь применяли сильные средства: лишение сна, систематические избиения, морили голодом. М. Н. Рютин и теперь проявил свой характер. Он не стал молчать, а обратился в ЦИК СССР с жалобой, пытаясь отстаивать свои права простого советского заключенного. Сломить его не удалось. Поэтому было принято решение осудить его в особом порядке Военной коллегией Верховного суда СССР. 10 января 1937 г. М. Н. Рютин был приговорен к расстрелу в особом порядке, без участия обвинения и защиты, и приговор приведен в исполнение.
В январе 1937 г. Сталин и его окружение инициировали проведение следующего Московского процесса. Теперь на скамье подсудимых находились не менее известные партийные и государственные деятели СССР К. Б. Радек, Г. Я. Сокольников, Ю. Л. Пятаков, Л. П. Серебряков и др. Всего по Второму московскому процессу проходили 17 человек. В приговоре Военной коллегии Верховного суда СССР отмечалось, что этот «параллельный центр» в качестве основной задачи ставил свержение Советской власти в СССР. Для достижения этой цели участники центра якобы развернули вредительско-диверсионную, шпионскую и террористическую деятельность. Большинство обвиняемых по этому процессу были расстреляны. Сокольников и Радек были убиты сотрудниками НКВД в местах заключения.
Весной и летом 1937 г. репрессивная политика подходила к своей высшей точке. Развернулась чистка командных кадров РККА, НКВД, НКИД, сотрудников военной и политической разведки, хозяйственных партийных и советских работников. Террор принял массовый характер. В современной литературе приводятся различные цифры репрессированных —от 2 млн до 20 млн и даже 40 млн человек. В официальных документах значится цифра 1 млн 800 тыс. человек. Большая роль в инициировании террора принадлежала февральско-мартовскому Пленуму (1937 г.) ЦК ВКП(б). Одним из главных вопросов, который решал Пленум, было дело Бухарина и Рыкова. В декабре 1936 г. Н. И. Ежов на Пленуме ЦК ВКП(б) заявил, что Бухарин, Рыков, Томский и Угланов знали о существовании подпольного антисоветского троцкистско-зиновьевского объединенного блока и руководящего центра и были осведомлены, что они перешли к методам террора, диверсии и вредительства. В виду серьезности обвинений Пленум ЦК, по предложению Сталина, вынес постановление провести специальное расследование антисоветской деятельности правых и причастности к ней Бухарина и Рыкова. Сталин выступил в прениях по вопросу «О подготовке партийных организаций к выборам в Верховный Совет СССР по новой избирательной системе и соответствующей перестройке партийно-политической работы». В своем выступлении он вновь повторил тезис, что по мере строительства социализма классовая борьба будет усиливаться. Это было своеобразное теоретическое обоснование массовых репрессий. Автором этого тезиса был Л. Б. Каменев, высказавший его в 1924 г., а Сталин попросту позаимствовал его. В ходе работы Пленума были высказаны серьезные обвинения в адрес начальника Секретно-политического отдела НКВД Г. А. Молчанова и ряда других ответственных работников этого ведомства. По итогам Пленума ЦК состоялись собрания партийного актива НКВД и прокуратуры СССР. Докладчиками выступали руководители этих ведомств Н. И. Ежов и А. Я. Вышинский. Они обратили особое внимание на проблему засоренности НКВД и прокуратуры чуждыми и примиренческими элементами. Многие из сотрудников карательного ведомства выступали со взаимными обвинениями в адрес своих коллег и покаяниями. Маховик массовых репрессий ударил и по административным органам, началась массовая чистка кадров государственной безопасности, милиции и прокуратуры.