Хотя формальное сообщение о снятии Ягоды с должности наркома связи последовало лишь 4 апреля 1937 года, уже 28 марта его арестовали, а 15 марта 1938 года, после того как он стал одним из главных обвиняемых на Третьем московском открытом процессе, расстреляли на спецобъекте «Коммунарка» — на его же даче. Ягоду заставили наблюдать за расстрелом остальных осужденных этого процесса и убили последним. Перед расстрелом, по указанию нового руководителя НКВД, Ежова, Ягоду избил начальник 1-го отдела ГУГБ НКВД СССР Израиль Дагин[216]
.Жену расстрелянного Иду Авербах уволили из прокуратуры, где она служила, и 9 июня 1937 года арестовали. Вместе с матерью и семилетним сыном ее отправили в ссылку в Оренбург сроком на пять лет. Но мафиозные законы сталинщины требовали, хотя и не всегда, уничтожения всей семьи. В 1938 году, после пересмотра ее дела, Иду Авербах расстреляли.
20 июня 1937 года родителей и сестер Ягоды выслали сроком на 5 лет в Астрахань. 8 мая 1938 года их приговорили к 8 годам ИТЛ. Отец Ягоды умер в заключении в Воркуте, мать — в Северо-Восточном ИТЛ. Ссылки и расстрелы ждали и сестер. Розалия Григорьевна Шохор-Ягода (1890, Симбирск — 1950) после отбывания срока заключения еще 5 лет находилась в ссылке на Колыме; Таисия Григорьевна Ягода-Мордвинкина (1895–1988) после освобождения 29 октября 1949 года была выслана в Красноярский край; Эсфирь Григорьевну Ягоду-Знаменскую (1896 года рождения) 16 июня 1938 года приговорили к расстрелу; Фрида Григорьевна Фридлянд-Ягода (1899 года рождения) после освобождения из лагеря в 1949 году была повторно осуждена на 10 лет ИТЛ и исчезла; Лилию Григорьевну Ягоду (1902 года рождения) 16 июня 1938 года приговорили к расстрелу. Все они были родственниками Якова Михайловича Свердлова. Никакая сицилийская мафия не могла даже мечтать о такой вендетте.
26 сентября 1936 года место опального Ягоды как наркома внутренних дел занял Николай Иванович Ежов. К тому времени он был уже председателем Комиссии партийного контроля (КПК) при ЦК ВКП(б), членом Оргбюро ЦК ВКП(б) и секретарем ЦК ВКП(б). Иными словами, он являлся не бывшим офицером госбезопасности, как Менжинский или Ягода, а партийным функционером, непосредственным начальником которого был генсек партии Сталин. Это был первый случай отхода партийного руководства от недолгой, как и вся советская история, традиции, когда главой госбезопасности становился первый (главный) заместитель ушедшего начальника. Менжинский и Ягода были фактическими руководителями госбезопасности до того, как заняли свои посты формально. Менжинский выполнял функции Дзержинского, так как последний был занят. Ягода — функции Менжинского, поскольку тот часто болел.
Нарком Ежов пришел из партаппарата и стал в Советском Союзе организатором «Большого террора 1937–1938 годов», самых массовых репрессий советской номенклатуры. Став наркомом внутренних дел, он не оставил ни одного из своих партийных постов. Иными словами, он сочетал службу в госбезопасности с партийной работой.
Начал Ежов с чистки органов госбезопасности от сотрудников и сторонников Ягоды. 2 марта 1937 года он выступил на пленуме ЦК ВКП(б) с резкой критикой собственных подчиненных (подчиненных репрессированного Ягоды), указав на их провалы в следственной и агентурной работе. Все это соответствовало задачам, поставленным перед Ежовым Сталиным, указывавшим в шифротелеграмме, посланной из отпуска членам Политбюро ЦК еще 25 сентября 1936 года, что «Ягода явным образом оказался не на высоте своей задачи в деле разоблачения троцкистско-зиновьевского блока ОГПУ, опоздал в этом деле на 4 года». Именно после этой телеграммы Сталина, на следующий день, Ягоду сняли с поста наркома внутренних дел и заменили Ежовым.
На февральско-мартовском пленуме 1937 года рассматривались такие вопросы:
Выступая с докладом по первому вопросу, глава НКВД на основе сфабрикованных и выбитых под пытками показаний ранее арестованных двадцати шести партийных руководителей обвинил Бухарина и Рыкова в том, что они «встали на путь прямой измены родине, на путь террора против руководителей партии и советского правительства, на путь вредительства и диверсий в народном хозяйстве».
Пленум исключил Бухарина и Рыкова из состава кандидатов в члены ЦК ВКП(б) и из рядов ВКП(б). В тот же день их арестовали.