Сразу же после ухода Ежова началась новая волна арестов и смещений в органах НКВД. Были арестованы и расстреляны все заместители и ближайшие помощники Ежова, в том числе М. Фриновский и Л. Заковский, работавшие еще при Ягоде. Были арестованы «главный палач» Новосибирской области Мальцев, начальник Белорусского управления НКВД садист Берман, начальник Горьковского управления НКВД Лаврушин и все их заместители. Наряду с другими был арестован и вскоре расстрелян свояк Сталина С. Реденс, женатый на сестре Н. Аллилуевой. В 1937 г. Реденс, будучи начальником столичного управления НКВД, руководил массовыми репрессиями в Москве. Затем его назначили наркомом внутренних дел Казахстана, где он возглавил разгром партийного аппарата республики. Был уничтожен начальник НКВД Украины Успенский. Большинство начальников тюрем сами испробовали их режим. В Бутырскую тюрьму был ненадолго заточен ее начальник Попов, в Ярославской тюрьме сидел ее бывший начальник Вайншток. Все они вскоре были расстреляны, также как и большинство начальников крупных лагерей и управлений ГУЛага. Как правило, эти люди занимали руководящие посты в НКВД недолго – от смещения Ягоды до смещения Ежова, и память бывших заключенных, с которыми я беседовал, плохо сохранила имена и фамилии этих представителей репрессивного аппарата.
О той панике, которая охватила сотрудников НКВД после смещения Ежова, свидетельствует эпизод с крупным работником этой организации Г. Люшковым. По свидетельству старых большевиков А. В. Снегова, М. П. Баторгина и П. И. Шабалкина, Люшков еще с конца 20-х гг. возглавлял в ОГПУ специальную группу по борьбе с троцкистами. В 1935 г. он вел следствие по делу Зиновьева и Евдокимова. В 1937 г. в качестве начальника Ростовского управления НКВД Люшков руководил истреблением кадров этой области. Затем его назначили начальником управления НКВД на Дальнем Востоке. Узнав о смещении Ежова, Люшков, в подчинении которого находились и все пограничные части, бежал в Маньчжурию, захватив валюту, документы и печати из сейфов НКВД. Он выдал командованию Квантунской армии дислокацию советских войск на Дальнем Востоке и «разоблачил» преступления Сталина, активным участником которых был сам.
Между тем Ежов еще несколько месяцев находился на свободе. 21 января 1939 г. он появился рядом со Сталиным в президиуме торжественного заседания в Большом театре по случаю 15-й годовщины со дня смерти Ленина. Как член ЦК ВКП(б), Ежов присутствовал на XVIII съезде партии и на первых заседаниях сидел в президиуме съезда. Однако в новом составе ЦК ВКП(б) мы уже не встречаем его фамилии. Не упоминалось о Ежове и в вышедшей вскоре стенограмме съезда.
Е. Г. Фельдман в конце 1938 г. и первой половине 1939 г. исполнял обязанности первого секретаря Одесского обкома партии. Он был делегатом XVIII съезда и как руководитель областной организации вошел в сеньорен-конвент съезда, на котором, по традиции, определялся состав будущего ЦК. В своих неопубликованных воспоминаниях он описал заседание сеньорен-конвента:
«Когда съезд кончился, в Кремле, в одном из залов, собрался сеньорен-конвент. Перед ним за длинным столом, как на сцене, сели А. А. Андреев, В. М. Молотов и Г. М. Маленков. В глубине, за их спинами, в углу слева, если смотреть от членов сеньорен-конвента, уселся, попыхивая трубкой, Сталин. Андреев сказал, что съезд заканчивает работу, а потому надо предложить кандидатуры в подлежащий избранию ЦК. В первую очередь в список стали включать членов прежнего ЦК, естественно, кроме тех, кто выбыл. Дошла очередь до Ежова. “Какие мнения будут?” – спросил Андреев. После небольшого молчания кто-то сказал, что Ежов – сталинский нарком, его все знают и его надо оставить. “Возражений нет?” Все молчали. Тогда слово попросил Сталин. Он поднялся, подошел к столу и, все еще попыхивая трубкой, позвал:
– Ежов! Где ты там? А ну, подойди сюда! Из задних рядов вышел и подошел к столу Ежов.
– Ну! Как ты о себе думаешь? – спросил Сталин. – Можешь ты быть членом ЦК?
Ежов побелел и срывающимся голосом ответил, что вся его жизнь отдана партии, Сталину, что он любит Сталина больше своей жизни и не знает за собой ничего, что могло быть причиной такого вопроса.
– Да? – иронически спросил Сталин. – А кто такой был Фриновский? Ты Фриновского знал?
– Да, конечно, знал, – ответил Ежов. – Фриновский был моим заместителем. Он…
Сталин прервал Ежова и начал спрашивать, кто был Шапиро, кем была Рыжова (секретарь Ежова), кто такой Федоров и еще кто-то (к этому времени все эти люди были уже арестованы).
– Иосиф Виссарионович, да ведь это я – я сам! – вскрыл их заговор, я пришел к вам и доложил о том…
Сталин не дал ему продолжать.