Ежовский «большой террор» сменился «бериевской оттепелью». Но доля осужденных за контрреволюционные преступления – более четырехсот тысяч – осталась в трудовых лагерях и колониях на уровне, который в 1939 году по воле Берии увеличился по сравнению с предыдущими годами более чем в два раза.
Г. М. Маленков в это время пользовался особенным доверием в качестве ответственного за кадровые вопросы главы Центрального Комитета ВКП(б) и одного из ближайших соратников Ежова не только благодаря информации, но и благодаря собственному влиянию. Но в августе 1938 года он передал Сталину записку, в которой утверждал, что Ежов и его ведомство виновны в уничтожении тысяч преданных партии коммунистов. Это было начало конца карьеры Н. И. Ежова: уже в том же месяце Л. П. Берия был назначен его новым заместителем. 23 ноября 1938 года Ежов написал прошение об отставке с поста народного комиссара внутренних дел, в котором признал себя ответственным за вредительскую деятельность «врагов народа», обманом проникших в НКВД. Через день его просьба была выполнена. 17 ноября 1938 года Совет народных комиссаров и ЦК ВКП(б) приняли постановление «Об арестах, прокурорском надзоре и ведении следствия», которое запрещало проведение любых массовых операций по аресту и депортации, а также инициированную по приказу НКВД деятельность «троек».
10 апреля 1939 года Ежов был арестован. Предлогом было обусловленное пьянством грубое пренебрежение своими должностными обязанностями. Но в ходе позже проведенного слушания были выявлены факты, показавшие мотивы действий этого человека в другом свете. Во время своего пребывания на курорте в Вене Ежов был завербован германской разведкой. Его шантажировал работавший в клинике, где лечился Ежов, некий «доктор Энглер», вынуждая его сотрудничать с немецкой разведкой. Этот факт заслуживает особого внимания, потому что Ежов отрицал все возможные обвинения, кроме сотрудничества с германской разведкой. Используя этот подход, мы понимаем, что в этом процессе приговор был вынесен на основе доказательств и предъявленных обвинений. В этом контексте К. Колонтаев поднимает вопрос о том, должно ли то, что произошло в 1937 году, рассматриваться как преследование старых большевиков или как чистка партийного аппарата от коррупции. Но он слишком легко приходит к выводу, что «основной удар был направлен против коррумпированного и разложившегося высшего и среднего слоя советского чиновничества, а также против тех лично честных, но некомпетентных функционеров, которые из-за своей некомпетентности тормозили или даже задерживали развитие вверенных им отраслей деятельности, но при этом упорно не желали покидать свои посты, ссылаясь на свои прошлые революционные заслуги (категория так называемых “старых большевиков”)».
Остается неясным, почему, если (по мнению Колонтаева) «подлинные политические противники Советского государства составляли среди обвиненных по политическим мотивам менее 10 %», остальные 90 % – «коррумпированных военных и гражданских чиновников» были осуждены «за разного рода мифические политические преступления».
Масштаб начатых в результате этих чисток и репрессий личных изменений стал понятен, когда Сталин на XVIII съезде сообщил: «В Центральном Комитете партии имеются данные, из которых видно, что за отчетный период партия сумела выдвинуть на руководящие посты по государственной и партийной линии более 500 тысяч молодых большевиков, партийных и примыкающих к партии, из них более 20 процентов женщин… На XVII съезде партии было представлено 1 874 488 членов партии. Если сравнить эти данные с данными о количестве членов партии, представленных на предыдущем, XVI съезде партии, то получится, что за период от XVI съезда партии до XVII съезда в партию прибыло 600 тысяч новых членов партии. Партия не могла не почувствовать, что такой массовый наплыв в партию в условиях 1930-1933 годов является нездоровым и нежелательным расширением ее состава. Партия знала, что в ее ряды идут не только честные и преданные, но и случайные люди, но и карьеристы, стремящиеся использовать знамя партии в своих личных целях».
Таким образом, началась новая волна чисток. В то же время было отмечено, что чистки проходили не без серьезных ошибок. «К сожалению, ошибок оказалось больше, чем можно было предположить… На настоящем, XVIII съезде представлено около 1600 тысяч членов партии, то есть на 270 тысяч членов партии меньше, чем на XVII съезде. Но в этом нет ничего плохого. Наоборот, это – к лучшему, ибо партия укрепляется тем, что очищает себя от скверны. Партия у нас теперь несколько меньше по количеству ее членов, но зато она лучше по качеству». С января 1939 г. по июнь 1941 г. 1 723 148 человек были приняты в партию в качестве кандидатов и 1 201 847 – в качестве членов партии. 1 января 1941 ВКП(б) насчитывала 3 872 465 членов и кандидатов.