Сам факт длительной работы в органах ВЧК — ОГПУ — НКВД становился поводом для арестов: формально предъявлялись обвинения в шпионаже и связи с врагами народа (а также «в осуществлении репрессий по заданию иностранных разведок в целях компрометации линии партии путем расправы с невинными людьми»), однако в действительности чекистов устраняли как нежелательных свидетелей произвола и беззаконий.
Впоследствии Ежов заявлял: «Я почистил 14 тысяч чекистов. Но огромная моя вина заключается в том, что я мало их почистил… Кругом меня были враги народа, мои личные враги…» В письме в ЦК ВКП(б) с просьбой об отставке в ноябре 1938 года он дал следующую «самокритичную» оценку своей деятельности на посту наркома: «Вместо того чтобы учитывать, что заговорщикам из НКВД и связанным с ними иностранным разведкам за десяток лет минимум удалось завербовать не только верхушку ЧК, но и среднее звено, а часто и низовых работников, я успокоился на том, что разгромил верхушку и часть наиболее скомпрометированных работников среднего звена. Многие из вновь выдвинутых, как теперь выясняется, также являются шпионами и заговорщиками».
Внутренние репрессии в НКВД приобрели небывалый размах: только в 1934–1939 годах за «контрреволюционные преступления» были расстреляны 21 880 бывших и действовавших сотрудников органов безопасности.
Доклад Ежова на пленуме ЦК ВКП(б), проходившем с 23 февраля по 3 марта 1937 года, назывался «Уроки вредительства, диверсий и шпионажа японо-немецко-троцкистских агентов». Он был призван обосновать получивший официальное признание тезис о «неизбежности обострения классовой борьбы по мере продвижения страны по пути строительства социализма», что дало дополнительный импульс последующим репрессиям и подвело под них «теоретический базис». Впервые этот тезис прозвучал еще на пленуме ЦК ВКП(б) в апреле 1929 года, но в качестве политического лозунга дня он был провозглашен именно в марте 1937-го.
В принятой 3 марта резолюции пленум одобрил мероприятия по организационной перестройке аппарата ГУГБ НКВД и укреплению его новыми кадрами, а также по удалению «разложившихся бюрократов, потерявших всякую большевистскую остроту и бдительность в борьбе с классовым врагом». Пленум потребовал «завершить реорганизацию… аппарата ГУГБ, сделав его подлинно боевым органом, способным обеспечить возложенные на него партией и советским правительством задачи по обеспечению государственной и общественной безопасности в нашей стране».
Оценивая деятельность Ежова на посту наркома, член Политбюро ЦК ВКП(б) А. И. Микоян на торжественном собрании по случаю двадцатой годовщины образования ВЧК подчеркивал: «Товарищ Ежов создал в НКВД замечательный костяк чекистов, советских разведчиков, изгнав чуждых людей, проникших в НКВД и тормозивших его работу. Товарищ Ежов сумел проявить заботу об основном костяке работников НКВД — по-большевистски воспитать их в духе Дзержинского, в духе нашей партии, чтобы еще крепче мобилизовать всю армию чекистов».
А об НКВД в целом было сказано: «Советские разведывательно-карательные органы — один из авангардов нашей партии и нашей революции, поставленный на передовую линию огня для защиты советского народа от всяких и всяческих врагов».
Однако, несмотря на внешний юбилейный антураж, в действительности правительство было не слишком довольно чекистами.
Ведь еще 2 июня 1937 года на расширенном заседании Военного совета Сталин говорил, имея в виду предстоящий судебный процесс по делу военно-фашистского заговора в РККА (делу М. Н. Тухачевского и семи других высших военачальников РККА): «В области разведки мы оказались битыми, как мальчишки. Разведки нет, настоящей разведки. Наша разведка по военной линии плоха, слаба, она засорена шпионажем. Наша разведка по линии ГПУ возглавлялась шпионом Гаем».
Чуть ранее, 21 мая 1937 года, на совещании руководящего состава Разведывательного управления РККА Сталин выступил по вопросу совершенствования разведывательной работы и, в частности, подчеркнул:
«Необходимо поставить пропаганду разведки и контрразведки. Издать контрразведывательную литературу, не скрывать ее от читателей. На Западе буржуазия вокруг своих шпионов создает ореол. У нас в стране мало знают разведчиков, они стыдятся своей работы и своего звания, поэтому у нас нет притока новых сил.
Надо популяризировать работу разведки и контрразведки. Пропагандировать разведку — значит привлекать молодежь, талантливых людей, девушек, ученых…
Разведчик — настоящий патриот, герой, деятель своей страны. Надо разъяснять значение разведки и роль разведчика. Дать ряд хороших статей, брошюр. Переработать и издать некоторые хорошие книжки по разведке. Нужно изучать иностранный опыт разведки и богатую технику этого дела…
Необходимо провести грань между социалистической разведкой и буржуазной, между социалистическим и буржуазным разведчиком.