Главный рычаг разведки — осведомительная работа оказалась поставленной из ряда вон плохо. Иностранную разведку по существу придется создавать заново, так как ИНО был засорен шпионами, многие из которых были резидентами за границей и работали с подставленной иностранными резидентами агентурой. Следственная часть также страдает рядом существенных недостатков. Главное же здесь в том, что следствие с наиболее важными арестованными во многих случаях вели неразоблаченные еще заговорщики из НКВД, которым удалось, таким образом, не давать разворота делу вообще, тушить его в самом начале и, что важнее всего— скрывать своих соучастников по заговору из работников ЧК. Наиболее запущенным участком в НКВД и связанным с ними иностранным разведкам за десяток лет минимум удалось завербовать не только верхушку ЧК, но и среднее звено, а часто и низовых работников, я успокоился на том, что разгромил верхушку и часть наиболее скомпрометированных работников среднего звена. Многие из вновь выдвинутых, как теперь выясняется, также являются шпионами и заговорщиками. Ясно, что за все это я должен нести ответственность».
24 ноября решением Политбюро просьба Ежова об освобождении его от обязанностей Наркома внутренних дел СССР была удовлетворена. На время за ним сохранили должности секретаря ЦКВКП(б), председателя комиссии партийного контроля и наркома водного транспорта.
На время, потому что 10 апреля 1939 г., т. е. через пять месяцев, его арестовали.
25 ноября 1938 г. наркомом Внутренних дел назначают Берию, а 17 декабря его заместителем становится Меркулов. В отличие от Ягоды Ежов оказался скромнее. При обыске в его квартире в Кремле были обнаружены: в письменном столе в кабинете «в одном из ящиков незакрытый пакет с бланком «секретариат НКВД», адресованный в ЦКВКП(б) Н.И. Ежову, в пакете находилось четыре пули (три от патронов к пистолету «наган» и одна, по-видимому, к револьверу «кольт». Пули сплющены после выстрела. Каждая пуля была завернута в бумажку с надписью карандашом на каждой «Зиновьев», «Каменев», «Смирнов» (причем в бумажке с надписью «Смирнов» было две пули)».
«При осмотре шкафов в кабинете в разных местах за книгами были обнаружены 3 полбутылки (полные) пшеничной водки, одна полбутылка с водкой, выпитой до половины, и две пустых полбутылки из-под водки».
Пил кровавый карлик, заливал горе да хранил пули, уничтожившие «врагов народа», — его врагов. То ли получая от этого удовольствие, то ли считая их талисманом.
В мае 1939 г. Ежову на допросе предъявили документ: