После актива чистка НКВД и методичные аресты проводились во все возрастающем масштабе. Постепенно «вырисовывался» предательский заговор коварного Ягоды. Дело разрасталось. 29 марта был арестован и сам Ягода вместе с начальником своего секретариата П.П. Булановым. Два дня спустя Сталин сообщил членам ЦК, что выявлены «антигосударственные и уголовные преступления», совершенные Ягодой в бытность главой НКВД и позднее. Ввиду «опасности оставления Ягоды на воле хотя бы на один день» Политбюро оказалось «вынужденным дать распоряжение о немедленном аресте Ягоды», а уже после этого оно попросило ЦК санкционировать его исключение и арест{285}.
11 апреля настала очередь бывшего заместителя Ягоды (с 29 сентября 1936 года заместитель наркома связи) Г.Е. Прокофьева. Также были арестованы начальники отделов К.В. Паукер (отдел охраны, 17 апреля), A.M. Шанин (транспортный отдел, 22 апреля), Г.И. Бокий (специальный отдел, 16 мая) и М.И. Гай (бывший начальник особого отдела, а с ноября 1936 начальник Восточно-Сибирского УНКВД, 1 апреля). В апреле начальник контрразведывательного отдела Л.Г. Миронов был отправлен в командировку с целью разгрома «шпионов и вредителей» на Сибирской и Дальневосточной железных дорогах. Он даже успел принять участие в допросе Ягоды, но 14 июня был арестован сам.
4 апреля, сразу после сообщений в печати об аресте Ягоды, принадлежавший к его ближайшему окружению начальник УНКВД по Горьковской области М.С. Погребинский застрелился. Весной 1937 года по НКВД прошла волна самоубийств, вызванных страхом. Так, 17 апреля заместитель начальника контрразведывательного отдела И.И. Черток выбросился из окна. В мае Ежов продолжил чистку НКВД от людей Ягоды. 17 мая Агранов был смещен с поста заместителя наркома (ранее, 15 апреля, он. потерял посты первого заместителя и главы ГУГБ — их вместо него получил Фриновский) и назначен начальником УНКВД Саратовской области после того, как его предшественник Р.А. Пилляр был арестован как агент «ПОВ». Агранов был арестован 20 июля, затем осужден и расстрелян 1 августа 1938 года.
Ежов придавал большое значение допросу Ягоды, заботясь о том, чтобы его собственные ставленники не предстали в невыгодном свете. Это было непросто, так как за ходом расследования следил сам Сталин, и Ежов был обязан без промедления отправлять в Кремль протоколы допросов наиболее важных подследственных. Хотя руководить допросами Ягоды было поручено Фриновскому, в них также принимал участие начальник УНКВД по Ленинградской области Л.М. Заковский вместе с В.М. Курским, Л.В. Коганом и Н.М. Лернером. В соответствии с указаниями Ежова и Фриновского, имена некоторых служащих НКВД высокого ранга изымались из материалов следствия — так было, например, с материалами на Люшкова{286}. Показания Ягоды поначалу давали небогатый материал, вырисовывались лишь «антисоветские разговоры» среди чекистов{287}. Этого было явно недостаточно, ведь Сталин хотел, чтобы Ягода был представлен настоящим заговорщиком, и планы совершения государственного переворота были приписаны не только ему, но и его ближайшим сотрудникам, таким как Гай, Паукер, Бокий, Артузов, Сосновский, Пилляр, Прокофьев и Шанин[32].
Еще один «ударный» эпизод в деле Ягоды был связан с обвинением его в покушении на убийство Ежова. На допросе он показал, что после своего смещения он пытался отравить нового наркома. 28 или 29 сентября он приказал своему секретарю Буланову распылить в кабинете Ежова ртуть, растворенную в кислоте[33]. Буланов выполнил этот приказ с участием порученца Ягоды Саволайнена, а сам Ягода наблюдал за этим. Распыление, якобы, было продолжено и после отбытия Ягоды в отпуск (1 октября){288}. На суде в марте 1938 года Ягода и Буланов подтвердили это показание{289}. Позднее, когда Ежов оказался под следствием, было установлено, что он сам и организовал эту авантюру. Ежов утверждал, что он принес в свой кабинет ткань с ртутью, и затем покушение было «раскрыто» — был арестован сотрудник НКВД и принужден к даче показаний, что это было сделано по приказу Ягоды и «право-троцкистского блока». Фриновский показал на допросе в апреле 1939, что Ежов жаловался коллегам на то, что как только он вошел в кабинет, «он почувствовал металлический привкус во рту; из его десен стала течь кровь, и зубы стали расшатываться». Он стал постоянно повторять, что был отравлен в своем кабинете и, таким образом, как показал Фриновский, «заставил следствие получить нужные показания»{290}.