Органы НКВД составили справку на его арест еще 15 декабря 1937 года, но выжидали месяц и дали ей ход только после окончания сессии. В ней отмечалось, что Крыленко «является активным участником антисоветской организации правых и организованно был связан с Бухариным, Томским и Углановым. С целью расширения антисоветской деятельности насаждал контрреволюционные кадры правых в наркомате. Лично выступал в защиту участников организации и проталкивал буржуазные теории в своей практической работе». Далее указывалось, кем именно он изобличается. Картина вырисовывалась такая: Крыленко якобы считал, что ЦК пытается обмануть страну, скрывая истинное положение дел, что руководство страной и партией оказалось в руках людей, не понимающих значения закона и свое усмотрение ставящих выше закона, что страна заинтересована в скорейшей смене этого руководства. Сталина же Крыленко называл диктатором, загнавшим страну в тупик, и считал, что он должен быть снят с поста Генерального секретаря.
31 января 1938 года нарком внутренних дел Н. И. Ежов начертал на этой справке лаконичную резолюцию: «Арестовать», и в тот же день его заместитель Фриновский подписал ордер на арест Крыленко и на производство у него обыска.
В ночь на 1 февраля 1938 года Николая Васильевича арестовывают в своей квартире в доме № 25 по Новинскому бульвару. Так начался непродолжительный, но самый трагичный период его жизни.
Следствием по делу Н. В. Крыленко занимался сотрудник госбезопасности Коган. Он и произвел первый допрос бывшего наркома. Однако «признательные» показания Николая Васильевича появились в деле только 3 февраля 1938 года, причем даже не оформленные официальным протоколом. Это было заявление Крыленко, адресованное наркому внутренних дел Н. И. Ежову и написанное на разрозненных листках бумаги. Текст был такой: «Я признаю себя виновным в том, что с 1930 года я являюсь участником антисоветской организации правых. С этого же года начинается моя борьба с партией и ее руководством. Антипартайные шатания я проявил еще в 1923 году по вопросу внутрипартийной демократии. Если в этот период я из своих взглядов никаких организационных выводов не сделал, то внутреннее недовольство положением в партии не изжилось. Организационной связи с троцкистами я тогда не имел, организационной борьбы с партией не вел, но оставался человеком, оппозиционно настроенным на протяжении ряда лет…»
Далее он подробно излагал, в чем конкретно заключалась его «вредительская» деятельность. Свое заявление закончил так: «Признаю целиком и полностью громадный вред, причиненный моей антисоветской деятельностью делу строительства социализма в СССР».
Несмотря на столь обширное заявление с признанием своей «вины», первый протокол допроса Н. В. Крыленко был оформлен лишь спустя два месяца, 3 апреля 1938 года. Он был отпечатан на машинке на двадцати шеста листах. И хотя после этого Николай Васильевич неоднократно вызывался к следователю, второй протокол допроса, теперь уже на тридцати листах, составлен лишь 28 июля 1938 года. Крыленко снова подтвердил свои признательные показания и даже назвал тридцать человек, якобы вовлеченных им в организацию правых.
Примерно за десять дней до окончания следствия его делом стал заниматься сотрудник госбезопасности Аронсон. Он заканчивал дело в спешке – видимо, поступило указание разобраться с Крыленко побыстрее. 28 июля 1938 года Аронсон предъявил ему обвинение в контрреволюционной деятельности, и в тот же день состоялось подготовительное заседание Военной коллегии Верховного суда СССР под председательством Ульриха. Обвинительное заключение, очевидно, было составлено загодя, так как Рогинский поставил на нем дату: «27 июля 1938 года».
Судебное заседание Военной коллегии Верховного суда СССР открылось 29 июля 1938 года в 13 часов 20 минут. На вопрос председателя Крыленко ответил, что виновным себя признает и показания, данные им на предварительном следствии, подтверждает. Он пояснил, что в 1936 году у него был разговор с Бухариным, во время которого они затрагивали вопросы терроризма. Бухарин его информировал о террористической деятельности правых и спрашивал его и Пашуканиса, что они делают. Он Бухарину ответил, что пока конкретно ничего не сделал, но если надо, то будет «работать» в этом направлении.
Больше Н. В. Крыленко никаких вопросов не задавали – сразу же предоставили последнее слово. Он сказал, что у него за плечами двадцать пять лет революционной работы и только восемь лет антисоветской деятельности, поэтому надеется на соответствующее решение суда.
И суд действительно не замедлил дать ответ. Уже через несколько минут Ульрих объявил приговор: высшая мера наказания – расстрел с конфискацией имущества. Заседание продолжалось всего двадцать минут и закрылось в 13 часов 40 минут. Приговор был приведен в исполнение в тот же день.