Органы НКВД составили справку на его арест еще 15 декабря 1937 года, но выжидали. Ход ей был дан только после окончания сессии. В ней отмечалось, что Крыленко «является активным участником антисоветской организации правых и организованно был связан с Бухариным, Томским и Углановым. С целью расширения антисоветской деятельности насаждал контрреволюционные кадры правых в наркомате. Лично выступал в защиту участников организации и проталкивал буржуазные теории в своей практической работе». Далее указывалось, кем именно он изобличается. Из приведенных высказываний усматривалось следующее. Н. В. Крыленко считал, например, что ЦК пытается обмануть страну, скрывая истинное положение дел, что руководство страной и партией оказалось в руках людей, не понимающих значение закона и свое усмотрение ставящих выше закона, что страна быстро катится к личному режиму и крепко заинтересована в скорейшей смене этого руководства. Сталина Н. В. Крыленко называл диктатором, загнавшим страну в тупик, и считал, что он должен быть снят с поста Генерального секретаря.
31 января 1938 года нарком внутренних дел Н. И. Ежов начертал на этой справке лаконичную резолюцию: «Арестовать». В тот же день его заместитель Фриновский подписал ордер на арест Н. В. Крыленко и на производство у него обыска.
В ночь на 1 февраля 1938 года Николая Васильевича арестовывают в своей квартире в доме № 25 по Новинскому бульвару. Так начался непродолжительный, но самый трагичный период его жизни.
Следствием по делу Н. В. Крыленко занимался сотрудник госбезопасности Коган. Он и произвел первый допрос бывшего наркома. Однако «признательные» показания Николая Васильевича появились в деле только 3 февраля 1938 года. Причем они даже не были оформлены официальным протоколом. Это было заявление Крыленко, адресованное наркому внутренних дел Н. И. Ежову и написанное на разрозненных листках бумаги. В нем он писал: «Я признаю себя виновным в том, что с 1930 года я являюсь участником антисоветской организации правых. С этого же года начинается моя борьба с партией и ее руководством. Антипартийные шатания я проявил еще в 1923 году по вопросу внутрипартийной демократии. Если в этот период я из своих взглядов никаких организационных выводов не сделал, то внутреннее недовольство положением в партии не изжилось. Организационной связи с троцкистами я тогда не имел, организационной борьбы с партией не вел, но оставался человеком оппозиционно настроенным на протяжении ряда лет…»
Далее он подробно излагал, в чем конкретно заключалась его «вредительская» деятельность. Свое заявление закончил так: «Признаю целиком и полностью громадный вред причиненный моей антисоветской деятельностью делу строительства социализма в СССР».
Несмотря на столь обширное заявление с признанием своей «вины», первый протокол допроса Н. В. Крыленко был оформлен лишь спустя два месяца, 3 апреля 1938 года. Он был отпечатан на машинке на 26 листах. И хотя после этого Николай Васильевич неоднократно вызывался к следователю, второй протокол допроса (машинописный текст составил 30 листов) датирован лишь 28 июля 1938 года. Крыленко придерживался своих признательных показаний и даже назвал 30 человек, которых он якобы вовлек в организацию правых.
Примерно за 10 дней до окончания следствия его делом стал заниматься сотрудник госбезопасности Аронсон. Он заканчивал дело сверхспешно (видимо, поступило такое указание). 28 июля 1938 года Аронсон предъявил Крыленко обвинение в контрреволюционной деятельности и в тот же день состоялось подготовительное заседание военной коллегии Верховного суда СССР под председательством Ульриха (обвинительное заключение было составлено загодя, так как Рогинский поставил на нем дату: «27 июля 1938 года»).
Судебное заседание военной коллегии Верховного суда СССР открылось 29 июля 1938 в 13 часов 20 минут. На вопрос председательствующего Н. В. Крыленко ответил, что виновным себя признает и показания, данные им на предварительном следствии, подтверждает. Он пояснил, что в 1936 году у него был разговор с Бухариным, во время которого затрагивались вопросы террористического порядка. Бухарин его информировал о террористической деятельности правых и спрашивал его и Пашуканиса, что они делают. Он Бухарину ответил, что пока конкретно им ничего не сделано, но если надо будет, то будет «работать» в этом направлении.
Больше Н. В. Крыленко никаких вопросов не задавали, а сразу же предоставили последнее слово. Он сказал, что у него имеется 25 лет революционной работы и только 8 лет антисоветской деятельности и на этом сопоставлении суд своим решением даст соответствующий ответ.