В конце 40-х годов над головой Шейнина начали сгущаться тучи. В 1949 году его неожиданно освободили от должности, не объяснив причин. Шел только разговор о назначении его директором института криминалистики. Шейнин сидел дома, писал рассказы, пьесы, сценарии. Выжидал, особенно не высвечивался, но при случае всегда «зондировал» почву. О том, что затевается, он не только догадывался, но и знал наверняка. На одной из многочисленных вечеринок, на которых бывал Шейнин, подвыпивший сотрудник очень важных органов сболтнул: «Эх, Лева, Лева, старый уголовник, умная у тебя башка, а все же мы за тебя взялись». А незадолго до ареста один знакомый драматург поведал Шейнину о своем разговоре с сотрудником госбезопасности. Тот рекомендовал ему держаться подальше от Шейнина, так как его «выгнали из прокуратуры по настоянию МГБ, а скоро вообще посадят». В это время, особенно после гибели Михоэлса, власти усиленно будировали так называемый «еврейский вопрос». Для того чтобы его «раскрутить», требовалось найти «заговорщиков». Вот тут-то как нельзя кстати и подвернулся Шейнин. Прокурорский работник, литератор, имевший обширные связи, особенно в еврейской среде, лучше всего подходил на активную роль заговорщика. К тому же было известно, что Шейнин, осторожный и хитрый, обладавший удивительной изворотливостью (о себе, по словам свидетелей, он говаривал так: «Как ни говорите, а Левчик — это умная еврейская голова»), был изрядно труслив. Многие знали, что этот «любитель ночных бдений», сам панически боялся допросов с пристрастием. Анатолий Антонович Волин, хорошо знавший Шейнина, который не раз дарил ему свои книги с теплыми надписями, рассказывал авторам, что Шейнин был человек «нестойкий по характеру», «ненадежный», способный изменить в любой момент.
Лев Шейнин был арестован 19 октября 1951 года. Постановление утвердил министр госбезопасности Игнатьев, арест санкционировал Генеральный прокурор Союза Сафонов. В дальнейшем роль прокуратуры в его деле была символической — лишь ежемесячное санкционирование продления срока следствия и один-два допроса помощником военного прокурора. Можно сказать, что Прокуратура СССР бросила на произвол судьбы своего бывшего сотрудника, отдавшего нелегкой следственной работе более 27 лет жизни. Шейнин связывал свой арест с происками Абакумова (хотя тот к этому времени уже содержался в тюрьме).
Когда в январе 1949 года сгорела дача Ворошилова, Шейнин со своей командой занимался расследованием. Была установлена халатность органов госбезопасности, охранявших объект, и виновных отдали под суд. После этого, встретившись с Шейниным, Абакумов в ироническом и угрожающем тоне произнес: «Все ищешь недостатки в моем хозяйстве, роешься... Ну, старайся, старайся...»
В постановлении на арест Шейнина указывалось: «Шейнин изобличается в том, что, будучи антисоветски настроен, проводил подрывную работу против ВКП(б) и Советского государства. Как установлено показаниями разоблаченных особо опасных государственных преступников, Шейнин находился с ними во вражеской связи и как сообщник совершил преступления, направленные против партии и Советского правительства».
Самым загадочным в деле Шейнина является то, что оно «тянулось» два года. Многие другие более сложные дела заканчивались значительно быстрее. Допросы следовали за допросами, иногда они перемежались очными ставками, дело пухло и к концу уже насчитывало семь огромных томов. Занимались Шейниным в разное время семь старших следователей следственной части по особо важным делам МГБ (после марта 1953 года — МВД СССР). Его допрашивали не менее 250 раз, большей частью ночью (как правило, допросы начинались в 9—10 часов вечера и заканчивались далеко за полночь). Более года держали в одиночке, иногда в наказание «за провинности» лишали прогулок, книг, передач, во время допросов нередко шантажировали, оскорбляли, грозили побоями. Однажды его даже заковали в наручники и не снимали их в течение шести дней. Все это довело Шейнина до такого состояния, что к концу следствия, по его собственному признанию, запас его «нравственных и физических сил был исчерпан».