В конце 1951 года Рюмин на докладе у Сталина высказал сомнения по поводу работы прокуратуры, мол, им вряд ли удастся размотать дело Абакумова.
— Они — чекисты, — размышляя, отвечал вождь. — От них уговорами ничего не добьешься, их надо… — и он несколько раз ударил ребром ладони по столу.
Став заместителем министра, курировавшего следствие в МГБ, Рюмин утвердил (22 февраля 1952 г.) постановление, «согласно которому расследование уголовного дела Абакумова» было передано в министерство государственной безопасности. После чего Абакумова и других арестованных очень скоро перевезли из Матросской Тишины в Лефортово. Там Виктора Семеновича заковали в кандалы. Но и это было еще не все.
Арестованных круглые сутки держали в наручниках, допрашивали без сна и били в кровь. Били в кабинете № 65 Лефортовской тюрьмы только тех, кто был неразговорчив. «Однако избитый в кровь, изувеченный Абакумов ни в чем не признался».
К. Столяров пишет: «От Абакумова добивались выдачи связей с иностранными спецслужбами. На ежедневных допросах его обвиняли в том, что он был "прислужником вражеских разведок", предлагали не увиливать, а говорить, что заставляло его "так старательно служить англичанам и американцам", и однажды заявили: "Установлено, что вредительски-подрывную работу вы проводили и в военной контрразведке. Абакумов, прекратите лгать и раскрывайте ваши подлинные вражеские замыслы!" У изнуренного пытками Абакумова хватило сил усмехнуться и спросить: "Что же я, по-вашему, и на немцев работал?"»
Спровоцировав невиданную перетряску на Лубянке, «дело врачей», начиная с 1952 года, разрабатывалось органами МГБ под руководством М.Д. Рюмина. Вождь ежедневно читал протоколы допросов. Он требовал от МГБ максимальной разработки версии о сионистском характере заговора и о связях заговорщиков с английской и американской разведкой через «Джойнт» (сионистская благотворительная организация).
В сентябре 1952 года с помощью избиений от бывшего заместителя начальника следственной части МГБ полковника Л.A. Шварцмана были получены «важные» показания на Кагановича, Хрущева, Меркулова, Кобулова, Мамулова и ряда других соратников Сталина и Берия. Но самыми важными для советского руководства были признания Шварцмана о том, что он якобы готовил террористические акты против Маленкова и что о его планах знали Абакумов, Райхман, Палкин, полковник Л.Е. Иткин — начальник следственного отдела Управления контрразведки Московского военного округа, Эйтигон и прокурор Дорон. Показания Шварцмана оказались настолько своевременными, что само дело Абакумова впредь стало именоваться делом Абакумова — Шварцмана.
«По мнению бывшего руководителя государственной архивной службы Российской Федерации профессора Р.Г. Пихоя, Сталин лично руководил следствием и определял степень виновности того или иного участника "заговора". На полях дела есть его пометки: "Абакумов и Власик отдали Тимашук на расправу иностранным шпионам-террористам Егорову, Виноградову, Василенко, Майорову". Или: "Он (Жданов) не просто умер, а был убит Абакумовым", — пишет Я. Этингер.
3 ноября 1952 года Рюмин утвердил постановление о предъявлении дополнительного обвинения: «Принимая во внимание, что следствием по делу Абакумова собраны доказательства, изобличающие его в том, что он:
а) вынашивал изменнические замыслы и, стремясь к высшей власти в стране, сколотил в МГБ СССР преступную группу из еврейских националистов, с помощью которых обманывал и игнорировал ЦК КПСС, собирал материалы, порочащие отдельных руководителей Советского правительства, а также отгораживал чекистский аппарат от руководящих партийных органов;
б) опираясь на своих сообщников, проводил вредительскую подрывную работу в области контрразведывательной деятельности…
— дополнительно предъявить Абакумову Виктору Семеновичу обвинение в совершении преступлений, предусмотренных ст. 58—7, 58—8, и 58–11 УК РСФСР».
В Лефортовской тюрьме было холодно. Абакумова лишили прогулок, ларька, книг, а кормили, как выразился И.А. Чернов, «впроголодь». Он же вспоминал: «Был у них отработан садистский прием — перевернут тебя на спину, снимут брюки, раздвинут ноги и давай хлестать сыромятной плетью. Боль невыразимая, особенно, если бьют с оттяжкой. После такой пытки я графин воды выпивал, жажда была — все внутри полыхало. Тут подпишешь даже то, что придушил собственную маму годика за три до своего рождения».
С февраля Виктора Семеновича, что называется, пропустили через Лефортовский конвейер: первые восемь дней держали в темной и холодной камере, а в течение месяца спать давали по часу-полтора в сутки.