Там Абакумов проявил политическую безграмотность, но отделался только переводом из членов партии в кандидаты. Затем попался на использовании конспиративных квартир
Она ответила, что ничего не знает, а рапорт составлял Виктор Семёнович и просил её подписать. Далее мне без особого труда удалось установить, что у неё с Абакумовым сложились интимные отношения с самого начала «работы». При проверке двух других «завербованных» Абакумовым девиц картина оказалась такой же».
На юридическом языке это называется… нехорошо. На этом служба Абакумова в экономическом отделе закончилась. Шрейдер потребовал увольнения молодого оперативника, но у него оказались могущественные покровители. Из экономического отдела его убрали, но перевели инспектором в ГУЛАГ.
Кто был покровителем Абакумова, неясно, возможно, это был один из руководителей Октябрьской революции, старый большевик Николай Подвойский. Шрейдер вспоминал: «Мне позвонил первый заместитель полпреда ОГПУ Московской области Дейч и порекомендовал мне «хорошего парня», который не сработался с начальником 5‐го отделения. Хотя он «звёзд с неба не хватает», но за него «очень-очень просят», и добавил, что Абакумов чуть ли не приёмный сын одного из руководителей Октябрьского восстания — Подвойского».
Приёмным сыном Подвойского Абакумов не был, однако близкие связи с ним имел. ОГПУ возглавлял Ягода, который до революции работал в непосредственном подчинении у Подвойского и мог ходатайствовать за Абакумова. В ГУЛАГе он пробыл недолго и вернулся сразу в секретно-политический отдел, где в его карьере начались чудеса. Несмотря на постоянные «чистки» в НКВД, Абакумов шел на повышение.
Сразу после прихода Берии в декабре 1938 года он назначается главой НКВД Ростовской области. Затем в тридцатилетнем возрасте становится заместителем наркома государственной безопасности. В июле 1941 года, сразу же после начала войны, он возглавляет военную контрразведку, став начальником Управления особых отделов, которое через два года было преобразовано в СМЕРШ.
Этому способствовали действительно выдающиеся профессиональные качества и организаторские способности Абакумова, или ему просто везло. Не мешали даже сомнительные по тем временам родственные связи. Протодиакон московского храма Святителя Николая отец Иаков был Виктору Абакумову родным братом. Отцом жены Абакумова был знаменитый в 20‐х годах фокусник и гипнотизер Николай Смирнов, выступавший под псевдонимом Орнальдо, который вдохновил Булгакова на создание сцены в варьете в «Мастере и Маргарите».
Берия привёл в НКВД своих людей. Начальником Абакумова в отделе был близкий соратник Берии Богдан Кобулов, который искал, на кого можно опереться. Он проверил Абакумова и посоветовал шефу его как надёжного человека, и за пять лет Абакумов продвинулся от оперуполномоченного до заместителя министра, от старшего лейтенанта до генерал-майора в 1941 году.
В годы Великой Отечественной войны он приблизился к Сталину, докладывая ему не только о деятельности особых отделов, а потом и СМЕРШа, но и о настроениях высшего командного состава. Это делало его более ценным для вождя, чем информация Меркулова и Берии, потому что объясняла Сталину, в чём были причины первых неудач — действительно ли так хороши были немцы или так плохи советские военачальники, которые сознательно вредят?
Однако Управление особых отделов организационно входило в НКВД и подчинялось Берии. Поэтому Сталин приказом от 19 апреля 1943 года на базе управления создал СМЕРШ во главе с Абакумовым, который был выведен из состава НКВД и переподчинен только Наркомату обороны, который возглавлял Сталин. Для Берии, чтобы не обижался, создали свой второстепенный СМЕРШ в рамках НКВД.
Абакумов регулярно ходил к нему с докладами, но фактически вышел из-под контроля Берии. В мае 1943 года он продемонстрировал свою самостоятельность, лично арестовав подчинённого Берии комиссара госбезопасности Ильина, не предупредив об этом Берию. Ильина несколько лет держали на Лубянке, не позволяя чекистам допрашивать его в собственной тюрьме.
Поэтому, когда после войны главные функции перешли от МВД к МГБ (контроль за правительственной связью, внутренними и пограничными войсками), а разведку от МГБ передали в Комитет информации при Совмине во главе с Молотовым, то руководителем МГБ вместо Меркулова стал Абакумов. Но сразу после этого начались разборки между кланами в спецслужбах СССР.