Первыми заместителями Абакумова были генерал-лейтенант Исай Яковлевич Бабич, который встретил войну заместителем начальника Особого отдела Северо-Западного фронта, и генерал-лейтенант Николай Николаевич Селивановский, до этого начальник Особого отдела Сталинградского фронта.
В центральном аппарате СМЕРШ служило 646 человек. Размещались сотрудники в доме номер 2 на площади Дзержинского на четвертом и седьмом этажах.
Офицеры СМЕРШ получали такие же продовольственные и промтоварные карточки, как и армейские офицеры, вспоминает генерал госбезопасности Борис Гераскин, который начинал службу под началом Абакумова. Карточки отоваривались в магазинах на Кузнецком мосту и на улице Горького. Обедали офицеры по талонам в ведомственной столовой на Малой Лубянке.
Весной 1944 года молодой контрразведчик Гераскин докладывал лично Абакумову: «В большом, обшитом деревом кабинете возле письменного стола стоял Абакумов. Запомнилось его крепкое телосложение, правильные черты лица, высокий лоб и темные волосы гладко зачесанные назад. На нем ладно смотрелась серая гимнастерка и синие бриджи с лампасами, заправленные в сапоги. Пальцы обеих рук он держал за широким военным ремнем…»
Абакумов получал от особых отделов фронтов отчеты о допросах пленных немцев, анализ захваченных на поле боя писем, адресованных немецким солдатам из дома, офицерских дневников. Особые отделы выбирали исключительно негативную информацию о состоянии немецкой армии и положении в Германии. Абакумов усиливал эти акценты и отправлял спецсообщения членам политбюро. Эти сообщения годились для пропаганды, но создавали искаженное представление о реальном состоянии немецкой армии и настроениях в Германии…
О своей работе в СМЕРШ мне подробно рассказывал Николай Николаевич Месяцев, который после войны был секретарем ЦК комсомола, работал в ЦК, возглавлял телевидение и был послом в Австралии.
В 1941 году он окончил Военно-юридическую академию Красной армии (морской факультет) и был назначен младшим следователем Третьего (контрразведывательного) управления наркомата военно-морского флота, а затем следователем Управления особых отделов НКВД СССР. Два года служил в отделе контрразведки СМЕРШ 5-й гвардейской танковой армии. А после войны — еще полгода в Главном управлении контрразведки СМЕРШ.
— Я доволен тем, что мне пришлось пройти школу контрразведки СМЕРШ, — рассказывал Николай Месяцев. — Почему? Во-первых, я был на пике борьбы во время Великой Отечественной войны — на пике борьбы двух мощных разведок и контрразведок, нашей и германской. Во-вторых, я научился разбираться в человеческой натуре. Можете мне не верить, но, когда я распрощался с органами, мне иногда было неудобно разговаривать с людьми. Я видел, что человек говорит неправду, я чувствовал. Мой профессиональный опыт позволял слышать шорох скрытых мыслей сидящего передо мной…
К сожалению, даже в центральном аппарате контрразведки СМЕРШ было недостаточно людей с юридической подготовкой. На местах тоже. Составлялись протоколы, вызывавшие смех. Например, начальник контрразведки Кронштадтской военно-морской базы допрашивает, скажем, Иванова. И записывает в протокол: «Иванов (т. е. арестованный) странно реагировал на мои патриотические убеждения. Смотрел в сторону и двусмысленно произносил: „М-да…“» И вот это расценивалось как антисоветские настроения…
— Или попалось мне дело одного журналиста из газеты «Морской флот», — вспоминал Месяцев. — Симпатичный мужик. Никакой там антисоветчины не было. Болтнул что-то «под мухой», его агентура зацепила, и все. Я разобрался, освободили… Некоторые начальники увлекались незаконными арестами, приходилось серьезно поправлять.
Тактика вражеской разведки состояла в том, чтобы организовать массовую заброску своей агентуры за линию фронта. Немцы доводили пленных до такого состояния, когда человек ломался и давал согласие на вербовку. Как правило, вербовка под таким диким нажимом не приносила им успеха. Люди переходили линию фронта и сразу все нам рассказывали. Лучших своих агентов немцы готовили в разведывательных школах — и тех, кто должен был немедленно включиться в работу, и тех, кто должен был вживаться и, только через некоторое время начать действовать.
Подготовленная в Борисовской разведшколе агентура попадала в нашу армию и в наши тылы. И мы знали эту школу, следили за ее передвижениями, за ее агентурой. Знали манеру работы этой агентуры — то, что называется «почерком агента». Однажды во время боев мы взяли в плен Владимира Трясова, который признался, что был завербован немцами и учился в Борисовской школе. В тот момент она находилась в небольшом городке на берегу Вислы.
Договорились с командованием, была разработана операция, чтобы стремительным ударом захватить этот городок. Нам удалось взять все документы, но агентура ушла. Когда ворвались в разведшколу, Трясов говорит:
— Капитан, вот здесь я спал.
Я говорю:
— Мне не важно, где ты спал, нужна канцелярия.