С 1 марта 1944 года управление располагало Высшей школой контрразведки (ВШК). Во главе УКР “СМЕРШ” НКВМФ стоял П. А. Гладков, ОКР Балтийского флота возглавлял В. В. Виноградов, Северного флота — А. М. Кириллов (по ноябрь 1944 года), позднее — И. И. Гончаров, Черноморского флота — Н. Д. Ермолаев, Тихоокеанского флота — Д. П. Мерзленко. Местными органами УКР являлись отделы контрразведки флотов и флотилий, ВВС, эскадр кораблей, оборонительных районов, военно-морских баз, бригад кораблей, укрепленных секторов, военно-морских учебных заведений и других соединений и учреждений ВМФ. В непосредственном подчинении Центра находились ОКР флотов и флотилий, у тех, в свою очередь, — ОКР военно-морских баз, эскадр, частей береговой обороны и учебных заведений. Еще ниже в иерархии стояли уполномоченные “СМЕРШ” на кораблях.
Следует особо остановиться на таком нечасто упоминаемом органе военной контрразведки, как ОКР “СМЕРШ” НКВД СССР, в компетенцию которого входило контрразведывательное обеспечение учреждений наркомата внутренних дел и подчиненных ему войск. НКВД и его войска являлись весьма привлекательными объектами для спецслужб противника и потому требовали принятия особых мер по противодействию им. Кроме того, в задачи ОКР “СМЕРШ” НКВД как и любого другого военного контрразведывательного органа, входила работа по обеспечению боеготовности войск наркомата. Строго говоря, в первую очередь он выполнял функции службы внутренней безопасности ведомства, и уже затем — собственно контрразведывательные функции. Отдел возглавлял начальник (до мая 1944 года С. П. Юхимович, позднее В. И. Смирнов), подчинявшийся непосредственном наркому внутренних дел. У него в подчинении имелись два заместителя и ряд структурных подразделений:
— Секретариат;
— Спецгруппа;
— Группа оперативного учета;
— 1-е отделение (агентурно-оперативная работа по центральным направлениям войск НКВД);
— 2-е отделение (руководство агентурно-оперативной работой отделов “СМЕРШ” в охране войскового тыла фронтов);
— 3-е отделение (руководство агентурно-оперативной работой отделов “СМЕРШ” в пограничных войсках);
— 4-е отделение (руководство агентурно-оперативной работой отделов “СМЕРШ” во внутренних войсках, железнодорожных, промышленных, конвойных войсках НКВД и МПВО);
— 5-е отделение (следственное);
— 6-е отделение (организационно-мобилизационное).
Периферийные органы ОКР “СМЕРШ” НКВД имели специфическую структуру. Поскольку наркомат внутренних дел являлся союзно-республиканским, отделы “СМЕРШ” в союзных и автономных республиках подчинялись не московским контрразведчикам, а соответствующим местным наркомам НКВД. Аналогичной была ситуация с отделениями “СМЕРШ” в краях и областях, находившимися в подчинении начальников УНКВД. Зато войсковые подразделения “СМЕРШ”, фактически представлявшие собой переименованные особые отделы и отделения соответствующих частей, соединений и объединений, имели центральное подчинение. В пограничных округах, отрядах, полках и отдельных комендатурах действовали отделы, отделения и группы “СМЕРШ”, а в дивизиях и бригадах остальных войсках НКВД — отделы и отделения. Последние постоянно реорганизовывались и переформировывались ввиду непрекращавшейся реорганизации войсковой структуры армии и наркомата внутренних дел и поэтому, вероятно, были наиболее нестабильными контрразведывательными подразделениями за весь военный период.
С. П. Юхимович
В. И. Смирнов
На момент формирования ОКР “СМЕРШ” НКВД подчинялись 12 ОКР “СМЕРШ” охраны тыла фронтов, 2 ОКР “СМЕРШ” округов внутренних войск. 10 ОКР “СМЕРШ” пограничных округов, самостоятельные отделы ОКР “СМЕРШ” 1-й мотострелковой дивизии НКВД и ОМСБОН, а также 4 ОКР “СМЕРШ” в наиболее важных в военно-промышленном отношении областях (Московской, Куйбышевской, Новосибирской и Свердловской). На момент окончания войны число ОКР “СМЕРШ” округов внутренних войск увеличилось до 7, пограничных округов — до 18, ОКР “СМЕРШ” ОМСБОН в связи с расформированием бригады был ликвидирован. Были созданы ОКР “СМЕРШ” НКВД по охране тыла и коммуникаций на территории Румынии и Венгрии, а также ОКР “СМЕРШ” группы советских войск в Германии, Польше, Венгрии и Австрии. Число ОКР “СМЕРШ” войск по ОТ ДКА постоянно менялось вслед за созданием и ликвидацией фронтов, в том числе и на Дальнем Востоке.