Для выполнения поставленных задач СМЕРШ создал и довел до совершенства систему слежки за военнослужащими и гражданским населением в тылу и на фронте. Для розыска агентуры противника работниками СМЕРШ активно использовались заградительные отряды. Накануне наступательных операций фронтов большой размах приобретали мероприятия, проводимые войсками НКВД по охране тыла, с участием органов СМЕРШ, по зачистке прифронтовой полосы от немецкой агентуры и антисоветского элемента. В частности, осуществлялось прочесывание населенных пунктов, лесных массивов, проводился осмотр нежилых помещений, заброшенных землянок и т. д. В ходе таких зачисток, как правило, задерживалось большое число лиц без документов, дезертиров, а также военнослужащих, имевших на руках документы, с признаками, указывающими на их изготовление в абвере.
Кроме очевидных успехов в борьбе против немецкой разведки, СМЕРШ приобрел в годы войны зловещую славу благодаря системе репрессий против мирного населения, которое находилось в оккупации на временно захваченной немецкими войсками территории или на принудительных работах в Германии.
В 1941 г. И.В. Сталин подписал постановление ГКО СССР о государственной проверке (фильтрации) военнослужащих Красной Армии, бывших в плену или в окружении войск противника. Аналогичная процедура осуществлялась и в отношении оперативного состава органов госбезопасности. Фильтрация военнослужащих предусматривала выявление среди них изменников, шпионов и дезертиров. Для тщательной проверки военнослужащих Красной Армии, находившихся в плену или в окружении противника, решением ГОКО № 1069 от 27 декабря 1941 г. в каждой армии были созданы армейские сборно-пересылочные пункты и организованы спецлагеря НКВД. Проверка находящихся в спецлагерях военнослужащих Красной Армии проводилась отделами контрразведки СМЕРШ при спецлагерях НКВД (в момент постановления это были особые отделы). В 1941—1942 гг. было создано 27 спецлагерей, но в связи с проверкой и отправкой проверенных военнослужащих на фронт они постепенно ликвидировались (к началу 1943 г. функционировало всего 7 спецлагерей).
По официальным данным в 1942г. в спецлагеря поступило 177081 бывших военнопленных и окруженцев. После проверки особыми отделами НКВД в Красную Армию было передано 150 521 человек. Цитата из справки: «...всего прошло через спецлагеря бывших военнослужащих Красной Армии, вышедших из окружения и освобожденных из плена, 354 592 человек, в том числе офицеров 50 441 человек. Из этого числа проверено и передано: а) в Красную Армию 249 416 человек, в том числе в воинские части через военкоматы — 231034, из них офицеров — 27 042, на формирование штурмовых батальонов — 18 382, из них офицеров — 16 163; б) в промышленность по постановлениям ГОКО — 30 749, из них офицеров — 29; в) на формирование конвойных войск и охраны спецлагерей — 5924... Арестовано органами СМЕРШ — 11 556, из них агентов разведки и контрразведки противника — 2083, из них — офицеров (по разным преступлениям) — 1284. Убыло по разным причинам за все время в госпитали, лазареты и умерло — 5347. Находятся в спецлагерях НКВД СССР в проверке 51 601, в том числе — офицеров 5657. Из числа оставшихся в лагерях НКВД СССР офицеров в октябре формируются 4 штурмовых батальона по 920 человек каждый...» (3:132—139).
Органы СМЕРШ осуществляли розыск, задержание и ведение следствия по делам советских граждан, действовавших в антисоветских вооруженных группах, воевавших на стороне Германии, таких как Русская освободительная армия. Постановлением СНК от 6 января 1945 г. при штабах фронтов начали функционировать отделы по делам репатриации, в работе которых принимали участие сотрудники органов СМЕРШ. Создавались сборно-пересыльные пункты для приема и проверки советских граждан, освобожденных Красной Армией. Сообщается, что с 1941 по 1945 г. органами СМЕРШ было арестовано около 700 000 человек, около 70 000 из них расстреляно (4).
СМЕРШ играл также большую роль в распространении сталинской системы террора на страны Восточной Европы, где установились дружеские к Советскому Союзу режимы. Например, сообщается, что на территории Польши и Германии после войны некоторые бывшие нацистские концлагеря продолжали функционировать под контролем СМЕРШ как место репрессий идеологических противников новых режимов (в качестве обоснования приводится информация, что в бывшем нацистском концлагере Бухенвальд еще несколько лет после войны содержалось свыше 60 000 противников социалистического выбора).