Лагеря для военнопленных были помещены под контроль армии, и можно было надеяться, что Верховное командование настоит на соблюдении международных норм и обеспечит «защиту» иностранных офицеров и солдат, оказавшихся в его власти. Но эти нормы подверглись серьезным нарушениям, и гестапо сумело проникнуть в эту сферу деятельности. Верховное командование не только не восстало против этого вторжения, но даже активно сотрудничало с Гиммлером и его агентами. Это стало логическим завершением эволюции, начало которой было положено «пониманием», проявленным военными по отношению к погромам и злоупотреблениям в самой Германии, а затем по отношению к деятельности оперативных групп. Таким образом, Генеральный штаб постепенно начал допускать и признавать самые подлые убийства и даже ввел эти методы в собственную деятельность.
Первые такие меры использовали против советских военнопленных. В начале июля 1941 года на совещании собрались: начальник административной службы при Верховном командовании вермахта генерал Рейнеке; Бройер, представитель службы, занятой военнопленными; Лахузен, представитель Канариса и абвера; Мюллер, шеф гестапо, в качестве представителя РСХА. На этой встрече были приняты решения, проведение которых в жизнь было поручено Мюллеру. Они руководствовались директивами, принятыми для борьбы на Востоке.
В тексте, опубликованном 8 сентября 1941 года, говорилось: «Большевик утратил всякое право на обращение как с уважаемым противником согласно Женевской конвенции… Необходимо отдать приказ действовать безжалостно и энергично при малейшем признаке неподчинения, в частности, когда речь идет о большевистских фанатиках. Неподчинение и сопротивление, активное или пассивное, должны быть немедленно сломлены силой оружия (штыком, прикладом или огнестрельным оружием). Те, кто попытается выполнить этот приказ, не используя оружие или с недостаточным рвением, должны подвергнуться наказаниям… По военнопленным, которые пытаются бежать, следует стрелять без предупреждения. Не должно быть никаких предупредительных выстрелов… Использование оружия по отношению к военнопленному является законным».
Для исполнения новых распоряжений по военнопленным в гестапо была создана специальная группа IV А, возглавляемая гауптштурмфюрером СС Францем Кёнигсхаусом. В начале 1943 года эта группа была присоединена к подгруппе IV Б 2а, возглавляемой штурмбаннфюрером СС Хансом Хельмутом Вольфом.
Эта служба направляла инструкции представителям гестапо, уже имевшимся во всех лагерях. На самом деле агенты гестапо и СД были назначены во все лагеря для военнопленных, где в основном скрывались на фиктивных должностях. Мюллер в своей директиве от 17 июля 1941 года предписывал им выявлять «все политические, уголовные и другие по каким-либо причинам нежелательные элементы», а также «всех лиц, которые могли бы быть использованы для возрождения оккупированных территорий», с целью устранить их или подвергнуть «специальному лечению». Одновременно этот приказ рекомендовал агентам подбирать среди пленных тех, кто «заслуживает доверия», с целью использовать их для внутреннего шпионажа по лагерю, чтобы с их помощью обнаружить подлежащих немедленному уничтожению противников. Методы гестапо не отличались разнообразием.
Как писал Розенберг, судьба советских военнопленных в Германии была ужасно трагичной. Большинство участников последней войны, познавших, что такое германский лагерь для военнопленных, сохранили воспоминания о том, как осенью 1941 года прибывали колонны советских военнопленных, изможденных и исхудалых, шатающихся от усталости и голода. До места они двигались пешком, иногда сотни километров. Подвергаясь самому ужасному обращению, несчастные тысячами умирали от голода и физического истощения на обочинах дорог. Выживших после этих кошмарных походов размещали в раздельных загонах. Приказом Гиммлера от 22 ноября 1941 года предписывалось: «Любой советский военнопленный, которого возвратят в лагерь после попытки к бегству, в обязательном порядке должен быть передан ближайшей службе гестапо», что было равносильно немедленной казни.
В 1941 году 2 тысячи советских военнопленных интернировали в лагерь Флоссенбург. Из них выжили только 102 человека. Более 20 тысяч военнопленных были уничтожены в лагере Освенцим.