Ожидавшие быстрой и решительной победы немцы не готовили свою армию к выполнению оккупационных функций в России. Когда же потребность в оккупационных войсках стала очевидной, для этого было решено использовать резервные части, поскольку боевые дивизии находились на фронте. Начиная с марта 1941 года было сформировано девять (в дальнейшем 14) дивизий (52, 201,203, 207,213,221, 281,285,286, 390,391, 403, 444 и 454). укомплектованных резервистами средних возрастов. В каждой дивизии было по два полка внутренних войск, «восточный батальон» и батальон немецкой полиции. На западе Украины действовал венгерский оккупационный корпус, насчитывавший пять (в дальнейшем 14) дивизий. На юге Украины оккупационные функции выполняли румынские и словацкие части.
Разумеется, эти наспех созданные формирования не смогли сдержать роста партизанского движения, поэтому в 1942 году к ним присоединились пять резервных дивизий (141, 143, 147, 151 и 153). Эти дивизии укомплектовывались необученными призывниками, которые проходили военную подготовку, ведя борьбу с партизанами. Затем к этим силам добавили семь учебных дивизий (52, 154, 381, 382, 388, 390 и 391), личный состав которых уже был достаточно обучен. Но сил все равно не хватало, поэтому при необходимости к антипартизанским операциям привлекались 18-летние юнцы, отбывавшие полугодичную трудовую повинность в рядах Reicharbeitsdienst.
В июне 1942 года немецкие полицейские батальоны были сведены в моторизованные полицейские полки (в феврале 1943 года превращенные в полицейские полки СС). В каждом полку было по три-четыре батальона, а также роты связи, бронеавтомобилей и истребителей танков. 14 полицейских полков служсило в России (2, б, 9-11,13–17,22,24,26 и 38). Семь полицейских стрелковых полков было укомплектовано как немцами, так и русскими (31, 33–38).
Служба безопасности (СД) Гейдриха (Heydrich) сформировала четыре действующие группы (Einsatzgruppen A-D). Каждая группа насчитывала около 1000 человек, была укомплектована кадрами СД и дополнена немецкими и русскими полицейскими, а также эсэсовцами. Каждая группа подразделялась на несколько айнзатцкоманд. Эти команды печально прославились своей жестокостью.