Отдел "Валли-I" всегда располагался в непосредственной близости от ставки верховного командования на германо-советском фронте. Отделу "Валли-I", как и другим отделам "Валли", были подчинены соответствующие фронтовые абверкоманды (при штабах групп армий) и абвергруппы при входящих в их состав армиях, различавшиеся условной нумерацией (абверкоманды 101, 201, 301, абвер группы 105,106, 201 и т.д.). Оперативная связь отделов "Валли" с подчиненными абверкомандами и абвергруппами поддерживалась по радиоканалам.
Именно эти абверкоманды и абвергруппы, с приданными им специальными разведывательными школами для подготовки агентуры, в начале войны были основными органами военной разведки на германо-советском фронте. С конца 1941 г. разведывательные школы абвера по подготовке разведчиков, диверсантов и радистов, в том числе и из числа советских военнопленных, стали создаваться и на территории оккупированных областей Советского Союза - так называемые Борисовская (с августа 1941 г. при абверкоманде 103), Смоленская (с декабря 1941 г. при абверкоманде 203), а также в местечках Валга (Латвийская ССР, с октября 1941 г. при абверкоманде 104), Мыза Кумна (Эстонская ССР, с декабря 1941 г. при АНСТ "Ревал). Разведывательно-диверсионные школы для пополнения агентуры абвера открывались и позднее. Помимо этого, в непосредственном подчинении "Штаба "Валли" находились Варшавская разведшкола (с октября 1941 г. до июля 1943 г., в дальнейшем передислоцировалась на запад, одновременно обучение проходили до 350 курсантов), а также разведшколы в местечках Нойгоф и Нидерзее.
Задачей отдела "Валли-II" (до 1943 г. он постоянно дислоцировался в местечке Сулеювек под Варшавой) являлось руководство и координация диверсионной и террористической деятельности соответствующих абверкоманд и подчиненных им абвергрупп.
Задачами отдела "Валли-III" являлась руководство выявлением на оккупированных территориях советских патриотов, организаций сопротивления, антифашистского подполья и партизанских формирований.
Всего на германо-советском фронте действовали: шесть разведывательных абверкоманд (от 101-й до 106-й), в подчинении которых находилось 3 - 6 абвергрупп. Так, в подчинении абверкоманды 101 находились группы 101, 102, 103, 114 и 143; в подчинении абверкоманды 102 - абвергруппы 104, 105, 106, 169, 173 и Полтавская разведшкола. Последняя была организована в начале 1942 г. В 1942 - 1943 гг. органами НКВД были арестованы 127 ее выпускников, при этом 59 из них добровольно явились с повинной в органы контрразведки.
При штабах армий на германо-советском фронте также действовали 6 диверсионных абверкоманд (от 201-й до 206-й), в подчинении каждой их которых находилось от 2 до 6 абвергрупп. Абвергруппа 214 действовала в Финляндии при 20-й армии вермахта, вела разведывательную и диверсионную деятельность против советских Карельского и Ленинградского фронтов.
Также на временно оккупированных территориях СССР действовали и пять контрразведывательных абверкоманд (301 - 305), в подчинении каждой из которых имелось от трех до восьми абвергрупп, которые придавались армиям, а также тыловым комендатурам и охранным дивизиям. Их основными задачами являлись борьба с советской разведкой, разведгруппами и разведчиками-одиночками, группами сопротивления, а также контрразведывательная работа среди местного населения и в лагерях советских военнопленных.
Совместно с абверкомандами и абвергруппами "Валли - III" действовали также группы тайной полевой полиции (ГФП; всего на германо-советском фронте их было 23), а также группы СД и полиции безопасности. По местам дислокации абверкоманды и группы создавали агентурные сети и местных жителей. Проверенных в работе агентов при эвакуации контрразведывательные подразделения передавались разведывательным абвергруппам.
Однако масштаб, размах и сила сопротивления гражданского населения захваченных вермахтом территорий оказались совершенно неожиданным для Абвера.
В этой связи, а также ввиду очевидности провала как стратегии "блицкрига", так и усилий контрразведывательных органов Абвера и отдела "Валли-III" в частности, в марте 1942 г. в помощь ему при отделе "Валли-I" был создан "Зондерштаб "Р" ("Особый штаб "Россия"), призванный руководить агентурной работой по выявлению антифашистского подполья, групп сопротивления и партизанских отрядов на оккупированных территориях СССР. Штаб дислоцировался в Варшаве, его резидентуры действовали в Пскове, Киеве, Минске и Симферополе. Руководящий состав "Зондерштаба "Р" состоял главным образом из белоэмигрантов (членов НТСНП ) и изменников Родине. Помимо первоначальных задач, "Зондерштаб "Р" позднее стал принимать активное участие в создании диверсионно-разведывательных сетей на оставляемых вермахтом захваченных советских территориях.