К 1937 году РОВС имел 13 отделов, объединявших около 30 тыс. человек. Пристально следя за положением дел в РККА и за членами «подпольных структур в Советской России», военная эмиграция возлагала большие надежды на внутренний раскол в Красной Армии. Поэтому перед членами организации ставилась задача:
Одновременно один из руководителей мюнхенской организации «Ауфбау», белогвардейский генерал В. Бискупский был назначен нацистскими властями начальником Управления делами русской эмиграции в Германии. В 1938 году в самостоятельную организацию был выделен 2-й (германский) отдел, возглавляемый генерал-майором А.А. фон Лампе. Новая организация стала называться Объединением Русских Воинских Союзов. Фактически подменив собой РОВС, руководимое Лампе объединение стало центром русских военных организаций на территории Германии и оккупированных ею стран.
Позже, накануне нападения Германии на СССР, 21 мая 1941 года, фон Лампе обратился с письмом к главнокомандующему сухопутными силами вермахта фельдмаршалу Вальтеру фон Браухичу: «Мы твердо верим, что... германская армия будет бороться не с Россией, а с овладевшей ею... коммунистической властью. …И потому теперь... я ставлю себя и возглавляемое мной ОРВС в распоряжение Германского Верховного Командования». Поэтому известие о начале войны военная эмиграция встретила восторженно. Уже 6 июля 1941 года активисты Белой армии провели собрание, посвященное «военной борьбе Германии с иудобольшевизмом и начавшемуся освобождению русского народа от красного ига».
Однако, упоенные победами на Восточном фронте, в 1941 году немцы потеряли интерес к белогвардейским шакалам. И 1 августа Лампе получил ответ, гласивший, что «в настоящее время чины Объединения не могут быть применены в германской армии». Поэтому разочарованный генерал был вынужден объявить в своем приказе по ОРВС № 46 от 17 августа 1941 года: «Чины Объединения не связаны более... обязательством, предоставляю каждому право... послужить делу освобождения Родины – путем использования в индивидуальном порядке... возможностей».
Возможности оказались различными. Многим белогвардейцам удалось «примкнуть к германской армии в качестве переводчиков, специалистов военно-строительных и транспортных организаций (Тодта и Шпеера), инструкторов для работы с пленными красноармейцами, из числа которых формировались охранные и антипартизанские подразделения». Так, уже в июле 1941 года при штабе немецкой группы армий «Север» для сбора дополнительной информации о противнике был создан 1-й русский зарубежный батальон. Его организатором стал офицер императорской гвардии, начальник штаба Варшавского подотдела РОВСа штабс-капитан Б.А. Смысловский, служивший перед началом войны сотрудником Абвера в чине зондерфюрера «К» под псевдонимом фон Регенау. Только в одном «Русском охранном корпусе» в Сербии насчитывалось свыше 17 тысяч» белогвардейцев.
Однако после поражения под Москвой немцы уже не брезговали услугами предателей, готовых повоевать на Восточном фронте. Зимой 1941/1942 года берлинский эмигрант радиоинженер С. Н. Иванов (являвшийся перед войной в Германии представителем «Всероссийской национал-революционной партии») собрал инициативную группу «по формированию в прифронтовой полосе Русской национальной народной армии (РННА)». В марте 1942 года Иванов добился встречи с командующим группой армий «Центр» фельдмаршалом Г. фон Клюге и получил разрешение на набор в лагерях военнопленных для создания особой русской части. Идея заключалась в том, чтобы, выступив против Красной Армии, вызвать «массовый переход на свою сторону ее бойцов и командиров и создать армию, которая поведет борьбу за освобождение России от большевизма».
Однако представители Абвера унифицировали задачу. В целях разложения Красной Армии и организации перехода ее частей на сторону Вермахта они возложили на новую часть задачу подготовки и заброса в советский тыл диверсантов. Местом формирования «русского батальона специального назначения» – «подразделения Абвера 203» или «Граукопф» – стал расположенный близ Орши поселок Осинторф.