Наряду с военной разведкой органы службы безопасности СД создали свою мощную разведывательную сеть за границей, возглавляемую Гиммлером и Гейдрихом. От них решил не отставать Риббентроп, организовавший дипломатическую разведку в своем ведомстве. «Дело» и здесь было поставлено на широкую ногу: в штабе Риббентропа состояли такие матерые шпионы, как немецкий посол в Турции фон Папен, германский посол в Токио Эйген Отт и многие другие крупные разведчики. На службе германской разведки подвизались не только профессиональные дипломаты-разведчики, но и германские военные атташе, любезно «обменивавшиеся» военной информацией с разведками фашистских, полуфашистских и других стран.
Правда, между абвером, службой безопасности и разведкой министерства иностранных дел шла внутренняя, скрытая борьба за пальму первенства. В 1944 г. Гиммлер добился устранения, а затем и казни адмирала Канариса, повешенного за участие в заговоре против Гитлера, и передачи всей разведывательной службы в руки главного управления безопасности. Военную разведку и контрразведку возглавил опытный, матерый интриган и политикан бригадный генерал СС Вальтер Шелленберг.
Готовясь к войне против СССР, фашистская Германия усилила органы разведки и контрразведки, расширила шпионаж и другие формы подрывной деятельности. По сравнению с 1939 г. в 1940 г. количество забрасываемой в Советский Союз немецко-фашистской агентуры увеличилось в 4 раза. В августе — сентябре 1940 г. иностранный отдел Генерального штаба вермахта передал задания периферийным отделам разведки абвера, всем разведывательным органам, имевшимся в армейских группах и армиях, нацеленных на Восток, резко усилить разведывательную работу в СССР. Гитлер, Гиммлер, Гейдрих, Канарис требовали от своих разведчиков собрать исчерпывающую информацию о военном и экономическом потенциале Советской страны для общего планирования войны.
Однако, несмотря на тщательную подготовку небывалой по ожесточенности и масштабам тайной войны против Советского Союза, немецкие генералы и офицеры вынуждены были признать особо трудные условия для деятельности империалистических разведок и контрразведок в СССР. По свидетельству Леверкюна, "Советская Россия еще до начала войны представляла в отношении разведки особенно трудную проблему". "Засылка в Россию агентов из Германии, — сетует он далее, — была возможна лишь в очень редких случаях. Контроль и проверка документов среди населения России как в городах, так и на транспорте проводились гораздо строже, чем в какой-либо другой европейской стране". Бдительность советских людей была серьезным препятствием, мешавшим проникновению в СССР германских разведчиков.
Меры Советского правительства, в частности закрытие в 1938 г. немецких консульств в СССР, являвшихся рассадниками деятельности агентов абвера и Риббентропа, нанесли серьезный удар по немецкой разведке.
И все же органам государственной безопасности СССР не удалось полностью очистить страну от немецких шпионов и диверсантов. Абвер и другие разведки Германии засылали в СССР, особенно по мере приближения даты нападения на нашу страну, все новых агентов.
В начале сентября 1940 г. Канарис получил приказ Йодля, содержавший основные директивы по проведению разведки и подрывной деятельности на территории СССР. В нем предписывалось определить группировку, силу советских войск, их вооружение и снаряжение, разведать укрепления на западной границе и полевые аэродромы, сообщать данные о работе советской промышленности и транспорта.
В развитие этого приказа генерал-майор Лахузен, начальник 2-го отдела абвера, заместитель Канариса, приказал организовать специальную группу «А», которая должна была заниматься подготовкой диверсий и в целом работой по разложению советского тыла. В приказе указывалось, что в целях нанесения молниеносного удара по Советскому Союзу «Абвер-2» при проведении подрывной работы против России должен использовать свою агентуру. Хотя многие немецко-фашистские шпионы и диверсанты были схвачены и обезврежены, часть из них проникла на советскую территорию. Немало немецких шпионов и диверсантов, маскировавшихся многие годы, было завербовано из числа немецких эмигрантов.
Важным источником информации были сообщения «официальных» шпионов немецких дипломатов в СССР: посла фон Шуленбурга, советника посольства Хильгера, а также военных, военно-морских, военно-воздушных атташе и других военно-дипломатических представителей в Советской стране и государствах, граничащих с нею.