Но Канарис не хотел всерьез верить, будто Гитлер может быть настолько ослеплен, чтобы начать войну с Советским Союзом до заключения мирного договора с западными державами. Об этом я слышал от одного из моих товарищей, который в те трагические дни разговаривал с полковником Пикенброком. В качестве подтверждения этих сведений я могу привести тот факт, что Канарис и Пикенброк еще незадолго до начала кампании в России послали на Дальний Восток в транссибирском экспрессе майора, позднее подполковника Эйзентрегера. Восемь часов спустя, как он оказался на китайской территории, началась операция «Барбаросса». Эйзентрегера, впоследствии возглавившего КО по Дальнему Востоку, несомненно, не отправили бы в длительную поездку по Сибири, если бы Канарис был убежден, что Гитлер всерьез говорит о нападении на Советский Союз.
В первые недели июня 1941 года заграничная служба абвера направила сформированные коммандо фронтовой разведки в группы армий «Север», «Центр» и «Юг», тогда как группы в строевом отношении и боевом применении подчинялись штабам армий. В течение дня 21 июня 1941 года армейские штабы послали группы фронтовой разведки вперед в танковые дивизии и отделения разведки. 22 июня между 1 и 2 часами ночи заграничная служба абвера получила от коммандо фронтовой разведки донесение, что они заняли исходные позиции. А в 3 часа был открыт ураганный огонь; гибельная операция «Барбаросса» началась. По всему Восточному фронту группы фронтовой разведки двинулись вперед на танках, с передовыми отрядами и ротами саперов.
Вряд ли многие в наступающих войсках догадывались, что для немецких солдат наступило время бесконечных опасностей, лишений и мытарств.
Поначалу вроде бы не было никаких оснований для беспокойств. Немецкие дивизии стремительно продвигались вперед, группы фронтовой разведки вместе с ними. В то время как части фронтовой разведки I с танковыми и другими моторизованными подразделениями пытались пробиться в Ковель, Лемберг, Вильно и другие города, в которых располагались вышестоящие штабы русских или дислоцировались до начала наступления, группы фронтовой разведки III старались как можно быстрее добраться до учреждений секретных служб противника. В некоторых случаях это удалось сразу в первые часы кампании, поскольку НКВД, главная ветвь советской секретной службы, выдвинул свои органы вплотную к германо-советской демаркационной линии, проходящей по Польше.
Так, например, было в Брест-Литовске. Непосредственно после воздушного налета сотрудники коммандо III фронтовой разведки под командованием майора Т. вошли в город в передовых порядках наступающих войск и заняли здание НКВД. Капитан Д., участвовавший при этом, так описывает этот эпизод: