Наиболее мощной разведывательной организацией до начала второй мировой войны оставался Абвер. Он несколько раз реорганизовывался, превратившись в целое Управление в аппарате Верховного командования. В его задачи входило обеспечение информацией о стратегических планах предполагаемых противников и состоянии их обороны. На Абвер была возложена также подготовка диверсий во враждебных государствах.
Центральный аппарат Абвера, располагавшийся до начала войны в том же старом здании на Тирпицуфер, разделялся на пять подотделов. Основными оперативными подразделениями были А-I, А-II и А-III, осуществлявшие руководство соответственно шпионажем, диверсиями и контрразведкой. Четвертый подотдел «Заграница» («Аусланд») — руководил службой военных атташе, а пятый «Центральный» выполнял вспомогательные задачи.
Одной из центральных фигур в Абвере был майор Генерального штаба Ганс Пикенброк, официальный заместитель Канариса, начальник А-I. Этот сын богатого бюргера родился в Эссене в 1893 году, в 1914 году добровольно вступил в имперскую армию и в 1915 году стал гусарским лейтенантом. Поражение в войне не привело к крушению его военной карьеры, хотя он и не принадлежал к офицерской элите — службе Генерального штаба, представители которой заняли лучшие места в веймарском рейхсвере. С Канарисом Пикенброк поддерживал доверительные отношения, но не был посвящен в особо тайные акции шефа. Работники центрального аппарата сами непосредственно не вели работу с агентами и знали их лишь по бумагам. Они координировали деятельность тех, кто этим реально занимался: оперативных филиалов (резидентур) в Германии и за ее пределами, а также поддерживали связи с другими органами секретной службы, получали и распределяли «заказы», пересылая полученные данные в аналитические подразделения генеральных штабов видов вооруженных сил. Отдел очень редко вмешивался в ход конкретных операций.
«А-I» делился на несколько специализированных секций, каждая из которых ведала сбором информации отдельно об армии, флоте, авиации, военной экономике (технике вооружения). Одна группа занималась шпионской техникой — фотоаппаратурой, портативными радиостанциями, симпатическими чернилами, разработкой и внедрением других средств и методов конспиративной связи между секретными агентами и их руководством. Особое внимание уделялось изготовлению подложных документов, которыми снабжались агенты. Этой работой ведал опытный специалист, некий Альберт Мюллер, по профессии химик, начавший свою деятельность еще при Николаи. Большинство сотрудников А-I были знатоками своего дела и принадлежали к категории «офицеров Е» — так называли тех, кто прибыл в Абвер из гражданской сферы, но в прошлом был кадровым офицером.
С ноября 1935 года диверсионно-саботажную службу Абвера возглавлял капитан Генерального штаба Гельмут Гроскурт. Его биография была типичной для той части немецкой буржуазной молодежи, которая была охвачена патриотическим угаром и брошена в окопы мировой войны. Ее участь в свое время блестяще описал Эрих Мария Ремарк в известном романе «На Западном фронте без перемен». После войны уцелевшие, преждевременно постаревшие юноши оказались часто по разные стороны баррикад в бурных политических событиях тех лет: одни стали членами тайных террористических ультраправых организаций, другие — коммунистами или социал-демократами. Гроскурт принадлежал к первой группе.
В феврале 1916 года 18-летний сын протестантского пастора из Вестфалии, даже не закончив курс гимназии, вступил добровольцем в 75-й пехотный полк, а в сентябре был уже ранен в тяжелых боях на Сомме. Находясь в отпуске после госпиталя, он сдает экзамены на аттестат зрелости, а затем возвращается на фронт. В сентябре 1917 года — второе ранение во Фландрии и британский плен, где его застает сообщение о производстве в чин лейтенанта.
Возвратившись в октябре 1919 года на родину, Гроскурт тотчас вступает в рейхсвер, устанавливает связь с террористами и заговорщиками, группировавшимся вокруг капитана Эрхардта. Затем он сближается с более умеренным «Стальным шлемом». В апреле 1920 года Гроскурт увольняется с военной службы, поступает в Гейдельбергский университет, где штудирует агрономию, а потом становится управляющим имением. По-видимому, увлечение мирной профессией оказалось временным. В 1924 году он возвращается на военную службу.
После окончания Военной академии в 1935 году Гроскурт направляется в Абвер. Несмотря на кратковременное пребывание в ведомстве Канариса — в конце 1938 года он был откомандирован на другое место службы — Гроскурт принадлежал к числу наиболее доверенных лиц в окружении шефа. Он вступил в группу оппозиционно настроенных к Гитлеру офицеров и играл значительную роль в разработке планов переворота еще в последние два года перед войной. Вероятно, если бы он не оказался на фронте и не попал в плен под Сталинградом в 1943 году, то принял бы активное участие в событиях 20 июля 1944 года и был казнен. Впрочем, он не надолго пережил участников заговора — Гроскурт умер в плену в России.