После возвращения из Рима Канарис был официально включен Кейтелем в переговоры, которые тем временем начались в Берлине между заинтересованными ведомствами. Канарис должен был сначала отчитаться перед Герингом о своих беседах в Риме. По поручению Геринга он затем должен был явиться с докладом к Гитлеру. В ходе этих обсуждений был принят основной план оказания помощи франкистской Испании. Канарис представлял точку зрения, что лучше всего послать в Испанию представителя вермахта. Для этого задания был выбран полковник Варлимонт, который был рекомендован Франко в послании, составленном на испанском языке и подписанном военным министром фон Бломбергом, как представитель всех трех родов войск вермахта. В предыдущие месяцы между Канарисом и Варлимонтом установилось тесное сотрудничество. Совместно с ними и в одиночку Канарис много раз летал в Испанию. Первый полет в старом «юнкерсе» без промежуточной посадки, на большой высоте пересекая Францию — пассажиры сидели на канистрах с бензином, так как все ненужное оборудование в целях экономии веса было удалено из машины, — был рискованным приключением. При следующей возможности Канарис вместе с Роаттой отправился в Испанию на итальянском теплоходе, чтобы там согласовать немецкую и итальянскую помощь.
В результате переговоров с Франко был образован легион «Кондор», первым командиром которого стал генерал Шперрле. Далее в ходе войны командование легионом еще два раза менялось. Генералы Фолькман и фон Рихтгофен получили, таким образом, возможность приобрести опыт руководства авиацией в военных условиях и оценить способности французских и русских (советских) летчиков, сражавшихся на противоположной стороне.
Руководство испанским предприятием было возложено на министерство военно-воздушных сил Германии. Несмотря на то, что Геринг при случае выказывал ревность по отношению к Канарису, он, однако, не мог обойтись без начальника разведки в вопросе поддержания отношений с франкистской Испанией. Приходилось постоянно обращаться к его знанию страны, к его личным связям с большим кругом лиц, занимавших видное место в Испании, и его правильной оценке испанского национального характера. Снова и снова Канарис, когда было необходимо преодолеть трудности, уладить разногласия, заключить новые соглашения, должен был ехать в Испанию. Все жалобы, которые Франко высказывал по поводу помощников из Германии, он, по возможности, предъявлял Канарису, тот, конечно, принимал их со смешанными чувствами, так как это не прибавляло любви к нему у немецких инстанций, участвующих в предприятии.
У Франко Канарис пользовался неограниченным доверием, и многие соглашения, которые в другом случае застряли бы в бюрократических преградах, достигались быстро в личной беседе между обоими мужчинами, которые не нуждались в переводчике, так как Канарис прекрасно владел испанским языком. Тут можно было решить много проблем. С посылкой немецких «добровольцев» и самолетов для легиона «Кондор» еще не все было решено. Нужно было через доверенных людей покупать оружие за границей, в том числе в Чехословакии и в Америке; деньги, предоставленные немецкой стороной, во многих случаях поступали потом через Лондон, где Франко удавалось получить финансовую помощь. Переговоры проходили частично через испанское посольство в Берлине, где Канарис поддерживал тесный контакт с советником посольства Варгасом и с графом Роккамора, назначенным Франко на пост военного атташе вскоре после начала гражданской войны. Конечно, только одна часть — но очень важная — этих дел проходила через руки Канариса. Наряду с легионом «Кондор» возникла большая германо-испанская экономическая организация, которой руководил Бернгардт — ее название «Хизма» часто упоминалось в мировой прессе — и которая играла большую роль не только во внешней торговле Испании, но и внесла существенный вклад, например, в стабилизацию курса испанского песо.