Во время гражданской войны в Испании 1936—1939 годов сражавшиеся на стороне франкистов люфтваффе приобрели первый боевой опыт, были заложены основы тактики германских ВВС, разработаны способы их боевого применения. Важную роль в решении этих проблем сыграл Шперле. Под его непосредственным руководством немецкие летчики осваивали новые для себя тактические приемы и способы ведения воздушного боя, других боевых действий. В ноябре 1936 года Шперле руководил воздушными налетами на Картахену, в результате чего была уничтожена находившаяся там военно-морская база республиканцев. Вместе с тем необходимо отметить и ту необычайную жестокость и беспощадность, которую Шперле проявил в Испании. Именно ему принадлежит сомнительная честь разработки концепции массированных воздушных налетов на мирные города с целью устрашения противника. Впервые на практике она была применена в Испании авиацией Шперле. Так, по его приказу самолеты легиона «Кондор» варварски разрушили испанский город Гернику. В результате этого воздушного налета погибло множество мирных жителей. И это был далеко не единичный пример. В октябре 1937 года Шперле передал командование легионом генералу Г. Фолькману и вернулся в Германию, где нацисты встретили его как героя, а Гитлер произвел его в чин генерала авиации (1 ноября 1937 года).
В феврале 1938 года он был назначен командующим 3-й группой ВВС (Мюнхен), которая в феврале 1939 года была преобразована в 3-й воздушный флот (аналог воздушной армии). Участвовал в аншлюсе Австрии и оккупации Чехословакии, руководил переформированием австрийских ВВС в 4-й воздушный флот. Во время Польской кампании 1939 года возглавляемый Шперле 3-й воздушный флот поддерживал группу армий «Ц» (генерал В. фон Лееб), войска которой действовали против французов и англичан на Западном фронте, генерал-полковник (1939). Участвовал во Французской кампании 1940 года, в ходе которой авиация Шперле поддерживала с воздуха войска группы армий «А» (генерал Г. фон Рундштедт), наносившие главный удар. 3-й воздушный флот внес большой вклад в дело достижения быстрой и решительной победы во Франции. За отличие в этой кампании Шперле был награжден Рыцарским крестом и произведен в генерал-фельдмаршалы (19 июля 1940 года). После разгрома Франции возглавил действия немецко-фашистской авиации в «битве за Англию». Выдвинул план, согласно которому основные усилия люфтваффе предложил сосредоточить на уничтожении истребительной авиации британских ВВС. Однако Г. Геринг и Гитлер с ним не согласились. Шперле было приказано главный упор сделать на бомбежке английских городов, и прежде всего Лондона, чтобы устрашить англичан и сломить их волю к сопротивлению. Это позволило Англии быстро восстановить боеспособность своих ВВС, понесших тяжелые потери во время кампании во Франции, и вскоре бросить вызов люфтваффе в борьбе за господство в воздухе. 13 августа 1940 года Шперле по собственной инициативе предпринял попытку разгромить английские ВВС, навязав им в восточной части Англии крупное воздушное сражение. Но эта попытка успехом не увенчалась. Более того, немецкая авиация понесла в этом сражении большие потери и утратила инициативу в ведении боевых действий.
19 августа 1940 года Шперле был отстранен от главного руководства операциями люфтваффе в «битве за Англию». Его полномочия были переданы генерал-фельдмаршалу А. Кессельрингу, а сам Шперле поступил в подчинение нового командующего. Вскоре 3-й воздушный флот снова понес тяжелые потери, и в октябре 1940 года Геринг вынужден был приостановить воздушные налеты на Англию. В дальнейшем они были возобновлены, но проводились уже с меньшей интенсивностью. Весной 1941 года продолжавшаяся 9 месяцев «битва за Англию» закончилась. Люфтваффе в ходе ее потерпели сокрушительное поражение — первое во Второй мировой войне. В апреле — мае 1941 года их основные силы были перебазированы на Восток, где Гитлер завершал подготовку к нападению на СССР. На Западе был оставлен 3-й воздушный флот, но сильно урезанного состава. В распоряжении Шперле остались лишь две истребительные эскадры (2-я и 26-я) и несколько групп бомбардировщиков. Для успешной борьбы с английской авиацией этих сил было явно недостаточно.