К полудню 22 июня авиационные потери нашей страны составили около 1200 самолетов, из них порядка 900 - на земле. Так как на каждый самолет приходилось по 2-3 экипажа, то почти 6000 человек летного состава остались без машин. Петров, который в июле был назначен заместителем командующего и членом Военного Совета ВВС КА, формирует под Горьким из “безлошадных” летчиков новые авиачасти. При их комплектовании неожиданно возникла проблема грамотных авиаинженеров, поскольку в эксплуатационно-технических частях 90% составляли практики без специального образования. Петров выходит к Сталину с просьбой отозвать студентов 2-4 курсов технических вузов и их преподавателей со строительства оборонительных сооружений под Смоленском (там их трудилось около 1500), чтобы через 1,5-2 месяца из них можно было подготовить специалистов по новой авиатехнике. Сталин отдал такое распоряжение, которое пришло вовремя - через день после отзыва студентов на эту территорию прорвались немцы. Но не только сиюминутные потребности удовлетворялись в то тяжелое время. Большое внимание уделялось и фундаментальной подготовке авиаспециалистов. С началом войны ВВА им. Н.Е.Жуковского была эвакуирована в Свердловск. Туда отправлялись студенты 3-5 курсов механико-математических факультетов всех университетов (кроме Ленинградского, которые направлялись в Военно-воздушную инженерную академию им. А.Ф.Можайского). Из них был образован уникальный курс, который занял особое место во всей системе высшего образования -сочетание университетской и специальной технической подготовки. Выпускники 1945 г. этого спецкурса своей плодотворной работой подтвердили правильность такого сочетания, данная система стала прообразом будущего МФТИ.
С августа 1941 по весну 1942 г. И.Ф.Петров командует рядом авиагрупп смешанного состава, которые участвуют в оборонительных сражениях осени и в зимнем контрнаступлении под Москвой. Шел непрерывный поиск оптимальных структур ВВС, в результате чего в мае 1942 г. вместо смешанных авиагрупп стали формироваться воздушные армии, состоящие из однородных (истребительных, штурмовых, бомбардировочных) авиадивизий. К осени 1942 г. было создано 17 воздушных армий. В январе 1942 г. началась реорганизация эксплуатационно-технической службы ВВС в инженерно-авиационную службу (ИАС) на принципах, изложенных Петровым еще в 1939 г. В феврале 1942 г. Иван Федорович становится главным инженером ВВС, что позволяет ему эффективно работать над воплощением своих идей. Так создаются полевые авиаремонтные мастерские (ПАРМ), в том числе и специализированные, позволившие существенно ускорить ввод поврежденных машин в строй. В этих же мастерских проводилось переоборудование одноместных Ил-2 в двухместные.
В июне 1942 г. Петрова назначают начальником НИИ ГВФ. Институт буквально пришлось собирать по частям: при эвакуации многие экспериментальные установки оказались испорчены, большая часть сотрудников института была на фронте и в летных подразделениях ГВФ. На восстановление института потребовался год, и в середине 1943 г. НИИ ГВФ приступил к работе. Основными задачами института в это время была помощь в организации использования АДД (авиации дальнего действия) и обеспечение полетов в глубокий тыл немцев для снабжения партизан. Ближе к концу войны институт занялся своими прямыми обязанностями: организацией мирного использования авиации. Был разработан план создания гражданских самолетов и тактико-технических требований (ТТТ) к ним. Первым самолетом, созданным по этому плану, стал знаменитый Ил-12, построенный уже в 1945 г., затем - первый поршневой вариант Ил-18, позже по ТТТ института были созданы Як-12 и Ан-2. Был разработан план восстановления аэродромов и строительства новых, создание ремонтных баз, велась также и научная работа: исследовались антиобледенительные системы, проводились разработки по повышению взлетной мощности двигателей АИ-62, установленных на самолетах Ли-2.