После окончания войны де Голль вернулся на родину и продолжил службу в армии. В 1924 году он окончил Высшую военную школу в Париже (французский эквивалент Академии Генерального штаба). Свои размышления о проблемах французской армии и ее реформировании он воплотил в двух книгах – «На острие шпаги» и «За профессиональную армию», изданных в 1932 и 1934 годах. Одна из них была посвящена общим вопросам военного строительства, а другая – переходу французской армии на профессиональный принцип комплектования. Книги сделали его известным среди политиков и военных.
В 1937 году де Голль стал полковником и был направлен в город Мец в качестве командира танкового корпуса.
Вторая мировая война буквально перевернула жизнь Шарля де Голля. В сентябре 1939 года он уже командовал танковыми частями одной из французских общевойсковых армий. После того как в марте 1940 года премьер-министром Франции стал его старый знакомый и в некотором смысле поклонник его военных теорий Рейно, продвижение де Голля по службе пошло еще быстрее. Очень скоро он был назначен командиром дивизии и участвовал в боях при Лаоне 17–20 мая 1940 года, умело сдерживая напор вермахта. В июне 1940 года де Голлю присвоили звание бригадного генерала.
Вскоре Рейно ввел его в реформированный кабинет министров Франции, где генерал отвечал за вопросы национальной безопасности.
В качестве представителя правительства де Голль вел переговоры с Черчиллем, но они были прерваны стремительным наступлением на Францию сил вермахта. Часть французских военных лидеров, прежде всего маршал Петен, считали, что наилучшим выходом для страны была бы капитуляция. Точка зрения этих людей возобладала – Франция капитулировала. Кабинет Рейно ушел в отставку, а лидером страны стал маршал Петен. Подавляющее большинство французов приняли происходящее как должное.
Де Голль не поддерживал сторонников Петена, и 17 июня генерал вылетел в Англию, чтобы продолжить борьбу. 18 июня 1940 года он обратился по английскому радио ко всем французам: «Я, Шарль де Голль, ныне находящийся в Лондоне, приглашаю французских офицеров и солдат, которые находятся на британской территории или смогут там оказаться, установить со мною связь. Что бы ни случилось, пламя французского сопротивления не должно погаснуть и не погаснет». Английское правительство стало активно поддерживать его инициативы. В августе 1940 года де Голль объявил о создании движения «Свободная Франция», членами которого должны были стать французские солдаты и офицеры, находившиеся в этот период вне оккупированной территории. Девизом движения стали слова «Честь и родина».
Первой военной акцией движения стала высадка десанта в Дакаре с целью подчинения силам «Свободной Франции» западного берега Африки. И 23 сентября 1940 года корабли де Голля в сопровождении британских крейсеров подошли к Дакару. В гавани их поджидала французская эскадра. Десант высадить не удалось – гарнизон крепости не сдавался, несмотря на усиленную бомбардировку авиацией «Свободной Франции» порта и доков Дакара. Через два дня английское командование дало приказ отступить.
В сентябре 1941 года де Голль выступил с заявлением о создании в рамках движения Французского национального комитета, временно осуществляющего функции государственной власти. Англия и США считали претензии генерала необоснованными. Действительно, в то время де Голль еще не мог стать объединяющим звеном, да и его французские колониальные части не очень стремились помогать союзникам в борьбе с немцами.
В 1941 году части де Голля принимали вместе с англичанами участие в операциях против верных правительству Петена французских частей в Сирии. В течение 1942 года его люди установили связь с действовавшими во Франции группами сопротивления и подчинили их своему руководству. При помощи генерала де Голля эти группы стали получать из Лондона оружие, деньги, радиостанции. При этом де Голль не оказывал поддержки ведущим активную борьбу с оккупантами группам сопротивления коммунистической и социалистической ориентации. Только к концу года де Голль встретился с представителями французских коммунистов. Тогда же было принято решение объединить усилия в борьбе с немцами. В январе 1943 года при штабе генерала де Голля в Лондоне действовало представительство ФКП. На территории оккупированной Франции был создан Национальный совет сопротивления (НСС), который возглавил представитель де Голля Жан Муллен.
В годы Второй мировой войны де Голлем проводилась огромная работа по развитию движения Сопротивления. Неутомимый генерал учреждает Французский комитет национального освобождения (ФКНО), формирует Временное правительство, которые были признаны странами-союзницами по антигитлеровской коалиции.