Де Голль был убежденным противником разработанной в Генеральном штабе французской армии оборонительной тактики, в основе которой лежала идея о неприступности «линии Мажино». Он предупреждал о губительности подобных взглядов и призывал к укреплению обороноспособности страны. Де Голль считал необходимым прежде всего формирование во Франции дополнительных танковых корпусов, укомплектованных машинами новейшего образца. Он искал сторонников в военных и политических кругах. В 1934 г. ему даже удалось познакомиться с Полем Рейно, но действенной поддержки своим идеям де Голль не добился.
В начале Второй мировой войны де Голля, служившего в чине полковника, назначили командующим танковыми войсками в Эльзасе. Когда в 1940 г. Германия предприняла стремительное наступление на Западном фронте, он получил приказ возглавить срочно сформированную бронетанковую дивизию. В течение всего мая она самоотверженно сражалась, неся большие потери. Противник имел огромный перевес в танках, артиллерии и авиации. За боевые заслуги де Голль был произведен в чин бригадного генерала.
В Париже Поль Рейно при переформировании своего кабинета назначил де Голля заместителем военного министра. Генерал немедленно прибыл в столицу. Он упорно настаивал на продолжении войны и пытался убедить в этом Рейно. Де Голль предложил правительству перебраться в североафриканские владения Франции и вести борьбу, опираясь на огромную колониальную империю страны. Однако председатель совета министров предпочел передать власть маршалу Петэну. Тогда де Голль совершил беспрецедентный поступок. Он решительно отказался подчиниться новым французским властям, взявшим курс на капитуляцию, и 17 июня 1940 г. вылетел на военном самолете в Лондон.
В английской столице мятежный генерал незамедлительно встретился с премьер-министром Великобритании Уинстоном Черчиллем и заверил его в своем твердом намерении продолжать борьбу. 18 июня по лондонскому радио де Голль произнес знаменитую речь, обращенную к соотечественникам. В ней он доказывал, что положение Франции далеко не безнадежно, потому что начавшаяся война имеет мировой характер и ее исход не будет решен лишь битвой за Францию. Заканчивалась речь следующими словами: «Я, генерал де Голль, ныне находящийся в Лондоне, приглашаю французских офицеров и солдат, которые находятся на британской территории или смогут там оказаться, установить связь со мной. Что бы ни случилось, пламя французского Сопротивления не должно погаснуть и не погаснет». Так уже в июне 1940 г. был поднят флаг французского сопротивления врагу.
В Лондоне де Голль основал организацию «Свободная Франция», призванную вести борьбу против фашистской Германии на стороне Великобритании. Правительство Виши заочно приговорило де Голля к смертной казни за «дезертирство» и «измену». Тем не менее к «Свободной Франции» начали присоединяться как военные, так и гражданские лица самых различных политических взглядов и убеждений. В конце 1940 г. их было всего 7 тыс. человек, менее чем через два года это число выросло в десять раз.
7 августа 1940 г. де Голль и Черчилль подписали соглашение относительно организации и использования французских добровольческих сил в Англии. Де Голль обязался сформировать эти силы и осуществлять верховное командование ими в соответствии с общими директивами британского правительства. Великобритания не признавала прав де Голля на осуществление государственной власти и рассматривала «свободных французов» только как добровольцев у себя на службе. Однако она обеспечивала де Голлю регулярную финансовую поддержку и дала ему возможность создать помимо военного гражданский орган. В распоряжение де Голля была также предоставлена английская радиостанция Би-би-си. Через нее «Свободная Франция» осуществляла пропагандистское вещание на Францию.
В первую очередь де Голль направил усилия на овладение французскими колониями, главным образом африканскими. С помощью своих сторонников он начал там активную пропаганду в пользу продолжения войны и присоединения к «Свободной Франции». Администрация Северной Африки категорически отклонила такие предложения и осталась верной вишистскому правительству. Иначе повели себя колонии Французской Экваториальной Африки. Уже в августе 1940 г. к де Голлю присоединился Чад. Через некоторое время на сторону генерала перешли Конго, Убанги-Шари, Габон, Камерун. О его признании заявили несколько небольших владений Франции в Тихом океане. Это был первый большой успех. Правда, в сентябре 1940 г. голлисты потерпели и серьезное поражение. Провалом окончилась экспедиция англо-французской эскадры, имевшая целью захватить важнейший порт Французской Западной Африки — Дакар. Гарнизон города остался на стороне Виши. И все же «Свободная Франция» теперь получила собственную территориальную базу на Африканском континенте. Это позволило де Голлю приступить к созданию своего «государственного аппарата» и решительно отмежеваться от правительства Виши.