Ответом коммунистов стала партизанская война. Первый отряд их был создан вскоре после поражения Франции в 1940 году и насчитывал всего 30 человек. Командовал ими все тот же Во Нгуен Зиап. В это время французам во Вьетнаме было уже не до местных коммунистов, не представлявших тогда никакой угрозы для колониальной администрации. Кроме того, у французов во Вьетнаме имелась мощная поддержка: местные бюрократы, полицейские, представители имущих классов и те, кто выиграл от процессов модернизации, проходивших в колониальные времена во Вьетнаме. Поддерживали французов также крещеные вьетнамцы, представители малых народов, например вьетнамские тайцы.
Однако в марте 1945 года ситуация резко изменилась. Японцы разгромили французские гарнизоны и ликвидировали всю администрацию в Индокитае. Накануне поражения Германии в войне Япония стала опасаться возможной нелояльности французов и предпочла принять превентивные меры, что для французского присутствия во Вьетнаме имело катастрофические последствия.
После последовавшей спешной эвакуации японцев власть в Северном Вьетнаме в августе 1945 года захватили вьетнамские коммунисты. Теперь у них было больше 50 тысяч бойцов, а также все административные ресурсы колонии. Несмотря на многочисленные мифы о героическом сопротивлении вьетнамских коммунистов японской оккупации, реально они не вели против японцев практически никаких военных действий. Единственное столкновение произошло в начале августа 1945 года, когда 500 партизан напали на японский пост Тиан-Дао недалеко от Ханоя, который защищали 30 японских солдат. После этого японцы просто оставили вьетнамцам все свои военные ресурсы.
Осенью 1945 года под предлогом приема капитуляции японских войск на север Вьетнама вступили подразделения китайского Гоминьдана, на юге высадились англичане. Первые начали оказывать помощь наиболее радикальной группе вьетнамских предпринимателей и землевладельцев, которые вскоре стали полновластными хозяевами в пяти провинциях, расположенных недалеко от границы с Китаем и Лаосом; вторые активно содействовали возвращению французов. С помощью США в Южный Вьетнам были переброшены части 2-й французской бронетанковой дивизии и 9-й колониальной дивизии, а также парашютные войска и служащие французской колониальной администрации. Замысел был прост - задушить Демократическую Республику Вьетнам (ДРВ), провозглашенную 2 сентября 1945 года, руководство которой явно симпатизировало социалистическим принципам.
В течение нескольких месяцев французским войскам удалось захватить почти все города и важнейшие дороги в Южном и Центральном Вьетнаме. Были намерения продвигаться и дальше на север, однако для этого необходимы были дополнительные силы и средства.
6 марта 1946 года Франция формально признала независимость Вьетнамской Республики, но на деле французы не собиралась уходить. Под прикрытием «мира» началась массированная переброска войск в северные районы Вьетнама.
В ноябре французы обстреляли вьетнамские кварталы города Хайфон, а позже начались вооруженные столкновения в Ханое. Тогда же вьетнамский лидер Во Нгуен Зиап выступил по радио с призывом взяться за оружие. 19 декабря 1946 года вьетнамское народное правительство объявило о начале войны Сопротивления.
Так началась «вторая колониальная война», длившаяся более восьми лет, которая велась главным образом наемными войсками и получила название «грязной войны».
К началу 1947 года французы сосредоточили во Вьетнаме 115 тысяч солдат и офицеров. Войсками командовали лучшие французские офицеры. Отношение к противнику было весьма пренебрежительным. Однако первые военные столкновения показали, что, несмотря на слабость и неопытность коммунистов, в условиях партизанской войны они имели преимущество перед хорошо вооруженными регулярными войсками Франции. Все попытки разгромить вьетнамцев в джунглях закончились неудачей. Каждый раз французы несли потери без какого-то заметного военного успеха. Командующий французскими войсками генерал Леклерк подал в отставку и мотивировал это тем, что никто во Франции не даст ему 500 тысяч солдат, чтобы взять под контроль всю территорию Вьетнама.
В 1949 году ситуация для французов стала еще хуже - в Китае победили коммунисты, на поддержку которых вьетнамцы небезосновательно могли рассчитывать. В 1950 году вьетнамцы начинают проводить первые стратегические операции против французов. Ожесточенные бои идут в Тонкинской долине, в районе китайско-вьетнамской границы. Осенью 1950-го были разгромлены французские гарнизоны в районе границы, где погибли около 6 тысяч человек из 10 тысяч. Именно тогда выяснилась непригодность большей части французских войск к боям в джунглях. Бойцы из Марокко, Алжира, Сенегала, а также местные колониальные формирования оказались нестойкими. Лучше всех сражались части многонационального Иностранного легиона, среди которых было много бывших немецких солдат-эсэсовцев, членов гитлерюгенда, бывших власовцев, и всех тех, кого не очень-то жаловали в Европе после Второй мировой войны.