То, что Карл Дениц оправдал оказанное ему доверие, подтвердила Вторая мировая война. Уже к концу первого месяца боевых действий его подводный флот потопил множество вражеских кораблей общим водоизмещением 175 000 т, доказав, что является весьма эффективным орудием ведения войны на море. Особенно остро это на собственной шкуре ощутили британские ВМС. В 1939–1940 годах они по вине подлодок Рейха ежемесячно теряли больше техники, чем могли произвести. После войны Черчилль даже признался, что именно во время битвы за Атлантику почувствовал настоящую угрозу для Англии.
Однако планы Деница на дальнейшее, не менее успешное противостояние под водой рухнули со вступлением в войну США. В отличие от большинства своих соратников, «фюрер подводных лодок» не отличался «шапкозакидательскими» настроениями. Он прекрасно понимал, что появление на океаническом поле боя американских военных кораблей означает для немецкого флота лишь одно: неминуемый крах. К 1942 году, когда и битва за Британию, и советская кампания начали давать сбои, помощь субмарин потребовалась и на других фронтах. Дениц, сколько мог, уговаривал Гитлера, Геринга и других высших руководителей не разделять подводный флот на несколько частей. Но ему все равно пришлось расстаться с большей частью своих субмарин. На борьбу с американским флотом у Деница осталось всего 12–15 лодок. А противостояние это давалось все труднее: союзники разработали новую противолодочную тактику и обзавелись более современной техникой. В итоге, несмотря на то, что доблестные немецкие подводники продолжали топить суда союзников, все больше и больше субмарин не возвращались на базы. К середине 1943 года это соотношение было уже не в пользу Рейха. Например, с июня по август было потоплено 60 торговых судов союзников, а потери немецкой стороны составили 79 субмарин. Всего же из 820 германских подлодок, участвовавших с 1939 по 1945 год в битве за Атлантику, 781 погибла.
Последнее сражение гросс-адмирала Деница произошло в день «D» — день высадки союзников в Нормандии. Он бросал в бой все новые и новые лодки, но переломить ход войны ему не удалось. В период с 6 июня по 31 августа 1944 года немцы потеряли 82 субмарины — почти весь свой подводный флот.
Будучи главным подводником фашистской Германии, Карл Дениц являлся верным сторонником наци № 1 и под занавес войны тоже решил идти со своим фюрером до конца. 20 апреля 1945 года гросс-адмирал присутствовал на последнем дне рождения немецкого вождя, а через несколько дней волей Адольфа Гитлера стал вторым и последним фюрером умирающего Рейха.
Карлу Деницу досталось тяжелое «наследство»: вокруг Берлина сжималось кольцо советских и союзнических войск, а полная и безоговорочная капитуляция Германии была лишь вопросом времени. 2 мая Деницу пришлось перенести свою штаб-квартиру и заодно столицу Рейха в кадетский корпус, находящийся в Мюрвике под Фленсбургом. Понимая, что спасти существующий в Германии режим невозможно, новый фюрер сосредоточил свое внимание на двух проблемах. Он пытался, во-первых, как можно скорее прекратить войну и заключить мир, а во-вторых, по мере возможностей избежать советской оккупации. Однако остановить продвижение Красной Армии Карл Дениц был не в силах, поэтому пошел другим путем. Продолжая параллельно с «фюрерством» занимать пост главкома флота, он послал все имевшиеся в его распоряжении суда в балтийские порты, еще находившиеся в руках немцев, с приказом вывезти оттуда всех беженцев. Таким образом, за последние 8 дней войны из будущей зоны влияния СССР, по приблизительным подсчетам, было вывезено более двух миллионов немцев.
9 мая 1945 года Третий рейх навсегда прекратил свое существование. Но Карл Дениц продолжал оставаться главой правительства погибшей державы еще две недели. 23 мая он был захвачен в плен союзниками и доставлен на пароход «Патриа» для беседы с членом контрольной комиссии союзников генерал-майором армии США Лоуэллом В. Руке. Здесь ему объявили, что он арестован и отныне считается военным преступником. Дениц воспринял эту новость спокойно и с достоинством: сопротивляться и пытаться покончить с собой, приняв яд, который в последние месяцы войны был при себе практически у каждого высшего офицера, не пытался.