В 1910 году он поступил на службу в Германский Императорский флот, и в начале Первой Мировой войны служил за границей. В своих мемуарах он вспоминает: «Это был период, который произвел глубокое впечатление на меня и усилил мое чувство патриотизма. Я видел Германию издалека, поэтому я мог сравнивать ее с другими странами и народами. Издалека ее слабости не были столь заметны».
После начала войны и до 1916 года Дениц служил на крейсере «Бреслау». В течение этих 2 лет «Бреслау» действовал против русского флота на Черном море. Превосходство русских в силах превращало все операции в игру «кошки-мышки», и этот опыт оказался исключительно полезным для Деница позднее.
В 1916 году его переводят на подводные лодки, и он сразу становится энтузиастом подводного флота. Хотя он не обладал порывистым характером, отличавшим Хортона, Дениц добился заметных успехов в качестве командира подводной лодки. Он предложил много оригинальных идей в области подводной войны. Еще до окончания военных действий он предложил тактику «волчьих стай».
В октябре 1918 года его лодка была потоплена на Средиземном море, Дениц попал в плен вместе со своим экипажем и оказался в лагере военнопленных в Англии, откуда был репатриирован в июле 1919 года. Когда он вернулся в Германию, начальник службы личного состава нового германского флота спросил у него, намерен ли он оставаться на военной службе. Версальский договор запрещал Германии иметь подводные лодки, однако германское командование не верило, что этот запрет будет слишком долгим. Поэтому Дениц решил продолжить свою военную карьеру при условии, что его вернут служить на подводные лодки, как только они снова появятся.
Однако этот запрет действовал до 1935 года. Поэтому с 1920 года и до подписания англо-германского морского договора Дениц служил на надводных кораблях. Сначала он командовал эсминцем, потом флотилией эсминцев, позднее стал флагманским штурманом вице-адмирала фон Лёвенфельда, командующего германскими морскими силами на Балтике, наконец Дениц был назначен командиром крейсера «Эмден». Этот период его службы, хотя и не походил в точности на карьеру Хортона, дал Деницу серьезные познания в тактике действий надводных кораблей. И это опять-таки принесло ему большую пользу в будущем.
В 1935 году, когда Германии снова было разрешено строить подводные лодки, главнокомандующий адмирал Редер поставил перед ним задачу возрождения подводного флота, так как Дениц считался выдающимся офицером с огромным опытом службы на подводных лодках. Однако, как говорит сам Дениц, новое назначение его не слишком устраивало. В новом германском флоте, который строился согласно договору, подводные лодки должны были играть вспомогательную роль, и Дениц опасался, что их могут просто отодвинуть на задний план и забыть.
Однако быстро выяснилось, что он ошибается. Немцы имели секретные планы широкого строительства подводных лодок, подготовленные еще в 1932 году. И буквально через 2 месяца Дениц уже командовал флотилией подводных лодок.
Как только Дениц вернулся на подводные лодки, весь его былой энтузиазм вспыхнул с новой силой. Он с головой окунулся в подготовку первых подводных лодок, которые Германия получила за последние четверть века. Дениц не получал приказов, инструкций и указаний, поэтому он смог начать подготовку на основе своих собственных идей.
Тренировки начались 1 октября 1935 года. По словам Деница, они были направлены на то, чтобы экипажи «смогли полностью привыкнуть к условиям жизни на борту корабля, поближе познакомились с морем в любую погоду. Требовалось добиться абсолютной точности штурманской работы, особенно навигации по звездам». Экипажи должны были полностью освоить довольно специфический класс военного корабля. Период подготовки длился 6 месяцев, этот период был разбит на несколько частей. Дениц пишет: «Например, каждая подводная лодка должна была провести 66 атак в надводном положении и такое же количество атак в подводном положении, прежде чем в декабре 1935 года начать первые учебные торпедные стрельбы».