28 декабря 1936 года в Бремене верфь «АГ Везер» пополнила состав немецкого флота еще одной новой субмариной – U-31. Эта лодка относилась к типу VIIA, а ее первым командиром был назначен капитан-лейтенант Рольф Дау. После вступления в строй она была включена в подводную флотилию «Зальтцведель», базировавшуюся в Вильгельмсхафене. 8 ноября 1938 года на лодке сменился командир, Дау сдал ее капитан-лейтенанту Йоханнесу Хабекосту.
В отличие от большинства океанских субмарин кригсмарине за неделю до начала войны U-31 c двумя другими «семерками» была передана в распоряжение командующего подводными силами на Балтике для действий против Военно-морских сил Польши. Хабекост привел свою лодку из Нойштадта в Мемель 27 августа, но 1 сентября 1939 года она была отозвана в Киль, откуда затем перешла в Вильгельмсхафен.
9 сентября U-31 снова вышла в море – для того, чтобы в первый раз увековечить себя в истории Битвы за Атлантику. Хабекост покинул Вильгельмсхафен и, пройдя Ла-Манш, достиг Западных подходов, где начал действовать против британского судоходства к юго-западу от Ирландии. U-31 удалось обнаружить и атаковать британский конвой, что привело к потоплению судна «Эвимор». И, хотя этот пароход в итоге оказался не первой жертвой немецкой лодки из состава конвоев, долгое время ошибочно считалось, что именно U-31 вошла в историю как первая немецкая субмарина, обнаружившая и успешно атаковавшая конвой во Второй мировой войне. Кроме «Эвимора», Хабекост потопил в этом походе британское судно «Хазелсайд».
Следующий поход U-31 продлился десять суток, но стал самым результативным в ее истории. 21 октября 1939 года лодка вышла в море с заданием поставить мины в шотландском заливе Лох Эве. Хабекост отлично справился с поставленной задачей. Результат не заставил себя долго ждать: спустя два месяца немецкая разведка установила, что на немецких минах подорвался и был серьезно поврежден флагман флота Метрополии – линкор «Нельсон». Кроме этого, британцы потеряли на минах Хабекоста два вспомогательных тральщика.
В своем третьем походе Хабекост действовал в Северном море, где с 1 по 6 декабря 1939 года потопил шесть судов общим тоннажем на 9 256 БРТ. Проведя в море 21 день, U-31 вернулась в Вильгельмсхафен 11 декабря 1939 года. Спустя месяц Хабекост снова вышел в море, получив приказ провести повторную постановку мин в заливе Лох Эве. В ночь с 20 на 21 января 1940 года U-31 поставила 12 мин ТМС, которые так и не дождались своих жертв. 28 января Хабекост совершил неудачную торпедную атаку на одиночное судно, которая оказалась последним ярким событием в этом походе. 1 февраля было обнаружено, что запас пресной воды малопригоден к употреблению, поэтому лодка прервала поход. Спустя три дня она вернулась в Вильгельмсхафен.
Британский бомбардировщик «Бристоль Бленхейм». Именно этому типу самолетов довелось первому отправить на дно немецкую подлодку во Второй мировой войне: 11 марта 1940 года самолет из 82-й эскадрильи Королевских ВВС атаковал и потопил U-31 в заливе Ядебузен
Так как U-31 нуждалась в ремонте, ей пришлось провести на верфи месяц. К началу марта работы были завершены. 11 марта 1940 года Хабекост вывел лодку в бухту Ядебузен для проведения пробного погружения. Около полудня над ней внезапно появился самолет с выключенными моторами. Это был английский «Бленхейм» из 82-й эскадрильи Королевских ВВС, сбросивший на «немку» две бомбы. После взрывов самолет запустил моторы и взмыл вверх, а U-31 затонула.
Штаб подводных сил узнал об инциденте от сторонних свидетелей, включая и моряков с немецкого парохода, которые наблюдали атаку самолета. В район гибели лодки была отправлена спасательная группа кораблей, которая обнаружила ее на дне, на глубине 17 метров. Она стала могилой как для Хабекоста и его экипажа, так и для 13 рабочих и инженеров с верфи.
Количество жертв составило 58 человек. Вновь U-31 выпала роль лидера, на этот раз сомнительная: она стала первой немецкой лодкой, погибшей от действий вражеской авиации во Второй мировой войне.
U-31 была поднята со дна залива 28 марта 1940 года и доставлена на верфь в Вильгельмсхафен. На ремонт ушло четыре месяца, и 30 июля она вновь вступила в строй кригсмарине. Ее новым командиром стал капитан-лейтенант Вилфрид Прелльберг. Пройдя десятидневную проверку, U-31 ушла на Балтику, где еще месяц ее экипаж проходил всевозможные тренировки.
Утром 17 сентября Прелльберг покинул Киль и вышел в море для перехода в Норвегию в сопровождении кораблей эскорта. Спустя двое суток U-31 рассталась с эскортом у Кристиансанна и взяла курс на Шетландские острова. Согласно приказу лодка должна была обогнуть Шотландию и достичь района между Северным проливом и банкой Роколл, где действовать против судоходства противника.