Чтобы его допустили к сдаче экзаменов в морское кадетское училище, Рудольф заблаговременно отослал туда автобиографию со всеми необходимыми документами еще до окончания последнего учебного года в школе. Однако в допуске к экзаменам ему было отказано, и документы вернулись обратно. Его отец подозревал, что без адмирала Редера тут не обошлось, но чем-то помочь своему сыну в такой ситуации он не мог. Жизнь продолжалась, и Рудольф, успешно сдав экзамены в Берлинский технический институт, стал учиться на архитектора, но все это время он мечтал вернуться на море. И когда 3 сентября 1939 года (через два дня после нападения Гитлера на Польшу) Великобритания и Франция объявили войну Германии, но при этом французские армии не начали наступления на Германию и оставались в бездействии по всему фронту, война на море с первого же часа началась с максимальной интенсивностью. Как и в Первую мировую войну, Военно-морскому флоту Германии предстояло сражаться против величайшей морской державы мира Великобритании, и Рудольф счел долгом добровольно пойти служить на флот простым матросом.
Когда человек вступает в армию, он начинает совершенно новую жизнь, где личная свобода сведена к минимуму, а его место в этой жизни определяется приказами и командами командиров. Сначала Рудольфа направили в Штральзунд в специальную школу. На вокзале в Штральзунде коротко стриженных новобранцев ожидали несколько старшин, чтобы построить и отвести в школу. Строем они промаршировали к Данхольму — острову, где обучали морскому делу новобранцев. Когда они строем прошли через подъемный мост, его тут же за ними подняли как наглядное свидетельство их временной изоляции от внешнего мира.
За три месяца интенсивных тренировок их научили бросать гранаты, стрелять из винтовки и пулемета, только это имело мало что общего с обучением морскому делу. После этих курсов Рудольф был направлен в школу подводников в Киле. За первые несколько недель их напичкали теорией, а потом началось практическое обучение, и он впервые вышел в море на подлодке. Стояла ясная и ветреная погода. Целая флотилия подлодок строем проплыла в Кильском заливе. На каждой подлодке находилось несколько офицеров-практикантов. Рудольф был на борту «U-7».
Прибыв на подлодку, Рудольф через люк боевой рубки попал в центральный пост. Несмотря на основательную теоретическую подготовку, он чувствовал себя беспомощным среди различных штурвалов и запутанной сети электрических проводов и трубопроводов сжатого воздуха. Он должен был двигаться в очень ограниченном пространстве и ориентироваться среди множества приборов и аппаратов.
В центре узкого отсека стоял перископ, включавший в себя прицел, дальномер и пеленг по компасу. Перемещение линз вверх или вниз позволяло управлять стрельбой с помощью различных градуированных циферблатов. Рядом кнопка пуска торпеды и главный пульт атаки, а около него огромный главный компас. Шум дизельных двигателей, который снаружи едва слышался за шумом моря, внутри подлодки был настолько громким, что можно было не расслышать того, что говорили. Все вокруг вибрировало, и везде стоял пронзительный запах стали и масла.
До прибытия командира главный инженер устроил офицерам-практикантам ознакомительную экскурсию по кораблю, поясняя и показывая им то, что до этого они изучали в теории. Теперь пришло время практических занятий.