Родился 4 ноября 1899 г. в Шлезвиге в семье квалифицированного рабочего. На флоте с 1 июля 1915 г. На линейном крейсере «Мольтке» участвовал в Ютландском бою, затем служил на легких крейсерах «Штральзунд» и «Пиллау», став 13 декабря 1917 лейтенантом-цур-зее. В 1919 г. ненадолго вышел в отставку, вернувшись обратно на флот через год. В 20-х годах Рогге служил на старых бронепалубных крейсерах «Аркона» и «Амазоне», затем яхте «Ашта» и учебном корабле «Ниобе», пребывание на которых навсегда отставило в его сердце любовь к парусным судам. Командование заметило несомненную педагогическую жилку в молодом моряке, после чего практически вся остальная довоенная служба Рогге оказалась связана с обучением будущих офицеров нового германского флота. Так, в 1930–1931 гг. он в должности офицера по учебной части совершил дальний поход на легком крейсере «Эмден», по окончании которого в течение трех лет служил в Учебной инспекции ВМС. В 1935–1936 гг. Рогге — первый офицер на легком крейсере «Карлсруэ», а затем свершилась его мечта — он получил под свое командование учебный парусник Кригсмарине «Горх Фок» (1936–1938 гг.). В феврале 1938 г. Рогге провел испытания новейшего парусного учебного корабля «Альберт Лео Шлагетер», став после их окончания его командиром. Он оставался на этой должности до 6 сентября 1939 г., когда получил назначение на HSK-2 для комплектования команды и подготовки корабля к походу. В списке офицеров, планировавшихся на должности командиров рейдеров, составленном кадровой службой флота еще до начала войны, Рогге значился одним из первых. Командирские качества, профессионализм, знание психологии подчиненных, характер, интеллект, ум и предприимчивость делали его идеальным кандидатом на этот пост.
Получив назначение, Рогге прибыл в Бремен. Обнаружив, что на «Голденфельсе», получившем для операционных целей обозначение «Шифф-16», работы еще даже и не начинались, он развернул кипучую деятельность. Особое внимание фрегаттен-капитан уделил комплектованию своей будущей команды. Так в мемуарах он писал:
«Требовались особые моральные качества команды, способность людей выдерживать напряжение и преодолевать трудности на протяжении максимально долгого времени. Пределы возможного в этой сфере совпадают с пределами человеческой стойкости, с границей тех физических и эмоциональных нагрузок, которые люди способны перенести в длительном плавании».
Из присланных РВМ 214 низших чинов Рогге после личной беседы с каждым отклонил 104 кандидатуры. Не прошли также и несколько офицеров.