Тем временем в начале 30-х годов его отец вернулся на военную службу. В марте 1935 г. Зигфрид Марселль получил звание оберста и вскоре был назначен командующим 2-м оборонительным районом в Бремене. Узнав о желании сына стать военным летчиком, он горячо поддержал его. Однако в будущем их отношения так и остались довольно прохладными.
В апреле – октябре 1938 г. Ханс-Йоахим отработал обязательную для всех молодых людей трудовую повинность. Не будучи атлетом, он заслужил хорошую рекомендацию. 7 ноября того же года он вступил в Люфтваффе и был направлен в Кведлингбург для прохождения курса первоначальной военной подготовки.
1 марта 1939 г. Марселль стал курсантом военной авиашколы в Фюрстенфельдбрюкке и затем 13 марта получил звание фанен-юнкера. Он проявил себя талантливым учеником, и уже через несколько недель ему доверили самостоятельные полеты. Один из курсантов, учившийся вместе с ним, сказал о нем: «
Однажды во время дальнего учебного перелета Марселль приземлился на автобане между Магдебургом и Брауншвейгом. Покинув кабину, он спокойно отправился за ближайшие деревья, чтобы облегчиться. Сделав все дела, он так же спокойно сел в самолет и взлетел. И все бы ничего, если бы не работавшие поблизости фермеры. Увидев приземлившийся на шоссе самолет, они побежали к нему, чтобы узнать, не требуется ли пилоту помощь. Они были уже рядом, когда Марселль, взлетая, дал полный газ. В итоге неудавшиеся помощники были просто сметены воздушным потоком. Взбешенные подобным отношением, фермеры сообщили о происшествии куда следует, и молодой курсант был на время отстранен от самостоятельных полетов.
Затем в ходе очередного тренировочного вылета он неожиданно затеял воздушный бой на малой высоте. Это было серьезным нарушением правил полетов, и отправленное представление на присвоение ему следующего звания было отозвано. Окружающие вообще считали, что тогда Ханс-Йоахим остался в авиашколе лишь благодаря связям своего отца.
1 ноября Марселлю все же присвоили звание фенриха. Для завершения обучения его направили в истребительную авиашколу «Вена-Швехат», располагавшуюся, как следовало из наименования, на аэродроме Швехат, в нескольких километрах от юго-восточной окраины Вены. Затем 15 января 1940 г. школу переименовали в 5-ю истребительную авиашколу.
В конце мая Марселля перевели в учебно-боевую истребительную группу «Мерзебург». Группа была вооружена Bf-109Е и базировалась на одноименном аэродроме в 12 км южнее Галле. В ней молодые пилоты проходили окончательную подготовку непосредственно перед отправкой в действующие части.
Вместе с Марселлем в Мерзебург прибыл и Вернер Шроер, ставший впоследствии одним из лучших асов Люфтваффе и кавалером Мечей. Он потом рассказывал о своем товарище: «