Типичный представитель корпуса офицеров Генштаба, считавших себя основой армии, Гальдер без восторга отнесся к приходу Гитлера. Конечно, декларируемые новым рейхсканцлером цели – ревизия условий Версаля и восстановление места Германии в ряду ведущих европейских держав – не могли не найти поддержки в офицерской среде. Но в то же время Гальдер с первых же шагов нацистов пришел к выводу, что страна попала в руки безответственных политических авантюристов, стиль действий которых претил крайне осторожному и чопорному потомственному офицеру. Напряженная нацистская риторика также вызывала у него отвращение, а слишком радикальные и непредсказуемые действия нового правительства – большие опасения. В то же время, вопреки послевоенным утверждениям, Гальдер отнюдь не сразу смог понять сущности нацистского режима. Так, вскоре после «путча Рёма» – уничтожения руководства СА 30 июня 1934 года – он писал начальнику Войскового управления генералу Людвигу Беку: «Чистое и основанное на идеалистическом воодушевлении желание рейхсканцлера на практике из-за множества некомпетентных действий исполнителей искажается, а частично даже превращается в противоположное тому, к чему стремится рейхсканцлер… Сотрудничество уступает место все более углубляющемуся антагонизму между двумя группами, одна из которых
Новая власть предоставила офицерам рейхсвера возможности для быстрой карьеры. Через полтора года после прихода Гитлера к власти и через три после получения звания полковника, Франц Гальдер 1 октября 1934 года был произведен в генерал-майоры. Одновременно он получил назначение командующим артиллерией 7-й дивизии, который по должности являлся одним из двух заместителей командира дивизии (вторым являлся командующий пехотой). За время пребывания Гальдера на посту командующего артиллерией VII военного округа в вооруженных силах Германии произошли коренные изменения. 16 марта 1935 года был принят Закон о создании вермахта.
Формирование дивизий растянулось на довольно долгий срок, причем одновременно на базе штабов военных округов начато формирование штабов армейских корпусов. В VII военном округе (и соответственно в VII армейском корпусе, который возглавил генерал Вальтер фон Рейхенау) были сформированы 27-я дивизия (со штабом в Аугсбурге) и горно-стрелковая бригада в Гармиш-Партенкирхене. 15 октября 1935 года генерал-майор Франц Гальдер принял командование 7-й дивизией, штаб-квартира которой размещалась в Мюнхене, и 1 августа 1936 года был произведен в генерал-лейтенанты. Основной задачей Гальдера на этом посту было проведение прежде всего учебных мероприятий, ведь при увеличении числа дивизий и объявлении всеобщей воинской повинности вермахт принял в свои ряды сотни тысяч неподготовленных новобранцев, много молодых офицеров или же ветеранов Первой мировой, которым надо было наверстать почти двадцатилетний период вынужденного безделья. Старые дивизии – как та же 7-я – также не сохранились, ведь их личный состав был использован в качестве кадра для новых формирований и место ветеранов заняли новобранцы. Поэтому год в Мюнхене прошел для Гальдера в постоянных учениях и маневрах.
Во главе дивизии Гальдер пробыл немногим более года, после чего главнокомандующий сухопутными войсками генерал-полковник барон Вернер фон Фрич и начальник Генштаба генерал артиллерии Людвиг Бек приняли решение поручить ему ответственное задание – подготовку и проведение крупных общевойсковых маневров. Маневры предполагалось провести летом – осенью 1937 года в Мекленбурге. Важной особенностью этих маневров было то, что в них впервые должны были принять участие крупные танковые и моторизованные соединения.