Объем задач, решаемых Генеральным штабом, с каждым годом увеличивался, сфера деятельности его отделов значительно расширилась. Это требовало повысить правовое положение и авторитет Генерального штаба в целом и, в частности, поднять служебные категории его работников. С этой целью в октябре - ноябре 1939 года основные отделы Генерального штаба были реорганизованы в управления. Однако его функции были, по сути, сужены в связи с изъятием и передачей ряда управлений в воссозданное ГУ РККА. Но это продолжалось недолго.
В 1940 году Главное управление РККА было расформировано, и решение всех вопросов боевой подготовки войск, строительства вооруженных сил, мобилизационного и оперативного планирования возлагалось на Генеральный штаб.
Поиски лучшей организации Народного комиссариата обороны продолжались и в последующем. Учитывая обострившуюся международную обстановку, опыт начавшейся второй мировой войны, а также войну с Финляндией, в 1940 году была пересмотрена организационная структура Наркомата обороны. Некоторые его ведущие управления были реорганизованы в главные управления, созданы новые, органически необходимые управления, улучшена и приспособлена к военному времени и структура Генерального штаба. В этой организации, что весьма положительно, Генштаб и начал Великую Отечественную войну, имея в своем составе 8 управлений (оперативное, разведывательное, организационное, военных сообщений, мобилизационное, устройства тыла и снабжения, по укомплектованию войск и военно-топографическое) и 3 отдела (укрепленных районов, военно-исторический, кадров).
Изменился и руководящий состав. Начальником Генерального штаба вместо Б. М. Шапошникова, назначенного заместителем наркома, с августа 1940 года стал генерал армии К. А. Мерецков; его заместителем вместо И. В. Смородинова - генерал Н. Ф. Ватутин, который возглавил одновременно и Оперативное управление.
Меня назначили начальником штаба Одесского военного округа. Обязанности, которые я выполнял в Генеральном штабе, были разделены: руководство материально-техническими вопросами возлагалось на помощника начальника Генштаба по тылу генерала В. Д. Иванова, а организационно-мобилизационными - на второго заместителя начальника штаба генерала В. Д. Соколовского, должность которого была учреждена в феврале 1941 года.
В 1940 году на вновь учрежденную должность помощника начальника Генштаба по авиации назначается дважды Герой Советского Союза Я. В. Смушкевич.
По долгу службы мне пришлось встречаться и работать с замечательными и опытными операторами - А. М. Василевским, В. Д. Ивановым, А. Ф. Анисовым, возглавлявшими в разное время Оперативное управление - ведущее в Генеральном штабе.
В обстановке надвигавшейся второй мировой войны перед Коммунистической партией, правительством и НКО встал ряд неотложных задач по увеличению численности вооруженных сил и повышению их боеготовности. Уже отмечалось, что в 1935 году в связи с частичным переводом Красной Армии на кадровое положение начался количественный рост соединений и частей, строились военные городки. Успешно продолжалось перевооружение армии и флота. Организационно оформлялись новые рода войск. Повысились требования к боевой и оперативной подготовке войск и штабов, к подготовке командных кадров, и особенно высококвалифицированного высшего командного и начальствующего состава. Все настоятельнее стала ощущаться потребность в дальнейшей теоретической разработке и более глубоком исследовании важнейших проблем строительства и подготовки вооруженных сил, в развитии новой теории военного искусства глубокой операции и глубокого боя.
Военная академия имени М. В. Фрунзе готовила общевойсковых командиров тактического профиля, другие академии выпускали специалистов для различных родов войск. Лишь оперативный факультет, созданный в 1931 году при Военной академии имени М. В. Фрунзе, готовил в ограниченном количестве командные кадры с широким оперативным кругозором, знающие основы операций, вождение крупных соединений и объединений всех родов войск и видов вооруженных сил. Однако в новых условиях он не обеспечивал потребности армии в высококвалифицированных руководящих командных кадрах, не мог развернуть должную разработку стоявших перед вооруженными силами военно-теоретических проблем.
В связи с этим в начале 1936 года ЦК ВКИ(б) и СНК СССР по представлению Генерального штаба приняли решение создать Академию Генерального штаба. Согласно этому постановлению Народный комиссар обороны 11 апреля 1936 года издал приказ об образовании Академии Генерального штаба РККА с задачей "совершенствовать подготовку высококвалифицированных командиров для несения службы Генерального штаба в крупных общевойсковых штабах и органах высшего командования". На академию, которая была подчинена непосредственно начальнику Генерального штаба, возлагалась и другая, не менее важная задача - стать центром военно-теоретической работы в вооруженных силах, и, в частности, всесторонне разработать коренные вопросы теории современного военного искусства.