Наркомат обороны состоял из административно-мобилизационного управления (начальник — комдив Абрам Миронович Вольпе, расстрелян), разведывательного управления (комкор Семен Петрович Урицкий, расстрелян), управления Морских сил РККА (флагман флота 1-го ранга Владимир Митрофанович Орлов, расстрелян), управления Военно-воздушных сил РККА (командарм 2-го ранга Яков Иванович Алкснис, расстрелян), автобронетанкового управления (командарм 2-го ранга Иннокентий Андреевич Халепский, расстрелян), управления ПВО (командарм 1-го ранга Сергей Сергеевич Каменев, умер в 1936 году).
В наркомате были также Управление военно-учебных заведений, Инженерное, Обозно-вещевое, Санитарное, Ветеринарное, Управление продовольственного снабжения, Управление по начальствующему составу, Управление делами наркомата, инспекция и финансовый отдел.
Все эти структуры подчинялись непосредственно наркому.
Тухачевскому, как заместителю наркома и начальнику вооружений РККА, подчинялись другие управления — артиллерийское, химическое, связи. Его аппарат занимался техническим перевооружением армии.
Ворошилов и Сталин, находясь в Сочи, 3 сентября 1935 года телеграфировали Молотову и Кагановичу: «Считаем целесообразным Штаб РККА переименовать в Генеральный штаб РККА. Необходимо это оформить в советском порядке...» Уже 5 сентября состоялось решение политбюро. 22 сентября Штаб РККА стал Генштабом.
Через два месяца, 22 ноября 1935 года, был создан Военный совет при наркоме обороны. 13 марта 1938 года его переименовали в Главный военный совет.
Но в повседневной армейской жизни нужно было как-то отличать рядового бойца от командира. 16 января 1919 года появился приказ Реввоенсовета «О введении знаков различия командного состава РККА по занимаемым должностям». На рукаве гимнастерки и шинели появились геометрические фигуры — треугольники для младшего командного состава, квадраты для старшего и ромбы для высшего комсостава. Квадраты в армейском обиходе стали именовать «кубарями», ромбы — «шпалами».
В 1922 году ввели нарукавные клапаны, на которые нашивались знаки различия, а в 1924-м — петлицы. Кроме того, составили так называемую таблицу категорий для военнослужащих. Знаки различия соответствовали не воинскому званию, а занимаемой должности. Скажем, командир отделения носил в петлицах два треугольника, командир взвода — один квадрат, комбриг — один ромб.
Но кадровая армия нуждалась в строгой и понятной воинской иерархии.
23 сентября 1935 года «Правда» опубликовала постановление ЦК и Совнаркома «О введении персональных военных званий начальствующего состава РККА и об утверждении положения о прохождении службы командным и начальствующим составом РККА».
В Красной армии появились лейтенанты, старшие лейтенанты, капитаны, майоры, полковники и даже маршалы Советского Союза — звание, «персонально присваиваемое Правительством Союза ССР выдающимся и особо отличившимся лицам высшего командного состава».
20 ноября это звание получили первые пять военачальников — командующий Особой Дальневосточной армией Василий Константинович Блюхер, инспектор кавалерии РККА Семен Михайлович Буденный, нарком обороны Климент Ефремович Ворошилов, начальник Генерального штаба Александр Ильич Егоров, заместитель наркома Михаил Николаевич Тухачевский.
Из пяти первых маршалов троих расстреляют, Сталин сохранит только своих старых друзей Ворошилова и Буденного — они оба звезд с неба не хватали, но были преданы вождю до мозга костей.
Появилась и новая форма, и знаки различия.
Работа над внешним видом маршала шла долго, в ней участвовали лучшие умы наркомата. 10 декабря 1935 года инспектор кавалерии Красной армии Семен Михайлович Буденный писал наркому Ворошилову:
«К.Е.!
Я Вам давно хотел сказать о том, что когда человек что-нибудь решает, то при этом решении возникает первая мысль и эта мысль является самым правильным решением. Затем этот человек начинает эту мысль шлифовать, а в результате отказывается от первой мысли и ошибается.
Правда, это философия, но в жизни Вы сами это в практике замечали. Поэтому предлагаю маршальскую форму оставить так, как она есть».
Но размышления об офицерской форме не покидали маршала, склонного к философии.
На следующий день Буденный вновь обратился к наркому с запиской: