Почуяв опасность, Сталин тут же отстранил Тухачевского с поста начальника Генерального штаба и направил командовать войсками Ленинградского военного округа. Прикрываясь именем Тухачевского, Сталин начал проводить в Красной армии массовые репрессии. Их жертвами становились военные специалисты.
Довольно скоро Сталин лично стал заниматься разработкой военной доктрины СССР. Еще одной причиной дела о «заговоре генералов» стали разногласия между Ворошиловым и его заместителем Тухачевским. В результате конфликта Тухачевский предпринял попытку сместить своего прямого начальника с поста наркома обороны. Сталин не стерпел такого.
Следом за генералами полетели головы высшего и среднего командного состава, что не замедлило сказаться на боеспособности Красной армии. Место репрессированных заняли новые люди, мало сведущие в военном деле, зато беспрекословно повиновавшиеся вождю.
Сталин уже давно хотел освоить военную науку, он неоднократно беседовал с Ворошиловым и с Шапошниковым, которого можно было назвать «живой военной энциклопедией». После 1938 года на беседы со Сталиным стали приглашать и вновь назначенных командующих родов войск и военных округов.
В эти годы активно заработала разведка, как военная, так и НКВД. Разведку (ГРУ) Сталин контролировал лично. Также вождь особое внимание уделял и встречам с конструкторами боевой техники и вооружений.
Осенью 1939 года, незадолго до начала советско-финской войны, встречи Сталина с командным составом Красной армии существенно участились. Именно эта война выявила некомпетентность прежнего руководства армией и необходимость его срочной замены. Сталин отстранил Ворошилова, назначив на его место Тимошенко, отличившегося на Карельском перешейке.
Новые назначения получили и другие военачальники: Мерецков, Кирпонос, Жуков, награжденный за разгром японской группировки званием Героя Советского Союза. Именно эти генералы начали ставить перед Сталиным вопросы об увеличении численности Красной армии, последующей мобилизации и нанесении превентивного удара по Германии. Мнение генералов совпадало с мнением Сталина, поэтому их не постигла участь предшественников.
Жуков стал заниматься вопросами мобилизации и распределения ресурсов по войскам, которые начали скрытно стягивать к советско-германской границе. Однако Гитлер ударил первым. Уже 22 июня 1941 года Генеральным штабом был подготовлен проект указа о проведении всеобщей мобилизации и образовании Ставки, которую должен был возглавить непосредственно Сталин. Но он отклонил это предложение, и председателем Ставки Главного Командования был назначен нарком обороны Маршал Советского Союза Тимошенко.
Довольно скоро Сталин пожалел об этом назначении. Тимошенко не мог решить многие важные вопросы, к тому же ни он, ни Жуков не горели желанием сообщать Сталину о просчетах в их собственных планах. Например, о падении Минска Сталин узнал от органов НКВД, а генералы молчали об этом целых два дня.
Сразу же после неприятного разговора с генералами Сталин уехал на ближнюю дачу в Волынское. Тогда ведущие члены Политбюро выехали к Генеральному секретарю и председателю Совнаркома, чтобы предложить ему реальный выход из кризиса. Они заявили, что надо создать чрезвычайный орган военного времени — Государственный комитет обороны, и предложили Сталину возглавить его. Сталин согласился. Тимошенко был назначен командующим войсками Западного фронта. Жуков вскоре также отправился на фронт, и его место уже в третий раз занял Шапошников.
30 июня был сформирован Государственный комитет обороны (ГКО) во главе со Сталиным. Заместителем его стал Молотов, членами — Ворошилов, Маленков, Берия. Впоследствии в ГКО были включены Микоян, Вознесенский, Каганович и Булганин. Это был скорее политический орган, которому формально подчинялась и Ставка.
После отъезда Тимошенко на фронт Сталин решительно взялся за преобразование Ставки. В первую очередь он упразднил пост председателя Ставки, сделав ее как бы коллегиальным органом под названием Ставка Верховного Командования.
8 августа Сталин принял на себя обязанности Верховного главнокомандующего, а его орган управления получил название Ставка Верховного Главнокомандования. Членами ее стали Тимошенко, Жуков, Молотов, Ворошилов, Буденный и Шапошников.
Таким образом, в руках Сталина сосредоточились огромная власть и полномочия. Он по-прежнему оставался Генеральным секретарем ЦК ВКП(б), председателем Совета народных комиссаров, но теперь был еще и председателем ГКО, наркомом обороны и Верховным главнокомандующим.