С марта 1924 года — заместитель председателя Реввоенсовета СССР и наркома по военным и морским делам, с апреля 1924 — одновременно начальник штаба Красной армии и начальник Военной академии РККА. А с января 1925 года — председатель Реввоенсовета СССР и нарком по военным и морским делам. Под руководством Фрунзе проводилась военная реформа в 1924–1925 годах. Она была направлена на сокращение численности армии, разросшейся в период гражданской войны до более 5 миллионов человек, введение принципа единоначалия, реорганизацию военного аппарата и политуправления РККА. Кроме того, он являлся автором ряда военно-теоретических работ.
Несмотря на то, что Фрунзе был противником Троцкого, Сталин ревниво относился к быстрому карьерному продвижению первого. Кроме того, соратника Ленина беспокоило то, что самые его близкие друзья — Ворошилов и Буденный — все больше сближались с Фрунзе, относясь к нему с почтением. Если в искренности Ворошилова, его заместителя по Реввоенсовету и НКО, можно было несколько сомневаться, то Буденного Михаила Васильевича, как «народного маршала», высоко ценил. Не случайно он числил себя кавалеристом — носил синие петлицы и шпоры на сапогах.
Это было время, когда Троцкого заменил Фрунзе. Но вместе с тем Сталин понимал, что РККА еще не стала послушным орудием в его руках. Армию возглавил человек твердых правил, решительный, смелый, пользовавшийся высоким авторитетом в армии и партии. Во всяком случае, не меньшим, чем генеральный секретарь партии.
Бедой Фрунзе было состояние здоровья, потерянного в тюрьмах и на фронтах гражданской сечи. Он страдал коварной болезнью — язва желудка. Ему нужна была диета, спокойный образ жизни, относительная гиподинамия в ходе обострения болезни. А ему его заместитель каждый раз стал предлагать съездить на охоту или рыбалку. Язва этого не терпит. Начались обострения.
Как писал Владимир Успенский в своей книге «Тайный советник вождя»:
В сентябре 1925 года Ворошилов уехал с женой в Крым, в Мухалатку, где отдыхал Сталин. Через несколько дней они пригласили Фрунзе к себе. И снова Клим предложил Михаилу поохотиться. Только охота тогда в горах оказалась неудачной. Возвратились на дачу совершенно измотанные, без добычи. Возвращение в Москву для Михаила Васильевича было трагическим. Он не ехал — его везли. Сопровождающая медсестра не позволяла ему вставать с постели. Михаил Васильевич чувствовал себя скверно. Усилились боли в области желудка. Но отдохнувши несколько дней дома, он почувствовал себя лучше и с удивлением узнал, что на 29 октября назначена операция. Он писал жене, оставшейся в Крыму:
Оперировали Фрунзе в Солдатенковской больнице. Сталин присутствовал на операции в коридоре операционной. Сильно волновался и даже переживал.
По свидетельству очевидцев, он суетился, метался, как зверь в клетке, обуянный каким-то страхом, который неожиданно вселился в него. Он, наверное, переживал за исход операции, ведь она была не столько одобрена, сколько санкционирована вождем. Об этом знало его близкое окружение…
На вторые сутки после операции Михаил Васильевич скончался… В центральных газетах сообщалось, что Михаил Васильевич ушел из жизни в результате сердечной недостаточности. Поползли слухи, что устранил своего соперника сам Сталин, а точнее по его указанию. Но фактов не было и нет, были и остаются одни эмоции.
В 1920 году в семье Фрунзе родилась дочь Татьяна, через три года — сын Тимур.
После смерти родителей детей на воспитание взяла бабушка. Когда не стало бабушки, сестру и брата определил в свою семью друг Михаила Васильевича — Клим Ефремович Ворошилов.