В 1918 г. он вступил в Красную Армию, стал любимцем председателя Реввоенсовета советской республики Л.Д. Троцкого, его выдвиженцем. Троцкий способствовал вводу Тухачевского в состав Реввоенсовета. В годы Гражданской войны он командовал рядом армий в боях в Поволжье и на Юге, воевал против войск Колчака на Урале и в Сибири, также командовал войсками Кавказского фронта при разгроме войск А.И. Деникина и Западным фронтом в советско-польской войне 1920 г. В 1921 г. Тухачевский командовал войсками Красной Армии, подавившими крестьянское восстание в Тамбовской и части Воронежской губерниях (так называемая антоновщина, по имени одного из его руководителей – А.С. Антонова; выступления крестьян, недовольных политикой «военного коммунизма» в 1920–1921 гг.).
В Красной Армии статус Тухачевского стабильно повышался. В 1925–1928 гг. он был начальником Штаба Рабоче-крестьянской Красной Армии (РККА), с 1931 г. он стал заместителем Л.Д. Троцкого, в 1936 г. стал первым заместителем народного комиссара обороны СССР (К.Е. Ворошилова) и начальником управления боевой подготовки. Ему одному из первых было присвоено звание Маршала Советского Союза (1935 г.; ему 42 года).
Тухачевский много сделал для технического перевооружения Красной Армии, способствовал развитию новых родов войск и видов вооружений – авиации, механизированных и воздушно-десантных войск, большое внимание уделял подготовке командного и политического состава. Тухачевский был инициатором создания ряда военных академий. В Москве в Военной академии им. М.В. Фрунзе он руководил кафедрой стратегии, читал лекции и проводил занятия по военной стратегии. Тухачевский написал ряд книг и статей с изложением стратегических взглядов на современную войну; они оказали существенное влияние на развитие военной мысли и практику военного строительства. Он много сделал для технической подготовки Вооруженных Сил СССР к войне с гитлеровской Германией.