Через три дня последовал положительный ответ. В мае 1918 г. Шапошников был назначен в Оперативное управление Высшего военного совета на должность помощника начальника. В октябре, следующего, 1919 г. он стал начальником Оперативного управления Полевого штаба РВС Республики. Он познакомился с М.В. Фрунзе, с которым вновь встретился в конце 1920 г. на Южном фронте при разработке планов операций против Врангеля (любопытно, что «черный барон», а в 1907—1910 гг. поручик лейб-гвардии Конного полка был сокурсником Шапошникова по Академии Генштаба). Высоко ценили начальника Оперативного управления и такие опытные генштабисты, как главком С.С. Каменев, начальник Полевого штаба РВСР П.П. Лебедев.
Должность начальника Оперативного управления — одна из самых хлопотных, требующих максимального напряжения сил. Практически все операции Красной
Армии были разработаны лично или при самом активном участии Бориса Михайловича. Недаром отмечалось в приказе РВСР от 14 октября 1921 г., в соответствии с которым военачальник был награжден орденом Красного Знамени: «В течение своей деятельности на высокоответственной должности начальника Оперативного управления Полевого штаба РВС Республики т. Шапошников являлся непосредственным активным сотрудником всей оперативной работы во всех ее подробностях… Занимая указанную должность… т. Шапошников с присущей ему инициативой… работал с полным самоотвержением и днем и ночью».
Ставший в 1924 г. начальником Штаба РККА Фрунзе, лично знавший о блестящих оперативных способностях Шапошникова, взял его своим помощником. Главное, чем пришлось заниматься двум талантливым военачальникам и всему аппарату Штаба, — проведение масштабной военной реформы. Преобразования затронули устройство армии и ее организационно-штатную структуру, систему комплектования и подготовку командных кадров, уставную регламентацию жизни войск и систему снабжения. Борис Михайлович же взялся за обобщение практики генеральных штабов различных стран с тем, чтобы выработать необходимые рекомендации для учреждения подобного органа в Красной Армии.
Результатом многолетней работы стал выход в 1927—1929 гг. трехтомного труда «Мозг армии», ставшего событием в развитии военно-стратегической мысли в СССР. Книга знакомила с основными взглядами автора на характер современной войны и ее масштабы, давала представление о требованиях, предъявляемых войной к органам оперативного управления и их работникам, четко определяла место Генерального штаба в системе стратегического руководства войсками, его структуру, порядок организации его работы.
Службу в высших штабах (в 1928—1931 гг. он возглавлял Штаб РККА) и теоретические изыскания Шапошников более десяти лет сочетал с командной деятельностью. Начиная с 1925 г., он командовал войсками Ленинградского (дважды), Московского и Приволжского военных округов, несколько лет руководил Военной академией имени М.В. Фрунзе. И все же главной сферой деятельности, в которой его талант проявился в наибольшей степени, была штабная сфера. В мае 1937 г. после повторного двухгодичного командования войсками ЛВО командарм 1-го ранга Шапошников был назначен начальником Генерального штаба РККА и заместителем народного комиссара обороны СССР.
Политический фон, на котором началась его деятельность на посту руководителя Генштаба, благоприятным не назовешь. Страна все глубже погружалась в пучину репрессий, которая все более энергично затягивала и Вооруженные Силы. Назначение Бориса Михайловича на должность последовало накануне суда над группой высших командиров — Тухачевским, Уборевичем и еще шестью военачальниками. При этом испытанием его лояльности властям предержащим стало привлечение Шапошникова к проведению суда в качестве члена Специального военного присутствия. Не следует забывать, что на посту руководителя Генштаба он сменил маршала Егорова, который через непродолжительное время также был репрессирован. Остается добавить, что и на самого Бориса Михайловича некоторые обвиняемые под давлением следствия дали показания о его антисоветской деятельности. Власть заставила будущего маршала идти словно по минному полю: один неверный шаг, малейшее подозрение в критическом взгляде на политический режим — и конец. Все это не могло не отражаться на его психологическом и физическом (без того нездоровом) состоянии.
Тем не менее он, как всегда, с головой ушел в работу. Маршал A.M. Василевский вспоминал, как Шапошников, приглашая его в 1937 г. на работу в Генштаб, не стал скрывать: работать придется до изнеможения. Эти слова в первую очередь выражали его собственное отношение к труду, его полнейшую самоотверженность в интересах дела.