Главным оппонентом Сталина по военным вопросам был Троцкий. Лев Давидович при строительстве Красной Армии делал упор на использование бывших царских офицеров и генералов – выходцев из дворян и интеллигенции, тогда как Иосиф Виссарионович предпочитал им унтер-офицеров из рабоче-крестьянской среды, вроде того же Буденного. Унтер-офицеры умели говорить с солдатской массой, умели повести ее в бой, могли успешно командовать взводами и ротами, но по части планирования операций, вопросам организации и стратегии, а порой и элементарной работы с картой без помощи специалистов оказывались как без рук. Сталин больше внимания уделял моральному фактору, надеялся, что коммунисты и рабочие сумеют перевоспитать «в духе коммунистической сознательности» и повести за собой солдатскую массу – вчерашних крестьян. Троцкий же, понимая, что заставить воевать за идею мировой революции архангельских или калужских мужиков практически невозможно, предлагал упирать в пропаганде на патриотические мотивы, убеждая мужиков в том, что им приходится отражать натиск Антанты. В чем не расходились Ленин, Троцкий и Сталин, так это в том, что по-настоящему советская власть может опереться на пролетариат и беднейшее крестьянство, из которых и состояли наиболее надежные части Красной Армии. Другой опорой советской власти являлись интернациональные части из латышей, китайцев и бывших военнопленных солдат германской и австро-венгерской армии. Их использовали, в частности, для подавления восстаний крестьян, недовольных продразверсткой.
Весной 1919 года Сталину пришлось еще раз выполнять функцию «пожарного для безнадежных положений». Под Петроградом войска Юденича подступили к городу, взяли Ямбург, Гдов и Псков. 19 мая в северную столицу прибыл Сталин. Он сразу же мобилизовал в армию 13 тыс. рабочих, а также провел в Петрограде широкие аресты офицеров и «буржуазных элементов, подозреваемых в принадлежности к белогвардейской организации «Национальный центр». Часть арестованных была расстреляна. 13 июня подняли мятеж гарнизоны фортов Красная Горка и Серая Лошадь. Через три дня Сталину с помощью корабельной артиллерии удалось принудить мятежников к капитуляции. А 21 июня советская 7-я армия перешла в контрнаступление и оттеснила Юденича к Гдову.
И Сталин, и Троцкий, и другие не колеблясь расстреливали трусов, паникеров и изменников (или тех, кто казался им изменниками), а также заложников из представителей имущих классов населения. Но Лев Давидович еще и сам поднимал в атаку под огнем врага дрогнувший полк под Петроградом, произносил зажигательные речи на митингах. Сталин же работал преимущественно в штабах, канцеляриях, давал поручения другим, а сам не был мастером в общении с массами. Будучи, как и Троцкий, с марта 1919 года членом Политбюро, Сталин считал, что не обязан подчиняться главе военного ведомства. Но такого рода конфликты случались у Троцкого и с другими членами Реввоенсовета. Поэтому нельзя сказать, что между Сталиным и Троцким тогда существовал антагонизм. В годы Гражданской войны Сталин публично признавал заслуги Троцкого в деле защиты революции.
Сталин был членом Реввоенсовета Южного фронта в период разгрома Деникина осенью и зимой 1919 года. Впоследствии именно ему приписывали авторство плана наступления через Донбасс с целью рассечь Вооруженные силы Юга России и получить поддержку местного пролетариата. Троцкого же выставляли главным противником этого плана и сторонником наступления через Донскую область, где Красной Армии пришлось бы иметь дело с настроенным к ней враждебно казачьим населением. На самом же деле в этом вопросе разногласий между Сталиным и Троцким не было, ибо и Иосиф Виссарионович, и Лев Давидович были сторонниками нанесения главного удара через Донбасс. Но именно Троцкому, в конце концов, удалось убедить Ленина и других членов Политбюро принять именно этот план.
Именно Троцкий был автором лозунга «Пролетарий, на коня!» и инициатором создания крупных кавалерийских соединений, но позднее сталинская историография обвинила председателя Реввоенсовета в том, что он был якобы противником создания красной кавалерии.