Для строительства такой армии предлагалось и впредь широко привлекать на командные должности военных специалистов старой армии, работа которых ставилась под партийно-политический контроль военных комиссаров. Наряду с этим командный состав Красной Армии должен был готовиться из рабочих и трудящихся крестьян на курсах красных командиров. Права партийных ячеек в армии ограничивались: они не должны были вмешиваться в дело военного руководства.
Центральный Комитет партии подчеркивал высокую роль военных комиссаров и политорганов Красной Армии в деле политического воспитания личного состава, в строительстве и укреплении Советских Вооруженных Сил.
Против тезисов ЦК выступила так называемая военная оппозиция, явившаяся отзвуком «левого коммунизма» в советском военном строительстве. Ее ядро составляли бывшие «левые коммунисты». Но к военной оппозиции примкнул и ряд коммунистов, которые ранее не участвовали ни в какой оппозиции. На этот раз они оказались в рядах оппозиции потому, что были крайне недовольны руководством Троцкого в военном ведомстве. На съезде от военной оппозиции выступил с контрдокладом В. Смирнов.
Для выступления в прениях по военному вопросу записалось 64 делегата. По решению съезда обсуждение тезисов было перенесено на военную секцию, в работе которой приняло участие 85 человек, из них 57 с правом решающего голоса.
На съезде и на заседании секции развернулись бурные прения. Многие делегаты выступили с резкой критикой в адрес Троцкого, доказывая на фактах извращение им военной политики партии. В результате обсуждения на секции за основу для внесения поправок были приняты большинством голосов (37 против 20) тезисы оппозиции, предложенные В. Смирновым. Меньшинство секции устроило отдельное совещание и потребовало перенести обсуждение вопроса на пленум съезда. Но это требование было отклонено. После этого меньшинство заявило о своем несогласии с принципиальной установкой секции и покинуло заседание. 21 марта съезд вновь вернулся к военному вопросу. В этот день на закрытом вечернем заседании был заслушан доклад члена Реввоенсовета Республики С. И. Аралова о военном положении, а затем с сообщением о работе военной секции выступил Е. М. Ярославский, который придерживался взглядов военной оппозиции. Съезд решил предоставить слово для выступления в прениях равному числу ораторов как от большинства военной секции, так и от меньшинства с последующим заключительным словом основных докладчиков.
Представители военной оппозиции, критикуя недостатки и ошибки в деятельности военного ведомства и в частности действия Троцкого, принижавшего роль партийно-политического аппарата в Красной Армии, чрезмерно доверявшего старым военным специалистам и допускавшего много других извращений, вместе с тем выдвигали глубоко ошибочные положения по ряду вопросов военного строительства. Они обвиняли ЦК в том, что он якобы не обеспечивает правильного проведения военной политики, в результате чего будто бы в Красной Армии стали устанавливаться «самодержавно-крепостнические» порядки. К ним оппозиция относила введение твердой воинской дисциплины и воинских уставов. Оппозиционеры возражали против широкого привлечения старых военных специалистов на командные должности в Красной Армии, ошибочно считая, что «бывшее офицерство в своей массе близко белогвардейцам» и неспособно сродниться с советским строем. Они утверждали, что на службу Советской власти перешла якобы худшая часть специалистов старой армии.
Оппозиция требовала расширить функции военных комиссаров и предоставить им решающий голос в оперативных вопросах, а также расширить права армейских партийных организаций, что приводило по существу к коллективному управлению войсками. Некоторые представители оппозиции (Ф. И. Голощекин и др.) отрицали необходимость централизованного военного управления и единого командования всеми вооруженными силами Республики.
Руководители военной оппозиции (В. Смирнов и др.) аргументировали свои предложения тем, что введение уставных требований, твердой воинской дисциплины и предоставление некоторых привилегий командному составу якобы отпугивает среднее крестьянство от Красной Армии, так как все это напоминает ему царскую армию.
Все требования военной оппозиции сводились в конечном счете к возрождению тех порядков, которые были допустимы лишь в начальный период строительства Советских Вооруженных Сил, когда Красная Армия создавалась на основе добровольчества. Но в условиях развернувшейся гражданской войны и иностранной интервенции Советская власть не могла обойтись без регулярной, дисциплинированной Красной Армии. Требования военной оппозиции противоречили линии Коммунистической партии на создание такой армии.
В защиту тезисов Центрального Комитета на закрытом заседании съезда выступили В. И. Ленин, И. В. Сталин и А. И. Окулов.