Съезд, конечно, мог удовлетворить тщеславие Троцкого. Делегаты устроили ему самую продолжительную овацию, во многих приветствиях к съезду имя Троцкого упоминалось рядом с именем Ленина. Однако с точки зрения политической и организационной съезд укрепил позиции «тройки», возглавляемой Зиновьевым. Сталин был вновь избран Генеральным секретарем ЦК РКП(б). Доклад о промышленности, который прочитал Троцкий на XII съезде партии, был, пожалуй, наиболее интересным из всех докладов, хотя и не бесспорным. Однако в первые месяцы после съезда Троцкий большую часть времени занимался вопросами не слишком актуальными. Неожиданно он опубликовал серию статей о нормах поведения «воспитанного человека», статью «Водка, церковь и кинематограф», несколько статей о русском языке и его деградации в печати. Иначе говоря, всячески демонстрировал свою эрудицию, но не больше. Между тем экономическое положение в стране улучшалось очень медленно. Крестьяне были недовольны высокими ценами на промышленные товары, рабочие — низкой зарплатой, которая выплачивалась при этом не слишком регулярно. В июле и августе 1923 года во многих крупных промышленных центрах (Москва, Харьков, Сормово и др.) прокатилась волна рабочих забастовок, чрезвычайно обеспокоивших партийное руководство. Необходимо было основательно обсудить экономическое положение и экономическую политику партии. Широкому и глубокому обсуждению крайне мешали, однако, дефицит внутрипартийной демократии и засилье аппаратного бюрократизма. Вопрос о демократии, конечно, не в ее общегражданском, а пока еще в узкопартийном значении выдвигался на первый план.
Одним из первых этот вопрос весьма решительно поднял в ряде своих выступлений Ф. Э. Дзержинский. В сентябре 1923 года в связи с рабочими волнениями и деятельностью образовавшейся в партии и профсоюзах оппозиционной «Рабочей группы», руководимой Г. И. Мясниковым, был созван Пленум ЦК РКП(б). В своем выступлении на этом Пленуме Дзержинский указал на застой во внутрипартийной жизни. Он сказал также, что подмена выборного начала «назначенством» партийных секретарей становится политической опасностью и парализует партию. Для рассмотрения внутрипартийного положения Пленум ЦК создал комиссию во главе с Дзержинским.
Троцкий и его единомышленник Е. Преображенский отказались войти в комиссию Дзержинского.
К осени 1923 года в партии, включая и ее руководящие круги, образовалось несколько пока еще полулегальных оппозиционных групп, выступавших главным образом с левых точек зрения. Между этими группами шел интенсивный обмен мнениями, вырабатывалась и единая платформа. Не хватало только авторитетного лидера. Таким лидером формирующейся левой оппозиции и стал Троцкий. Он наконец отбросил свои многомесячные колебания и решил возглавить оппозицию Сталину и всей «тройке». Несомненно, что на решение Троцкого повлияло не только давление многих его друзей и сторонников. Троцкий убедился, что его постепенно оттесняют от власти. Даже в военном комиссариате, где он привык считать себя полным хозяином, его позиции были ослаблены. В состав РВС Республики и в Совет обороны были включены по решению Политбюро два старых противника Троцкого — К. Е. Ворошилов и М. М. Лашевич.
8 октября 1923 года Троцкий направил членам ЦК и ЦКК письмо с резкой критикой партийного руководства. Большинство замечаний Троцкого о бюрократизации партийного аппарата и свертывании партийной демократии было совершенно справедливо. Однако письмо содержало и немало преувеличений, если иметь в виду обстановку 1923 года.
«Тот режим, — писал Троцкий, — который в основном сложился до XII съезда, а после него получил окончательное закрепление и оформление, гораздо дальше от рабочей демократии, чем режим самых жестких периодов военного коммунизма».
В письме Троцкого было множество намеков на необходимость изменений в руководстве партией. Тем не менее он заявлял, что ставит своей целью лишь изменение ошибочной политики, а не «нападение» на существующее руководство. Он подчеркивал также, что считает это письмо внутренним документом ЦК и ЦКК и не предполагает излагать свои взгляды перед всей партией. Письмо, однако, стало известно в копиях многим сторонникам Троцкого и было опубликовано в 1924 году меньшевистской эмигрантской газетой «Социалистический вестник».
Еще более резкие замечания содержались в полученном 15 октября в ЦК РКП(б) «заявлении», которое подписали сорок шесть известных членов партии. Несомненно, Троцкий был заранее ознакомлен с его содержанием.
«Режим, установившийся в партии, — говорилось в этом «заявлении», — совершенно нетерпим. Он убивает самодеятельность партии, подменяя партию подобранным чиновничьим аппаратом, который действует без отказа в нормальное время, но который неизбежно дает осечки в моменты кризисов и который грозит оказаться совершенно несостоятельным перед лицом надвигающихся серьезных событий».