Троцкий принял участие в работе II съезда РСДРП. На съезде он поддержал Ленина против Бунда и «экономистов», но вместе с Мартовым выступил против Ленина по поводу проекта Устава партии. Он обвинил Ленина в жажде власти. После поражения меньшевиков на съезде вошел в состав их «теневого» Центрального Комитета.
В 1904 году Троцкий выпустил брошюру «Наши политические разногласия». Рассматривая причины раскола партии, он пришел к выводу, что они коренятся в том, что партия разрывается между двумя задачами: задачей непосредственной борьбы против царизма и задачей перспективной борьбы за социализм. В брошюре он вновь обвиняет Ленина в деспотизме. Действия Ленина ведут к тому, что «партия заменит собой рабочий класс, партийные органы заменят партию, наконец, единоличный диктатор заменит собой ЦК…»
В 1905 году после возвращения в Россию Троцкий написал работу «Итоги и перспективы», в которой впервые под большим влиянием Парвуса, видного немецкого социал-демократа, сформулировал основные идеи «перманентной революции». Их суть такова: пока революция уничтожает власть помещиков, крестьянство целиком на стороне пролетариата. Однако затем две основные черты политики пролетариата — коллективизм и интернационализм — встретят сопротивление у крестьян. Поскольку Россия крестьянская страна, постольку без прямой государственной поддержки европейского пролетариата рабочий класс России не сможет удержаться у власти. Потому если русский пролетариат хочет начать восстание, он должен это сделать с учетом того, что затем перенесет революцию на территорию Европы, станет инициатором ликвидации капитализма на мировой арене. Процитируем самого Троцкого: «Русский пролетариат… встретит организованную враждебность со стороны международной реакции и готовность со стороны пролетариата оказать революции организованную поддержку. Предоставленный самому себе рабочий класс России будет неизбежно сокрушен контрреволюцией в момент, когда крестьянство повернется спиной к пролетариату. Рабочим ничего не останется делать, как связать судьбу всей русской революции с судьбой социалистической революции в Европе. Русский пролетариат бросит на весы классовой борьбы против всего капиталистического мира колоссальную государственно-политическую власть, которую временные обстоятельства русской буржуазной революции ему дадут. С государственной властью в руках и с контрреволюцией за его спиной, с европейской революцией перед ним русский пролетариат бросит призыв к братьям во всем мире, старый призыв, но который на этот раз будет поднимать на последний бой: «Пролетарии всех стран, соединяйтесь!».
После поражения первой русской революции Л. Троцкий принимает участие в V съезде РСДРП. Он снова с меньшевиками, снова резко нападает на Ленина. По ленинской оценке, поведение Троцкого на съезде — «это позерство» (ПСС, т. 6, с. 27). После V съезда РСДРП Троцкий уезжает в Берлин. Здесь он часто встречается с К. Каутским, много печатается в социал-демократической газете «Vorwarts». С1907 года до начала Первой мировой войны Троцкий жил в Вене, восхищался австромарксистами, однако спустя годы дал им весьма саркастическую оценку.
Все эти годы Троцкий продолжал противостоять Ленину, большевикам. Рассуждал о судьбах революции в духе «перманентной революции». Без социалистической революции в Западной Европе говорить о социализме в России могут только люди с совершенно особым устройством головы.
Троцкий по-прежнему на стороне меньшевиков. «Нужно воспользоваться уступками царизма и на базе уступок строить открытую, легальную рабочую партию», — утверждал он. В январе 1912 года на Пражской конференции большевики в ответ на действия меньшевиков объявили о создании большевистской партии и начали издавать свою ежедневную газету «Правда». В ответ Троцкий создал антибольшевистский Августовский блок.
Накануне мировой войны состоялась Циммервальдская конференция социал-демократов. Ленин настаивал, чтобы конференция, призвала «превратить войну империалистическую в войну гражданскую». Он предложил также, чтобы конференция заявила о необходимости основать новый Интернационал.
Л. Троцкий осудил «революционное пораженчество» Ленина. Он утверждал, что интересам социализма соответствует окончание войны «без победителей и побежденных».
Формула, как очевидно, достаточно неясная. Однако именно Троцкому было поручено подготовить Циммервальдский Манифест. Хотя Манифест был взволнованным призывом оправиться от опьянения шовинизмом и положить конец кровопролитию, его выводы были туманны. Естественно, в нем не содержалось призыва превратить империалистическую войну в войну гражданскую, не высказывались также положения в пользу создания нового Интернационала.
В январе 1917 года Л. Троцкий приехал в Нью-Йорк. Здесь он тесно сотрудничал с Бухариным, Коллонтай и Володарским, редактировавшим газету «Новый мир».