На том же съезде Бунд принял резолюцию о своих отношениях к общероссийской партии: «Представляя себе Российскую социал-демократическую рабочую партию как федеративное соединение социал-демократических партий всех наций, населяющих Российское государство, съезд постановил, чтобы Бунд, как представитель еврейского пролетариата, вступил в нее как федеративная часть». Это решение, как и само признание еврейской национальности, вызвало крайнее недовольство среди вождей российской партии, которых ее ассимилированные еврейские члены уверяли, что нет никакой «еврейской нации». В партийном органе «Искра» шла бесконечная полемика по поводу «сепаратизма» Бунда. Глава левого крыла партии Ленин, впоследствии знаменитый диктатор, выступил с резкой статьей против федеративных притязаний еврейских социалистов. «Совершенно несостоятельная идея об особом еврейском народе, — писал он, — реакционна по своему политическому значению. Во всей Европе падение средневековья и развитие политической свободы шли рука об руку с политической эмансипацией евреев, с переходом их от жаргона к языку того народа, среди которого они живут, и вообще несомненным прогрессом ассимиляции их с окружающим населением... Еврейский вопрос стоит именно так: ассимиляция или обособленность. Идея еврейской национальности противоречит интересам еврейского пролетариата». Столь же усердно полемизировал с Бундом во имя пролетарской ассимиляции Ю. Мартов (Цедербаум). Эта полемика велась накануне исторического съезда в Лондоне (летом 1903 г.), на котором Российская социал-демократическая партия раскололась на большевиков и меньшевиков. Характерно, что наиболее видные еврейские социалисты остались в группе меньшевиков (лидеры ее Мартов, Дан-Гурвич и Троцкий-Бронштейн, лишь позже перешедший к большевикам), между тем как возглавленная Лениным группа большевиков имела в своих рядах лишь немногих и второстепенных еврейских членов.
На этом же съезде российской партии произошел раскол между нею и автономною группою Бунда. Подавляющим большинством голосов съезд отверг предложение о национально-федеративной организации партии и о широкой автономии Бунда; вследствие этого бундовские делегаты ушли из съезда и Бунд вышел из состава Российской социал-демократической партии. Еврейские рабочие «черты оседлости» и ее близкие к народу вожди остались в Бунде как самостоятельной организации, а ассимилированная интеллигенция предпочла числиться в российской партии. События следующих годов — политические погромы, с одной стороны, и революция 1905 года с другой — заставили Бунд вернуться в общую партию (1906), но вместе с тем ему пришлось определить свою национальную программу: в 1905 году, когда все еврейские партии выставили требование национальных прав, Бунд принял решение о требовании ограниченной «национально-культурной автономии» только в смысле признания прав еврейского народного языка в школе и в публичных учреждениях.