Политический сионизм как общественное движение не был в России легальным. Правда, он не преследовался властями в той степени, в какой преследовалось социалистическое движение, но отсутствие законного базиса для существования ограничивало и сковывало его деятельность. И, тем не менее, политический сионизм вызвал в еврейских массах в России напряженный и обширный процесс национально-общественного возрождения. В ходе организации сионистских отделений (хотя и без легальной базы) в разных местах и их подчинения центральным учреждениям, само собою восстановилась и связь между еврейскими общинами разных городов и местечек. Таким образом, в России снова произошла консолидация — конечно, другим путем и в иной форме — еврейских общественных сил, раздробленных и разъединенных со времени упразднения «кагала» — автономии еврейских общин, ликвидированной Николаем I в 1844 году. По причине самодержавного режима, исключавшего открытую и гласную общественную деятельность, русские сионисты свою разъяснительную работу вели преимущественно устно, с помощью сотен агитаторов и активистов, действовавших во всех местах жительства евреев. Невзирая на цензурные строгости, сионистская работа велась также через печать: издавались брошюры, рассылались циркуляры и т. п. В такой обстановке сионисты России готовились ко Второму конгрессу.
При всем энтузиазме, вызванном Первым конгрессом, где сошлись «восток» и «запад» мирового еврейства, не стушевались наметившиеся различия в подходе к национальной еврейской проблеме и путям сионизма между русскими сионистами из числа ветеранов Ховевей Цион и сионистами Запада — «новыми», «венцами» школы Герцля.
«Западники» ставили во главу угла политико-дипломатическую работу, невысоко ценя действия по ограниченному заселению Эрец-Исраэль, возрождению языка иврит и еврейской культуры. Ветераны же дорожили именно этими ценностями, вступая в борьбу и с местными, российскими «сионистами-политиками», в большинстве своем примкнувшими к движению после появления Герцля на общественной арене и созыва Первого конгресса.
Незадолго до Второго конгресса в России было зарегистрировано 373 местных сионистских кружка. О степени роста движения за год после Первого конгресса можно судить по тому, что до этого их было только 23. Сионистское движение во всем мире насчитывало тогда 913 организаций и групп. Накануне Первого конгресса существовало только 117. Таким образом, число сионистских кружков в России приближалось к 41 % общего их числа во всем мире.
Накануне Второго конгресса сионисты России сочли необходимым созвать свой съезд для выработки направления сионистской работы и для определения единой позиции по вопросам, которые будут обсуждаться на конгрессе. Среди российских сионистов имели различные хождение и даже противоположные взгляды: были Ховевей Цион старой формации, считавшие главным заселение Эрец-Исраэль, пусть даже и в ограниченных масштабах; были «политические сионисты» нового, герцлевского типа, противившиеся «просачиванию в Палестину» и всякой переселенческой работе без политико-юридической базы; «духовные сионисты» из школы Ахад-Гаама; «религиозные сионисты», преимущественно ортодоксальные раввины, которые сопротивлялись всякой культурной работе, исходившей из сионистской организации, — их отталкивало уже само слово «культура», чреватое, на их взгляд, попытками реформировать религию. Среди представителей всех этих направлений особенно обострились отношения между политическими сионистами и сторонниками Ахад-Гаама, вставшими в крайнюю оппозицию Герцлю и его сионистско-политической системе.
Съезд собрался в Варшаве без разрешения властей, и совещания проходили в частном доме. Он открылся 19 августа 1898 года и закончился 22 августа, за шесть дней до открытия Второго сионистского конгресса в Базеле. То был первый съезд российских сионистов («Первым съездом сионистов России» официально назван Минский съезд, состоявшийся в начале сентября 1902 года. Однако на деле он был вторым. Первый, Варшавский, не упоминался только потому, что был проведен нелегально.), и в нем участвовало около 160 представителей из 93 городов и местечек. Большинство затем отправились в качестве делегатов на Второй конгресс.
На Варшавском съезде были зачитаны обзоры общего состояния движения в России и работы местных организаций, а также проведены предварительные прения по вопросам повестки дня Второго конгресса, в том числе о переселении и по поводу Колониального банка.
Обсуждения и решения Варшавского съезда оказали существенное влияние на ход Второго сионистского конгресса. По рассмотренным обоими форумами вопросам конгресс почти целиком принял предложения российских сионистов. Кроме того, Варшавский съезд повлиял на весь ход сионистской работы в России. Съезд помог сближению между ветеранами Ховевей Цион и политическими сионистами, выявив базу для совместной работы.