В течение всего этого времени Герцль был занят подготовкой к конгрессу. После того как мюнхенская израилитская культовая община выступила с публичным протестом против проведения конгресса в Мюнхене, Герцль принял предложение перенести его в Базель. Собственно конгрессу предшествовала предварительная конференция в Базеле, заседаниями которой руководил Герцль. Его единомышленниками были Нордау, Минтц, Шапиро, Розенберг, Боденхаймер и Ландау. Определялись наиболее существенные моменты повестки дня и хода переговоров. Принимались единогласные решения, была создана комиссия по выработке программы, которая будет предложена конгрессу для формулирования окончательной резолюции.
«Мы совещались, — позднее писал Один из участников предварительной конференции, — принимали решения и фиксировали их… Конгресс организовал только Герцль, сн один, все деньги принадлежали ему, все усилия — тоже». Для Герцля было совершенно ясно, что подготовка к конгрессу должна быть проведена с величайшей тщательностью. Сюда входили выбор зала, обеспечение работы президиума, а также размещение участников. Как и в других случаях, Герцль проявил в этой подготовительной работе весь свой организаторский талант, безусловно, способствовавший тому, что конгресс прошел без осложнений.
Ожидания и надежды, возлагавшиеся на конгресс его участниками, были весьма различны. Не все разделяли убеждение, что произойдет нечто выдающееся, например, объединение всех «друзей Палестины». Многие опасались, что конгресс еще больше расколет еврейский народ, а работа по Палестине будет еще больше осложнена. Эту озабоченность выражали в первую очередь ответственные руководители «Ховеве Цион». Русские участники опасались еще и того, что могут прозвучать опрометчивые высказывания о России, что сделает положение русских евреев еще более тяжелым. Эта тревога, это недоверие к новому пророку, пришедшему к нам со столбцов «Новой свободной прессы», как выразился Мордехай Бен Гиллель Хакохен в своих воспоминаниях о конгрессе, были общими для многих его друзей и соратников. А Дж. Лири вспоминал позднее: «Герцлю не очень доверяли. К нему относились с сомнением и скептицизмом. В его открытости многие усматривали недостаток ответственности».
В день открытия конгресса собралось 197 делегатов. К организационной стороне не было никаких претензий. Квартиры были сняты через бюро, а билеты делегатам в основном разосланы заранее. На портале дома, в котором проходили заседания, издалека видна была табличка с надписью на белом фоне: «Конгресс сионистов». Рядом с широкой табличкой висел флаг, белый с голубым и звездой Давида посередине — древним иудейским символом. Ни один из делегатов, входивших в здание, не сомневался, что это исконное национальное знамя евреев. Обсуждение происходило в простом зале с серыми стенами без всяких украшений. Длинный зеленый стол на сцене с возвышением для места президента, обтянутая зеленым трибуна, столы для стенографов и журналистов произвели даже на Герцля сильное впечатление. Чтобы подчеркнуть торжественность момента, он распорядился, чтобы делегаты явились на открытие празднично одетыми.
«Люди должны видеть, — объяснил он Нордау, — в этом конгрессе нечто высокое и торжественное».
И все же внешние атрибуты вызвали насмешки. Церемония открытия выглядела слишком театрально — была разыграна написанная Герцлем инсценировка. Когда 29 августа 1837 года, воскресным утром, делегаты впервые собрались в зале заседаний, ярусы были переполнены зрителями, которые не хотели пропустить представление под названием «еврейский конгресс». Специальные корреспонденты самых известных европейских и неевропейских газет заняли места в зале. Все с напряженным вниманием ожидали официального открытия.
После несколько пространного вступительного слова старейшего делегата Липпе на трибуну поднялся Герцль. Все глаза были устремлены на него. Приветственные выкрики сотрясали зал. Гремели рукоплескания, люди размахивали платками. Воодушевление этого момента до сих пор ясно ощущается в рассказах очевидцев.
«Это был уже не элегантный доктор Герцль из Вены, — говорится в воспоминаниях писателя Бона Алии, — но восставший из гроба царственный отпрыск Давида, который предстал пред нами прекрасный и величавый, взлелеянный фантазиями и легендами». Еще более выразительно свидетельство Майера-Эбнера из Черновцов, который пишет в своих воспоминаниях: «Когда я увидел его совершенную красоту, когда я заглянул в его глаза, в которых, как мне казалось, таилась некая мистическая тайна, — душа моя возликовала. Это ОН, долгожданный, бесконечно любимый, помазанник Господень, Мессия!»