В течение первого года деятельности Герцля на ниве сионизма он тратил основную энергию на получение поддержки со стороны турецкого султана Абдул-Гамида II (в то время Эрец-Исраэль находился под господством Османской империи), а главным сторонником султана в Европе был германский кайзер Вильгельм II. Принятая на Конгрессе Базельская программа была основой для многочисленных переговоров с германским императором и турецким султаном, чтобы создать «жилище для еврейского народа» в Палестине.
Хотя старания Герцля тогда не увенчались успехом, его работа создала предпосылки для создания государства Израиль (в 1948 г.). В 1897 году Герцль опубликовал пьесу «Новое гетто» и начал выпускать в Вене «Die Welt», ежемесячник сионистского движения.
В 1899-м Герцль организовал «Еврейское колонизационное общество» с целью покупки земли в Палестине, которая тогда была частью Османской империи. После нескольких лет растущих надежд и бесплодных переговоров его усилия сместились в сторону Англии, которая показала себя более дальновидной. В 1917 году, спустя 13 лет после смерти Герцля, Англия буквально вырвала из рук Турции контроль над Эрец-Исраэль и издала Декларацию Бальфура, объявлявшую британскую поддержку идее воссоздания еврейской страны в Эрец-Исраэль.
Герцль достиг большого успеха во время массового митинга в Лондоне, где его приветствовали десять тысяч людей, и Солсбери, глава британского правительства, заявил в приветственной речи: «У сионистского движения есть большие шансы на успех. Евреи создадут государство всем на удивление… У еврейского народа, выдержавшего столько бурь в течение двух тысяч лет, хватит духу осуществить эту идею».
Великобритания предложила Герцлю как представителю Всемирной сионистской организации землю в Британской Восточной Африке (часть территории современной Кении под названием Уганда; не путать с современным государством Уганда) для организации там еврейского государства (так называемый план Уганды).
Герцль готов был принять это предложение, но воспротивились другие активисты движения, в том числе весьма близкие к Герцлю. Угандийские планы провалились из-за того, что большинство сионистов рассматривали как возможную территорию для еврейского государства только Палестину. Кроме того, представители Конгресса сочли предложенную британским министром колоний Джозефом Чемберленом территорию непригодной для поселения.
В 1900 году Герцль опубликовал «Философские рассказы», а в своем утопическом романе на немецком языке «Altneuland» («Старая новая земля», 1902, позже Нахумом Соколовым он был переведен на иврит) Герцль создал идеалистическую картину будущего еврейского государства. Здесь он сформулировал принципы политического и общественного строя еврейского государства в Палестине. Герцль не предвидел арабско-еврейских конфликтов и считал, что живущие в Палестине арабы будут радостно приветствовать новых еврейских поселенцев. В переводе на иврит роман назывался «Тель-Авив» (то есть «Весенний холм», название библейского поселения). Таким образом, название будущего города Тель-Авив было навеяно романом Герцля.
Ожесточенные схватки с оппонентами, в дополнение к напряженной борьбе за дело сионизма, привели к обострению болезни сердца, которой страдал Герцль. Его болезнь осложнилась воспалением легких. Своему другу, приехавшему навестить его, Герцль сказал: «Почему мы дурачим себя?.. Колокол звонит по мне. Я не трус и могу спокойно встретить смерть, тем более что я не потерял попусту последние годы своей жизни. Я думаю, что неплохо послужил своему народу». Вскоре его состояние ухудшилось, и 3 июля 1904 года Герцль скончался.
Его наследством стало движение, переросшее в государство.
За полтора года до смерти Герцль написал завещание, касающееся его похорон и обрядов, где просил похоронить его в Вене рядом с отцом, пока еврейский народ не перенесет его останки в Землю Израиля. Последняя воля Герцля: «Я прошу, чтобы похороны были максимально скромными, без речей, без цветов… быть похороненным в металлическом гробу, в могиле около моего отца, и лежать там, пока еврейский народ не перенесет мой прах в Палестину. Туда будут перенесены также гроб моего отца, гроб моей сестры Паулины… и гробы моих ближайших родственников (моей матери и детей), которые умрут до срока переноса моего гроба в Палестину…»
Через 45 лет после смерти Герцля, через год с небольшим после создания Государства Израиль, в 1949 году первый кнессет принял решение осуществить его завещание. Была установлена дата, когда решение и завещание будут выполнены: «Завещание провидца еврейского государства Теодора (Биньямина Зеева) Герцля, светлая ему память, и перенос его праха на землю Израиля будет выполнено 22 ава 5709 года (17 августа 1949) в Иерусалиме, вечной столице народа Израиля и его священном городе». Останки «лидера Исхода» были доставлены из Австрии в Иерусалим.
Герцль просил в своем завещании перенести его гроб вместе с гробом отца (умершего ранее) и гробами его ближайших родственников — матери и детей.