Бунт, спровоцированный Флором в Иерусалиме, перерос в неуправляемое насилие. Поэтому проконсул Сирии послал Цестия Галла в Иерусалим с войском и приказом подавить восстание. Такие восстания случались и раньше – Иуда Галилеянин, Февда, Египтянин – и всегда с ними легко справлялись. Необученные еврейские крестьяне никогда не шли ни в какое сравнение с римскими легионерами. Однако на этот раз Цестий не смог захватить Иерусалим и даже был вынужден вернуться в Антиохию. По дороге домой повстанцы устроили ему засаду в маккавейском стиле, и он бежал. Иудеи одержали свою первую победу.
Римляне поначалу явно недооценили силу восстания. Евреи начали организовывать свою оборону и готовиться к войне. Сначала ими руководили избранные народным собранием палестинские аристократы. Иерусалим защищали новобранцы во главе с Иосифом бен Горионом и первосвященником Ананом. Идумею возглавили Иисус бен Саппиас и Елеазар бен Анания (оба из семьи первосвященников). Галилея находилась под командованием будущего историка Иосифа Флавия. Однако по ходу войны эта картина резко изменилась. Анания был казнен зелотами, а новый первосвященник был выбран по жребию. В Галилее у Иосифа Флавия были постоянные проблемы с Иоанном Гискальским. А одним из главных руководителей восстания стал простолюдин Симон бар Гиора.
Римское наступление началось в Галилее в 67 году н. э. Император Нерон поручил ведение войны успешному и уважаемому полководцу Веспасиану. Тому не составило труда покорить Галилею и разрушить крепости Иотапата и Гамла. Так, к концу 67 года вся северная Палестина вновь оказалась под властью Рима.
Сам Иосиф Флавий был пленен Веспасианом. После падения Иотапаты он и другие офицеры бежали в глубокую пещеру, чтобы спрятаться от римлян. Они договорились друг с другом о самоубийстве, и Иосиф Флавий должен был покончить с собой последним. Однако, вместо этого, он сдался и предстал перед Веспасианом. С удивительной наглостью он предсказал, что Веспасиан когда-нибудь станет императором, и это пророчество не только порадовало генерала, но и оказалось верным год спустя. Иосифа Флавия пощадили, и он почти сразу начал делать заметки о войне. Так началась карьера великого историка.
После покорения Переи, готовясь к осаде Иерусалима в 68 году н. э., Веспасиан узнал о смерти Нерона. Далее один за другим сменились еще три императора: Гальба, Ото и Ветеллий. Все они были убиты вскоре после восшествия на престол. В 69 году н. э. войска восточной империи провозгласили императором Веспасиана, и тот отправился в Рим, оставив своего сына Тита руководить осадой.
К 70 г. н. э. ситуация в Иерусалиме изменилась. Городом командовали три еврейские партии или фракции. Самопровозглашенный мессия Симон бар Гиора, контролировал большую часть города за пределами храмовой территории. Иоанн из Гисхальский из Галилеи ввел свою армию в город и контролировал храмовую гору. Елеазар бен Симон управлял самим храмом.
У Тита было четыре легиона, которые он разместил в различных стратегических точках вокруг города. Сначала, весной 70 года н. э., была пробита третья северная стена, а затем вторая северная стена. Эти два пролома были пробиты с помощью таранов всего за 20 дней, но остальная часть осады заняла гораздо больше времени. Другие стены были более прочными, и чтобы пробить в них брешь, потребовались недели. Затем был захвачен дозорный пункт, называемый башней Антония, а оттуда был взят и разрушен до основания храм. Только потом Титу удалось пробить первую северную стену города и захватить ее, хотя и с большими потерями. Вся осада заняла пять месяцев.