Как и в эпизоде с Симоном бар-Гиором, первосвященник Анания решил нанести своим идейным противникам упреждающий удар, призвав народ Иерусалима к борьбе против зелотов. Те были оттеснены на Храмовую гору и забаррикадировались в Храме, приготовившись к уличным боям. В это время Анании предложил свои услуги посредника в переговорах с «бунтовщиками» вождь союзного сикариям племени идумеев с юга Иудеи — некий Иоханан Гисхальский. На самом деле этот честолюбец и заклятый ненавистник римлян вел за спиной старого политикана Анании свою игру.
Подтянув к городу своих бойцов и убедив осажденных в Храме зелотов в том, что верховное правительство намерено сдать Иерусалим римлянам в обмен на выторгованное себе помилование, Иоханан во главе коалиции радикалов внезапно обрушился на «силы порядка» под началом Анании. Пошедшие за Иохананом сикарии сожгли дворец первосвященника. Тот пытался спрятаться от них в водосточной трубе, но был найден и убит. Во вспыхнувшей затем резне погибло более 12 тысяч сторонников «умеренного» правительства, а власть в Иерусалиме перешла к соперничавшим друг с другом радикалам Элеазару бен-Симону и Иохана-ну Гисхальскому. Однако личные разногласия этих вождей не помешали подчиненным им сикариям сжечь городской архив со всеми расписками иерусалимских должников, а затем разграбить и раздать всем желающим зерно с городских складов.
Немногие уцелевшие местные аристократы, рассчитывая, по пословице, «вышибить клин клином», упросили вернуться в Иерусалим Симона бар-Гиору, который вел в тот момент успешные партизанские действия против римлян на юге страны. Ночные вылазки и внезапные нападения на небольшие вражеские отряды сделали его очень популярным среди еврейского народа. Однако возвращение Симона лишь спровоцировало в столице вспышку гражданской войны между тремя группами радикалов. В итоге бар-Гиора захватил верхнюю и нижнюю части Иерусалима, Иоханан и его отряды укрепились в районе Храмовой горы, а внутренняя часть Святого Храма попала под контроль людей бен-Симона.
Тем временем римский полководец Веспасиан сам был избран в Риме императором, а его сын Тит отправился в Иудею добивать повстанцев. Больше пяти месяцев он осаждал Иерусалим, где в то время продолжали кипеть усобицы. Конец им положил лишь удачный штурм Храма сторонниками Иоханана Гисхальского, уничтожившего-таки группировку Элеазара бен-Симона. Под грохот римских таранов две оставшиеся партии радикалов наконец объединили свои усилия для защиты города от внешнего врага. Но внутренний кризис был преодолен ими слишком поздно. Летом 70 года легионеры Тита захватили один за другим все районы Иерусалима, сравняли город с землей и практически полностью уничтожили его население, насчитывавшее накануне осады вместе с пришлыми беженцами, по разным оценкам, от 600 тысяч до 1,1 млн человек.
После падения Иерусалима в Иудее продолжали обороняться три крепости: Геродион, Махор и Массада. Геродион продержался недолго и вскоре пал. В Махоре вспыхнула борьба между частью населения, готовой сдать крепость римлянам, и пришлыми сикариями, желавшими воевать до последней капли крови. В итоге в 72 году горожане сдали Махор римлянам. А сикарии геройски пробились сквозь ряды вступивших в крепость врагов и бежали в Массаду, остававшуюся последней твердыней повстанцев.
Крепость Массада занимала исключительно удобное положение. Еще во времена царя Ирода Великого на площадке размером 650 на 300 метров на вершине одинокой 440-метровой скалы на восточной окраине Иудейской пустыни был воздвигнут целый комплекс укреплений и дворцовых сооружений загородной царской резиденции. Сложенная из белого камня крепостная стена длиной в 1300 и высотой в 7–8 метров была укреплена 37 башнями, каждая из которых достигала 30-метровой высоты. За этими стенами был возведен дворец, напоминавший роскошные римские виллы, а также храм и ряд вспомогательных построек.
Жилые помещения для гарнизона Массады были пристроены к внутренней стороне крепостной стены. Вся незастроенная часть крепости была отведена под плодородные поля, которые предполагалось использовать для посевов на случай осады. Подземные водопроводы и вырубленные в скале цистерны и водоемы обеспечивали Массаде непрерывное водоснабжение. Обширные складские помещения хранили запасы продовольствия и оружия на десять тысяч человек, а также железа, меди и олова. Не случайно подробно описавший Массаду Иосиф Флавий так отозвался о ней: «Эта крепость-скала укреплена небом и людьми против любого врага, который может начать войну».