Антивавилонские настроения после жестокого наказания мятежников стали еще более острыми. Их постоянно подпитывало чувство национального унижения – храмовые служители требовали возвращения сокровищ, а пророки предсказывали скорое падение Вавилонии, где иудейские изгнанники также были охвачены верой в близкое освобождение. Иудея восстала, рассчитывая на помощь Египта. Только известный иудейский пророк Иеремия призывал отказаться от крайних мер и смириться с продолжительным вавилонским владычеством, полагая, что восстание будет губительно для государства. Голос Иеремии, обычно столь авторитетный, не возымел влияния на охваченных жаждой мщения соплеменников.
Иудея восстала, а в 588 г. до н. э. Навуходоносор предпринял свой сокрушительный поход. Крепости Иудеи пали, Иерусалим был осажден и сдался после двух лет осады в 587 г. до н. э. Иудейское царство прекратило свое существование. Народ был выселен из пределов Иудеи, за исключением части работников и крестьян, с тем, чтобы не допустить полного оскудения земли. Иудейский царь был ослеплен и в кандалах уведен в Вавилонию. Его сыновья были убиты у него на глазах. Вместо царя Навуходоносор посадил в Иудее своего наместника, который вскоре был убит. Остатки иудейского войска, а также часть населения, избежавшая плена, спаслись бегством в Египет. Иудея, не заселенная новыми поселенцами, на протяжении двух веков оставалась опустошенной и безлюдной.
Пленники в Вавилонии получили земельные наделы, и их поселение осуществлялось сословными и родовыми группами, поскольку ремесла и профессии были наследственными семейными занятиями. Царский дом Иудеи был сохранен в плену и даже пользовался определенным влиянием при вавилонском дворе. Большинство изгнанников было отправлено в Центральную и Южную Месопотамию, которые пустовали со времен войн с Ассирией. Пленники основали там свои поселения, одно из них, наиболее известное благодаря деятельности пророка Иезекииля, получило название Тель-Авив, которое в современную эпоху было присвоено международно признанной столице государства Израиль.
В период изгнания происходит переворот в религиозном сознании евреев, которые рассматривали вавилонское пленение как наказание за грехи отцов, отступавших от истинной веры и вводивших в религиозную практику элементы языческого культа. С этого времени из богослужения не только исчезают ханаанские и сирийско-финикийские культы и обряды, но и сам ритуал подвергается изменениям. Жертвоприношения заменены молитвами и народными собраниями, ставшими прототипами будущих синагог («синагога» по-гречески – «собрание»). Одновременно иудейские изгнанники подпадают под сильное влияние вавилонской культуры – древнееврейское письмо заменяется арамейским шрифтом, принимаются вавилонские названия месяцев года и т. п.
В 539 г. до н. э. Вавилонию завоевывает персидский царь Кир, с именем которого изгнанники из Иудеи связывают возможность возвращения на родину. Эти надежды оказались не безосновательными. Уже в 538 г. до н. э. Кир издал декрет, разрешающий изгнанникам вернуться в Иудею ради восстановления Храма в Иерусалиме. Этот декрет отразил особенности политики персидских владык. Для укрепления своей власти и влияния в покоренных странах и провинциях они считали необходимым опираться на традиционные для них культы, не навязывая собственных религиозных представлений и канонов. Восстановление Храма в Иерусалиме должно было не только возвеличить Кира, но и обеспечить ему поддержку религиозного сословия и народных масс. Это было особенно важно в условиях, когда Персия почувствовала необходимость создания военной опоры на подступах к Египту. Кроме того, Иерусалим воспринимался Киром как типичный для Месопотамии того времени храмовый город-государство. Об этом свидетельствует изданный им декрет, регламентировавший поствоенную жизнь Иудеи и Иерусалима. Израиль и Самария даже не были в нем упомянуты, поскольку столица Израильского царства не воспринималась как религиозный центр.
Восстановление Храма шло медленно не только по объективным причинам, но и потому, что вернувшиеся на родину иудейские изгнанники не хотели иметь ничего общего с местным населением, в частности с самаритянами, полагая их отступниками от веры отцов. Результатом были многочисленные интриги при персидском дворе, которые позволили самаритянам добиться замораживания строительства. Возобновлено оно было лишь при персидском царе Дарий, и в 516 г. до н. э., т. е. через семьдесят лет после разрушения Храма, он был вновь возведен. Период с 516 г. до н. э. до 70 г. н. э. вошел в историю как период Второго Храма.