Положение Иудеи стало намного легче в 612 г. до нашей эры, когда вавилонский царь Набопаласар захватил, столицу Ассирии Ниневию. Царь Иосия преградил путь войскам египетского фараона Нехо, спешившего на помощь Ассирии, но погиб на поле битвы при Мегиддоне. Войска фараона Нехо были разбиты Навуходоносором. Преследуя египтян, он прошел через Иудею и заставил царство платить ему дань. Царство Иудеи вновь отказалось быть данником, после чего Навуходоносор захватил страну. Иудея рассчитывала на помощь Египта и выступила против Вавилона. Навуходоносор в третий раз овладел страной и, несмотря на поддержку Иудеи со стороны Египта, поработил царство в 587 г. Он захватил Иерусалим, разрушил его стены, сжег дома, а храм сровнял с землей. Жители Иудеи были уведены в плен.
Если Ассирия пленила жителей северной части Израиля, то вавилоняне взяли в плен жителей Иудеи. Завоеватели полагали, что, захватив царский двор, военачальников, жрецов, ремесленников и крестьян, переселив их в Вавилон, они навсегда исключат возможность возрождения страны.
Израильские пленники расселились в Ассирии, и большинство их ассимилировалось с местным населением. Об их судьбе ничего не известно. Вавилонские пленники создали свои собственные поселения, где имели некоторые права на самоуправление и даже отправляли обряды своего культа. На месте разрушенного Израильского царства ассирийцы поселили племена, из которых образовалась новая этническая общность, получившая название самаритяне.
В 538 г. до нашей эры после падения Нововавилонского царства персидский царь Кир разрешил евреям вернуться на родину, восстановить храм, и вернул им захваченную Навуходоносором золотую и серебряную храмовую утварь.
Закладка нового храма связана с именем сатрапа Шешбацара. Бывшие пленники, вернувшиеся на родину, не захотели знаться с оставшимися там и породнившимися с чужеземцами самаритянами, которые в свою очередь попытались воспрепятствовать строительству храма. Они донесли персам, что евреи строят не храм, а крепость, чтобы поднять восстание против завоевателей. На некоторое время строительство было приостановлено. Только в 520 г. до нашей эры, во времена правления Зоровавеля, был воздвигнут новый храм (или Второй храм). Зоровавель пользовался у народа большим почетом, его и первосвященника Иисуса почитали за предтечу времен мессии.
Религиозное и политическое возрождение возвратившихся из плена евреев связано с именами Ездры и Неемии. Оба вернулись на родину по приказу персидского царя Артаксеркса около 440 г. до нашей эры Неемия прибыл в Иерусалим в качестве наместника, а Ездра как учитель, сведущий в законах, чтобы наладить религиозную и нравственную жизнь в стране.
Исходным пунктом реформ Ездры и Неемии стало убеждение в том, что причиной увода евреев в вавилонский плен и всех других постигших их бедствий является несоблюдение законов Моисея. Для избежания подобных несчастий в будущем, учили они, следует восстановить законы Моисея, поставить их в центр религиозной жизни, соблюдать необходимые ритуалы.
В связи с этим подверглись гонению смешанные браки. Признавались лишь те браки, которые заключались между людьми из "колена Авраама", то есть между чистокровными евреями. Ездра требовал всячески отмежеваться от "чужеродных", а главное, не заключать с ними браки, он приказал также расторгнуть уже заключенные смешанные браки.
Неемия происходил из Иудеи, поэтому своих соплеменников он называл иудеями (евреями). Он принялся за строительство новой столицы, окружил город стенами и заселил его. С именами Ездры и Неемии связаны попытки собрать священное писание.
В политической жизни вернувшихся на родину евреев большую роль играл первосвященник, подчинявшийся одному из сатрапов персидского царя и обладавший некоторыми полномочиями главы государства. Таким образом, вернувшиеся на родину евреи попали под власть жрецов.
Реформы Ездры и Неемии привели к окончательному расколу между евреями и самаритянами. Это произошло после того, как отторгнутые от иерусалимского культа самаритяне построили свой собственный храм на горе Гаризим. Раскол привел к взаимной ненависти: самаритяне и евреи не вступали в контакты друг с другом, хотя первые и приняли законы Моисея, веру в мессию, культ Яхве.