Некоторое улучшение наступило при кратком (361-363 гг.) царствовании императора Юлиана, попытавшегося восстановить в качестве официальной прежнюю языческую религию и прозванного за это Отступником. Он даже вознамерился вернуть иудеям Иерусалим и приказал начать работы по восстановлению Иерусалимского Храма. Однако после его гибели в походе против персов, а особенно после окончательного разделения в 395 г. Римской империи на Западную и Восточную (Византию), давление на патриархат снова усиливается. В формулировках распоряжений властей, направленных против иудеев, все более заметны чисто теологические мотивы. Иудеям запрещается занимать общественные и государственные должности, служить в войсках, держать христианскую прислугу, даже строить новые синагоги. Последний палестинский патриарх Гамлиэль VI был сначала утвержден императором Феодосием II в должности префекта (главы) иудеев. Однако потом Гамлиэль был обвинен в нарушении имперских законов, в частности запрещении строительства новых синагог, в разбирательстве судебных дел между иудеями и христианами, а также в обращении в иудаизм рабов-христиан, что означало их включение в члены иудейской общины. В 415 г. последовал указ об его отстранении от должности, а в 429 г. патриархат иудеев был упразднен, а сам титул патриарха был присвоен христианскому епископу Иерусалима.
Упразднение иудейского палестинского патриархата совпало с прекращением деятельности палестинских амораев. Однако к тому времени они уже закончили составление сборника комментариев на Мишну — Палестинскую Гемару. Вместе Мишна и Палестинская Гемара составили так называемый Палестинский Талмуд, называемый иногда Иерусалимским Талмудом, хотя составлялся он, конечно, не в Иерусалиме. В Палестинской Гемаре гораздо меньше материала законодательного (галахического) характера, но она весьма ценна наличием в содержании агады (преданий, притч, сказаний, аллегорий) с большим количеством различных сведений о жизни и верованиях палестинских иудеев того времени.
Следует указать, что и после прекращения работы палестинских амораев литературное религиозное творчество не остановилось. Теперь оно существует в форме сборников (мидрашей) агады, рассчитанных на назидательное чтение дома и на собраниях. Такие сборники были двух видов. Одни содержали комментарии к тексту Танаха и рассуждения о нем, другие — проповеди на разные темы Священного Писания, которые читаются в субботы и в праздники. К мидрашам первого типа относится Мидраш Раба (большой мидраш), охватывающий все Пятикнижие и Книги: Песнь песней, Руфь, Плач Иеремии, Екклезиаст и Есфирь. Примером мидрашей второго типа является Мидраш Танхума, авторство которого приписывается палестинскому законоучителю IV в. Тан- хуму бар Аба, а также мидраши Песикта, самый древний из которых составлен в VI в.
Создание наиболее авторитетной и полной Вавилонской Гемары стало возможно только двумя столетиями позже в Месопотамии. Именно там был завершен Вавилонский Талмуд, ставший своего рода народной конституцией иудеев и сформировавший духовный облик религиозного иудейства последующего времени. Этому способствовали гораздо более благоприятные, чем в Византии, условия жизни иудейских общин.
К началу II в. религиозно-социальными центрами иудаизма в стране стали города Нагардея, Пумбедита и Сура, расположенные к западу от Евфрата примерно на широте современного Багдада. Во главе всех иудеев царства стоял верховный начальник — «глава изгнания» (по-еврейски