В 326 г. Иерусалим посетила мать Константина Великого императрица Елена. Она нашла древо Честного Креста Господня и приказала очистить Святые Места от языческих капищ и построить там храмы.
Уже в 328 г. св. Илларионом, учеником преподобного Антония Великого, был основан первый в Иерусалиме монастырь. Параллельно с ним монашество в Палестине вводил и его современник, св. Харитон, родом из Иконии. Он основал в Фаране первую в Палестине Лавру, освященную в 330 г., затем вторую — на горе Сарандарий, где сорок дней постился и молился Иисус Христос, и третью — близ Фекое. В Палестине очень быстро появились многочисленные монастыри. Монашество обосновалось даже в Святоградских храмах. Так, в храме Воскресения Господня зародилось Братство Святого Гроба Господня, которое вскоре распространилось на другие святыни Палестины и монастыри, став нерушимым оплотом Православия.
Зародившаяся в начале IV в. в Александрии арианская ересь нашла богатую почву и среди палестинских мыслителей. Одной из главных причин столь быстрого распространения арианства явилась сильная поддержка со стороны императорской власти. Его представителем был и митрополит Евсевий Кесарийский (306–337) — друг и сподвижник императора Константина Великого. Ариане настолько укрепились в Палестине, что им даже удалось созвать ряд соборов, где настойчиво защищались их интересы. Вплоть до смерти Кесарийского митрополита Евсевия эта ересь с большим успехом покоряла сознание палестинского священства. С восшествием на Иерусалимский престол Кирилла I (350–386) произошло решающее столкновение арианства с Православием. Епископ Кирилл трижды был сослан по различным обвинениям.
С приходом к власти Юлиана Отступника (361–363) в Палестине стали возрождаться язычество и иудейство. Император повелел даже возвести вновь храм Соломона, дабы опровергнуть Иисусово пророчество. Но начавшееся строительство вскоре было остановлено из-за сильного землетрясения. Новый император Валент II также поддерживал арианство. На свою кафедру святой Кирилл окончательно возвратился лишь в 379 г., с приходом к власти православного императора Феодосия. Император созвал в 381 г. II Вселенский собор, на который был приглашен и Кирилл. Осудивший арианство собор почтил многолетний подвиг православного епископа, признав его единственным и законным епископом «Церкви Иерусалимской, Матери всех Церквей». С этого момента в Палестине начала возрождаться былая слава.
Тем временем долгожданный мир и покой Иерусалимской Церкви сменили оригенские споры. Уже осужденный ранее на Западе Ориген имел массу почитателей в среде иерусалимской паствы, во главе которой стоял сам Иерусалимский епископ Иоанн II (386–417). Примирение наступило лишь к 411 г., когда на смену оригенским спорам в Палестину пришел пелагианизм. В этом году в Иерусалим прибыл еретик Пелагий, утверждавший, что спасение человека совершается лишь посредством совершенных дел и без участия Божией благодати. Собранный в Иерусалиме в 415 г. Поместный собор оправдал Пелагия, но в то же время запретил ему распространять свои воззрения.
К V в. авторитет Иерусалимской Церкви вырос настолько, что ее жизнь стала привлекать внимание Царьграда. Период правления Патриарха Иерусалимского Ювеналия (422–458), поборника монашества и горячего защитника Православия, знаменовался восхождением на небосводе монашеской жизни Востока новых звезд: св. Евфимия, преп. Феоктиста, преп. Исихия и многих других, а также дарованием Иерусалимской Церкви статуса Патриархата. Осудивший вместе со Святыми Отцами на III Вселенском соборе несторианскую ересь Ювеналий был отмечен особым вниманием императора Феодосия II. Но лишь на IV Вселенском соборе, в 451 г., Иерусалимской Церкви был дарован статус Патриархата. Основными причинами достижения Иерусалимом этого высокого звания было все возрастающее значение этой Церкви в жизни Вселенской Церкви, состоящее в важности занимаемого ею места и активном участии на первых трех Вселенских соборах; возведение на Святых Местах величественных храмов и полное торжество в Палестине христианства; стечение со всего мира множества паломников; явление в лоне Церкви видных личностей и церковных учителей, а также их борьба за окончательное торжество Православия; большой интерес к Святым Местам императоров и, наконец, расцвет Иерусалима и упадок Кесарии.
В период второй половины V — первой половины VI в.в. Иерусалимская Церковь боролась с монофизитской ересью и оригенизмом. Видными деятелями в это время были монахи свв. Савва Освященный и Феодосии, «ученые мужи иудейской пустыни», исполненной в тот период множеством монастырей. Оригенизм был окончательно осужден в 553 г. на V Вселенском соборе.