Первым храмом, который построили крестоносцы на Востоке, был собор Святого Павла в Тарсе, законченный еще до 1102 года. Это грубое, неэлегантное сооружение в стиле романских церквей Северной Франции, но со стрельчатыми арками. Он имеет прямоугольную форму с двумя боковыми проходами и нефом, ограниченным с обеих сторон попеременно столбами и колоннами. Колонны взяты из какого-то древнего здания. Их капители представляют собой простые каменные блоки с вырезанными по углам треугольниками — такой вид украшения встречался в Рейнской области, но также и в Армении, и в данном случае, вероятно, они сделаны армянскими строителями. Своим еще неотесанным видом он все же предвосхищает последующую архитектуру крестоносцев. Как только европейцы прочно обосновались на месте, их первой заботой стало восстановление святынь, а затем — строительство в главных городах подобающих им церквей. Что касается самых почитаемых святынь, то в хорошем состоянии находился храм Рождества в Вифлееме, построенный Константином и отреставрированный Юстинианом. Единственное, что добавили к нему крестоносцы, — это простой готический клуатр, возведенный, вероятно, около 1240 года, а также северный и южный проходы в грот Рождества, построенный около 1180 года в позднероманском стиле со стрельчатыми арками и акантом на капителях, вероятно сирийской работы. Также они построили монастырские здания вокруг храма, которые до наших дней не сохранились. Но самое священное сооружение — храм Гроба Господня в Иерусалиме показался им недостаточно хорошим. После его разрушения халифом аль-Хакимом византийцы перестроили ротонду, окружавшую непосредственно гробницу, но выровняли восточный конец и построили там три апсиды. Часовню Девы Марии присоединили к ротонде с северной стороны, а с южной — три часовни: Святых Иоанна и Иакова и Троицы. Голгофу перестроили в виде отдельной часовни, как и часовню Святой Елены с гротом Обретения Креста. Все постройки были роскошно отделаны мрамором и мозаикой. Крестоносцы решили соединить все здания под единой крышей. Основные работы, вероятно, производились после землетрясения 1114 года до 1130 года, хотя отдельные части были еще не закончены ко времени смерти Балдуина II в 1131 году, а целиком новое здание было освящено лишь 15 июля 1149 года, в пятнадцатую годовщину взятия города. Колокольня была пристроена около 1175 года.
На план нового здания неизбежно повлияли условия участка, на котором оно стояло. С юга он ограничивался скалой Голгофы, с востока — склоном, ведущим к часовне Святой Елены, которая лежала на несколько футов ниже ротонды. Поэтому крестоносцы сломали восточную стену византийской ротонды, разрушив ее апсиды, и заменили центральную крупной аркой, ведущей в новую церковь. В ней были хора под куполом на парусах у западного конца, с проходом и крытой галереей вокруг и изогнутым восточным концом с тремя апсидами. Между центральной и южной апсидой лестница вела прямо вниз в часовню Святой Елены. Южный неф располагался против часовни Голгофы, ее переделали, но сохранили византийские мозаики и колонны у входа. Западнее Голгофы и между нею, ротондой и часовней Святого Иоанна построили новый атриум, который включил в себя Камень помазания и гробницы Готфрида и короля Балдуина I. Дверь, где сейчас находится главный вход, вела из атриума во двор. Вдоль северного нефа проходил внешний неф, в основном византийской конструкции, и открывался в другой двор, откуда проход вел мимо часовни Святой Марии на Патриаршую улицу. Третий двор окружал часовню Святой Елены и сам был окружен новыми зданиями, возведенными для приоров монахов-августинцев, которым затем доверили попечение о храме.
Здания крестоносцев, пережившие разорение от рук хорезмийцев в 1244 году, разрушительный ход времен и страшный пожар 1808 года, свидетельствуют об их родстве с великими паломническими храмами клюнийцев, в частности с храмом Святого Сатурнина Тулузского, который папа Урбан II освятил сразу же после Клермонского собора. Деамбулаторий весьма напоминает крытые галереи самого Клюнийского аббатства и храма Святого Сатурнина. Разница лишь в пропорциях. Зодчие Гроба Господня сделали свои колонны чуть ниже и крепче, чтобы сохранить гармонию с колоннами византийской ротонды, чья конструкция, вероятно, проектировалась ввиду того, что должна была выдерживать удары землетрясений. Декоративные детали, кроме тех мест, где сохранилась византийская мозаика и капители, можно сравнить с типичными для юга и юго-запада Франции. Резьба по камню, особенно фигуры на перемычках, в основном, по-видимому, принадлежит к тулузской школе, хотя, скорее всего, они вырезались на месте. В целом складывается впечатление, что зодчие и художники памятника в целом происходили из Франции, вероятно Юго-Западной, и воспитывались в клюнийской традиции. Известно, что архитектора колокольни звали Иордан — такое имя обычно давали детям, окрещенным в святой реке. По-видимому, он родился в Палестине.