Примеру тамплиеров последовали госпитальеры, или иоанниты. Из общины, занимавшейся уходом за больными и оказанием помощи паломникам, они превратились в больничный и одновременно военный орден. Около 1080 г. несколько горожан итальянского города Амальфи основали в Иерусалиме госпиталь в честь Святого Иоанна Милостивого (Милостынника), патриарха Александрийского, знаменитого в начале VII в. щедрой раздачей милостыни. Госпиталь находился при бенедиктинском монастыре Святой Марии Латинской, расположенном в долине Иосафата у стен Иерусалима. В госпитале работали в основном жители Амальфи, дававшие обычные монастырские обеты под руководством мастера, который подчинялся настоятелю бенедиктинского монастыря. Ко времени завоевания Иерусалима крестоносцами мастером был некий Жерар Блаженный, вероятно, из Амальфи. Перед началом осады он вместе со своими товарищами был изгнан из Иерусалима фатимидским наместником, и его знание ситуации внутри города сослужило хорошую службу крестоносцам. После взятия города франкское правительство предоставило помещение его госпиталю. Вскоре госпиталь, куда поступили помощниками многие из паломников, вышел из подчинения бенедиктинцам и стал самостоятельным, что признал папа в 1113 г. После смерти в 1120 г. Жерара мастером стал Раймунд дю Пюи, руководивший орденом около 40 лет. Он считал, что госпитальеры должны не только заниматься уходом за больными и обслуживанием паломников, но и сражаться, защищая мирных паломников от нападений. Превращению госпиталя в орден помог подъем Ордена тамплиеров. Возросший ранг общины потребовал замены в качестве ее святого покровителя малоизвестного Иоанна Милостивого святым Иоанном Иерусалимским (Многие исследователи старательно обходят вопрос, кто же конкретно этот самый Иоанн. И хотя большинство из оставшихся считает, что это — Иоанн Креститель, некоторые, в том числе С. Рансимен, полагают, что это — Иоанн Евангелист (Богослов)). Отличительным знаком ордена госпитальеров был белый восьмиконечный крест (Восьмиконечный (мальтийский) крест ордена повторяет рисунок креста на гербе города Амальфи) на черном плаще (с 1259 г. — на красном плаще).
В 1130 г. был принят первый устав ордена госпитальеров, измененный в 1182 г. В Иерусалиме, близ церкви Гроба Господня, было построено большое здание Госпиталя Святого Иоанна — главная резиденция ордена (Возможно, была перестроена мечеть Омара). Тяжелее всего ордену было высвободиться из-под опеки иерусалимского патриарха, так как церковь Гроба Господня и Госпиталь Святого Иоанна получали из Европы общие пожертвования и дары, разделение которых при самостоятельности ордена было невыгодно патриарху. Экземпцию, то есть прямое подчинение папе, орден получил в 1143 г. при Иннокентии II.
Король Бодуэн оказывал всяческую поддержку духовно-рыцарским орденам. Ордены получали богатые земельные владения, от них не требовалось ничего, кроме как сражаться в королевской армии. В светских ленах внезапная смерть господина и переход его наследия к женщине или ребенку прерывали формирование войск и доставляли королю постоянную головную боль. Погибших ленников нужно было срочно заменять женившимися на вдовах холостяками, имевшимися в наличии или прибывшими из Европы. Главной задачей рыцарских орденов с их блестящей военной славой и престижем было формирование боевых частей, воины которых не отвлекались вопросами личного честолюбия или выгоды. Во второй половине XII в. Ордены тамплиеров и госпитальеров могли выставить на поле боя примерно по 300 рыцарей и по столько же туркополов (легкой конницы). Другой задачей рыцарских орденов была оборона укрепленных пунктов. Из-за нехватки людей оборона в Сирии и Палестине строилась с опорой на замки и крепости. Правители, и знать, которым недоставало людей и средств, дарили или продавали крепости орденам. Ордены также строили новые крепости, ремонтировали и расширяли старые, гарнизоны замков составляли орденские служители во главе с рыцарями.
Вскоре не только в Святой Земле, но и во всей Европе возникли орденские дома (отделения), во главе которых стояли командоры, обычно назначавшиеся сверху. Когда количество орденских братьев и домов возросло, дома одного региона стали объединять в провинции, или приории, во главе с приорами, также назначавшимися сверху. По всей Европе им щедро завещали земли и дары, особенно возвратившиеся крестоносцы или те, кто лично не мог принять участия в крестовом походе. Ордены, и в первую очередь тамплиеры, постепенно начали действовать как банкиры и кредиторы. Теперь барону, ушедшему в крестовый поход, можно было не брать с собой всех своих денег, а сдать их в отделение ордена на родине и получить по прибытии в Святую Землю.