Основателями ордена были соратники Готфрида Бульонского французские рыцари Гуго де Пайянс и Готфрид де Сент-Омер, которые в 1118 году вступили в Палестине в союз с семью другими рыцарями и во имя Божьей Матери принесли обет целомудрия, послушания и бессребреничества, четвёртым главным обетом этих девяти рыцарей была защита паломников в Св. Землю против сарацин. Существует мнение, что уже при самом основании ордена стояли левиты.
Рыцари — основатели ордена не были монахами, ибо монах не носит меча, тем не менее они повторили перед патриархом иерусалимским вышеназванные три монашеских обета, неисполнение которых служило одним из главных предметов обвинения после ареста храмовников в 1307 году. Основан был орден в иерусалимском странноприимном доме. Вскоре король Балдуин II Иерусалимский отвел им именно ту часть своего дворца, которая была построена на том месте, где находился Храм Соломона. Многие исследователи полагают, что иудейские менторы рыцарей особенно заинтересовались ими как раз после этого и подсказали также выбор орденского знамени, состоявшего из сшитых вместе чёрного и белого квадратов, знаменующих главную идею дуализма [cccxxi] — равнозначность добра и зла, т. е. бога и сатаны [cccxxii].Счастье сопутствовало ордену. Положение об ордене было написано самим св. Бернардом [cccxxiii]
, которое папа Гонорий II подтвердил на Тройесском соборе в 1127 году. Пожертвования и наследства потекли в кассу ордена. Папа Александр III подтвердил и умножил в 1172 году привилегии ордена, и папа Иннокентий III, тот самый, который исповедь и предсуществование возвел в догматы, освободил духовенство ордена от присяги на верность и послушание епископам [cccxxiv], что особенно было чревато последствиями для тамплиеров. Благодаря привилегиям церковь и государство вскоре потеряли всякий контроль над орденом, его членами и его имуществом и мало-помалу тамплиеры образовали государство в государстве, а также церковь в церкви [cccxxv].Созданный несколько ранее тамплиеров орден св. Иоанна или иоаннитов, сохранившийся до наших дней [cccxxvi]
, такими привилегиями не пользовался. Скорее всего, его спасло именно отсутствие привилегий, подобных тамплиеровским [cccxxvii], а может быть лучшая маскировка и конспирация.