В середине XI века, по разным источникам в 1048 или в 1070 году – Мауро (один из купцов итальянского приморского города – республики Амальфи, располагавшегося немного южнее Неаполя и в то же время принадлежавшего Византии), торговавший с малоазиатскими портовыми городами, получил от владетеля Палестины египетского калифа разрешение на открытие в Иерусалиме госпиталя. Этот странноприимный дом для паломников к святым местам (gospitalis – гость), посвященный патриарху Александрийскому святому Иоанну Элеймону, жившему в VII веке, располагался недалеко от Гроба Господня. Древний хронист Гийом Тирский писал, что «греческое имя святого Иоанна латиняне переиначили на Иоанн Лемонтье – «Милостивый». От него будто бы и пошло название иоаннитов. В последствии покровителем иоаннитов стал святой Иоанн Иерусалимский».
Иоанниты вместе с бенедиктинцами создали в Иерусалиме небольшое братство, ухаживающее за больными и раненными паломниками, приезжавшими из Европы поклониться Гробу Господню, сам госпиталь превратился в большой монастырь с больницами и двумя церквями.
Первым ректором странноприимного дома был избран Жерар де Торн, введший в обиход для членов будущего ордена длинную черную одежду с нашитым на ней восьмиконечным крестом, которая была утверждена римским папой Гонорием II. Жерар де Торн выстроил церковь во имя святого Иоанна Крестителя и новый большой госпиталь. Первых братьев-монахов стали называть госпитальерами, или иоаннитами.
При посещении иоаннитского госпиталя первый иерусалимский король Годфруа Бульонский подарил для содержания дома деревню Сальсола, расположенную вблизи Иерусалима. Четверо рыцарей-крестоносцев из свиты короля – Раймонд де Пюи, Дюдон де Компс, Канон де Монтегю, Гастус – добровольно остались у Жерара де Торна, приняв монашеские обеты бенедиктинцев.
В 1099 году братство иоаннитов было преобразовано в орден, первым начальником которого стал Жерар де Торн. 15 февраля 1113 года римский папа Пасхалий II официально признал орден госпитальеров – «Орден всадников госпиталя святого Иоанна Иерусалимского».
Сначала члены ордена ухаживали за больными и ранеными, а с первой половины XII века начали участвовать в войнах с мусульманскими государствами – Ливаном, Сирией, Палестиной и охранять паломников, прибывавших в Палестину двумя путями – по суше через Малую Азию и Византию или по Средиземному морю. Братство стало принимать в свои члены рыцарей, обязывая их защищать паломников в пути. В 1136 году граф Раймунд Триполийский поручил иоаннитским рыцарям оборону крепости Бетгемлин, прикрывавшей подступы к портовому городу Асколон на юге Палестины. Рыцари успешно выдержали испытание и граф Раймунд передал иоаннитам еще несколько своих крепостей.
Уже через несколько лет в ордене иоаннитов было около полутысячи членов, которые успешно обороняли только в Леванте более пятидесяти крепостей, в которых рыцари, как правило, всегда строили вторую линию укреплений.
Во многих приморских городах Востока, Византии и Западной Европы иоанниты открыли странноприимные дома – госпитали. Иоаннитские крепости располагались почти на всех дорогах паломников, в Акре, Сайде, Тортозе, Антиохии – от Эдессы до Синая. Главными крепостями иоаннитов стали Крак де Шевалье и Маргат.
Крепость Крак де Шевалье, находившаяся на склоне Ливанских гор, имела построенные рыцарями мощные двойные стены с высокими башнями и рвом, пробитым в скалах. Внутреннее пространство крепости площадью около трех гектаров имело жилые здания, казармы, палату великого магистра, амбары для зерна, мельницу, пекарню, маслобойню, конюшни. В крепость был проложен акведук, по которому постоянно поступала питьевая вода, достаточная для двухтысячного гарнизона.
Крепость Маргат располагалась к югу от Антиохии, в тридцати пяти километрах от моря, и была построена из скального базальта с двойными стенами и большими башнями. Внутри крепости находилось большое подземное водохранилище, а запасы крепости позволяли тысячному гарнизону выдержать пятилетнюю осаду.
Паломники из Европы обеспечивались лечением, жильем и едой, судами и охраной для путешествия к Святым местам, иоанниты хоронили умерших и помогали освобождать крестоносцев из плена. Одной из главных задач иоаннитов была также оборона государств крестоносцев, образованных на Востоке.