Трудно предположить, какова была бы дальнейшая судьба немецкого учреждения, но битва при Хаттине и последующий захват святого города Салах ад-Дином положил конец его существованию. Однако в немецком госпитале действительно была острая потребность, особенно во время 3-го Крестового похода. Несмотря на то что император Фридрих I Барбаросса погиб (утонул в реке) в 1190 г., еще до осады Акры, значительные отряды крестоносцев под началом германских князей высадились в городском заливе. Потребность в больнице для немецкоговорящих солдат была явной. Согласно старой чтимой традиции полевой госпиталь был построен крестоносцами из Бремена и Любека, материалом для него послужили корабельные доски и паруса. Покровительство немецких князей, особенно Фридриха Швабского, и его брата, короля Генриха VI, поддержка папы Климента III (1 191) и дарование новых привилегий Целестином III (1196) способствовали быстрому строительству. Годом позже, когда в Святую землю прибыл большой отряд немецких воинов и напрасно ожидал Генриха VI, он был преобразован в полноправный духовно-рыцарский орден. Имеется описание этого события в ранней орденской хронике, в так называемом «Повествовании о происхождении Тевтонского ордена»: «Многие германские князья (пишет хронист) считали делом нужным и благородным даровать вышеупомянутому госпиталю устав тамплиеров. Ради этой цели германские прелаты, князья и знать собрались в доме тамплиеров в Акре и пригласили для участия в столь важном собрании прелатов и феодалов Святой земли. Все собравшиеся пришли к единодушному мнению, что для ухода за бедняками и больными в заведении должен быть принят устав Ордена Св. Иоанна Иерусалимского, каковой и был ранее. Что же касается духовенства, рыцарей и другой монашеской братии, то они согласились, что для них предпочтительнее следовать уставу Ордена тамплиеров… После того как это решение было принято, прелаты и храмовники представили всем новое монашеское братство с уставом Ордена тамплиеров, и тогда они избрали настоятелем брата Генриха из рода Вальпотенов… Великий магистр Ордена тамплиеров вручил ему устав рыцарей Храма, по которому отныне должна была жить монашеская община».
В феврале 1199 г. папа Иннокентий III преподал новому духовно-рыцарскому ордену свое благословение.
Вопрос, существовала ли какая-либо связь нового ордена с немецким учреждением в Иерусалиме, был предметом жарких дискуссий. Кроме многочисленных доводов об отсутствии каких-либо контактов между ними еще до образования ордена, можно привести один любопытный факт. В документах крестоносцев более чем на протяжении 20 лет орден в связи с Иерусалимом не упоминался. Только в 1220 г., спустя не один десяток лет после образования духовно-рыцарского ордена, нам встречается наименование «Госпиталь Святой Марии Тевтонского дома в Иерусалиме». Вплоть до этой даты название дается разное: «Госпиталь алеманов, что в Акре», «Дом тевтонского госпиталя», «Церковь алеманов, что в Акре», «Дом алеманов в Акре». Отныне имя Иерусалима никогда не исчезнет из его титула. В 1229 г. великий магистр нового ордена Герман фон Зальца, один из выдающихся людей своего времени, получил от императора Фридриха II в свое владение собственность немецкого учреждения в Иерусалиме. Связать имя этого славного в Иерусалиме учреждения с новым орденом было естественным шагом, так что можно только удивляться тому, почему этого не было сделано ранее. В 1220 г. поколение, пережившее катастрофу Хаттина, уже уходило, а вместе с ним ушла и память о тех событиях.
Орден развивался довольно быстро, потому что с начала XIII в. церковь регулярно даровала орденам различные привилегии. Однако тевтонские рыцари не пошли по стопам своих предшественников. Несмотря на то что недвижимость, приобретенная ими, была разбросана по всей Европе, продолжала сохраняться изначальная связь с Германией. Это привело к тому, что орден формировался как инструмент германской экспансии для проникновения в земли его славянских соседей. В каком-то смысле эволюция Тевтонского ордена может рассматриваться как воплощение в жизнь скрытых устремлений его рыцарей, что характерно для всех военных орденов. Тамплиеры и госпитальеры начинали свою деятельность в северных княжествах крестоносцев с создания полунезависимых государств в Антиохии и Триполи. В отсутствие возможности стать независимыми правителями Испании тамплиеры некоторое время носились с идеей стать правителями Кипра. В 1211 г. тевтонские рыцари попытались создать независимое государство в Бургенланде в Венгрии. После первоначального успеха они были изгнаны в 1225 г. местными аристократами во главе с королем. Шесть лет спустя (1231) польский князь Конрад Мазовецкий пригласил тевтонских рыцарей в северные земли Польши и на берегах Балтики было основано государство ордена, будущая Пруссия.