Смерть Германа фон Зальце была тяжелой утратой для Тевтонского ордена, но дело, которому он посвятил жизнь, отнюдь не погибло. Его сподвижники, гроссмейстеры Конрад Тюрингенский и Генрих фон Гогенлоэ, с успехом продолжили линию своего предшественника. С этого времени деятельность ордена в Европе постепенно становится главной. Тевтонцы не отказываются от присутствия в Святой Земле, но их деятельность там понемногу затухает. Не в последнюю очередь этому способствует и страшное поражение крестоносцев под Газой в 1244 году. В этой битве тевтонцы потеряли убитыми и ранеными 397 рыцарей, а после нее в Святой Земле оставалось всего... трое орденских братьев.
После катастрофы 1244 года Святая Земля окончательно уходит для тевтонцев на второй план. Еще сохраняется штаб-квартира в Акре, но после 1291 года там не жил ни один гроссмейстер Ордена. Палестинские владения из главных превращаются в дальний орденский придаток. Здесь и братьев служит очень мало, никогда их число не превышает 1/5 от общей численности тевтонских рыцарей. Основные усилия Орден сосредотачивает на Прибалтике, добивается здесь значительных успехов, пока, наконец, в 1309 году и свою главную резиденцию не переносит из Венеции в собственную крепость Мари-енбург (в совр. Латвии).
XIV век стал столетием наивысшего расцвета Тевтонского ордена. При гроссмейстере Генрихе фон Книп-роде (1352-—1382) в нем служит около семисот только рыцарских братьев, а в Мариенбурге несет постоянную службу целая сотня рыцарей. И по масштабам владений, и по богатствам, и по числу членов Тевтонский орден становится самым мощным в Европе, превзойдя даже иоаннитов. В это же время происходит окончательное закрепление устава Ордена, устанавливается его иерархическая структура. Во многом орден продолжает походить на своих предшественников тамплиеров, по кое в чем и отличается, так что об устройстве и формах деятельности ордена стоит, видимо, рассказать особо.
Строение Тевтонского ордена было более сложным, чем у храмовников и госпитальеров. Члены объединении делились на несколько групп: братья-рыцари, братья-священники, прочие братья, полубратья, сестры, полусестры и фамилиары. Но особый интерес представляет категория «прочих братьев», не имеющая аналога, скажем, у иоаннитов. На самом деле, к этому разряду относились те, кто в интернациональных орденах назывался сервиентами (сержантами), но в отличие от тех же тамплиерских сержантов, «прочие братья» являлись юридически абсолютно полноправными членами ордена — они даже участвовали в выборах великого магистра. Прочие братья не были дворянами, но имели те же обязанности, что и братья-рыцари, главной из которых являлась военная служба. Но на них же возлагались и главные усилия по содержанию госпиталей и уходу за ранеными и больными, причем в подчинении у брата обычно находилось несколько полубратьев. Полубратья же были мирянами, то есть, они не давали полного монашеского обета, но подчинялись уставу Ордена, и выполняли все возложенные на них обязанности, главным образом, хозяйственные. Аналогичным было положение и в женской части ордена.
Несколько специфической группой были т. н. фамилиары. Они, как и полубратья, были мирянами, но основных обетов не давали, не требовалось от них и соблюдения орденских требований или участия в общих работах. Суть в том, что в фамилиары вступали состоятельные люди, которые оказывали братству материальную поддержку, а по смерти завещали ему свое состояние. За это им предоставлялась возможность пользоваться дарованными ордену привилегиями, главной из которых была отмена десятины. Это привлекало к тевтонцам много богатых собственников, особенно из числа бездетных. Фамилиары получали отличный шанс повысить свое благосостояние — десятина, все же, налог довольно обременительный; а орден после их смерти — богатое владение. Институт фамилиаров был одной из главных составляющих тевтонского могущества, наряду с его военной силой, и основой орденской материальной независимости.