Вторая цель была не менее важной — как в самостоятельном отношении, так и потому, что от нее зависел успех в достижении первой. Чтобы закрепиться в Империи и обеспечить стабильное развитие ордена, повысить его привлекательность в глазах потенциальных кандидатов, миссия рыцарского братства должна была стать ближе к меняющемуся на глазах общественному мнению. Если люди больше не рвутся в далекую Святую Землю (в которой, к тому же, заправляют французы), то им необходимо дать другую, более простую и понятную возможность приложения сил. Конечно, и эта новая цель должна лежать в русле борьбы за веру как базы всей крестоносной идеологии. В то же время, она должна быть близка (и выгодна!) в первую очередь немцам, в определенном смысле — совместить их религиозные и национальные устремления.
Герман фон Зальце решает, что еще одна линия священной войны — пока еще в дополнение к основной — должна получить свое развитие в Европе, и желательно не слишком далеко от имперской границы. Тогдашняя ситуация в Европе давала ему, в сущности, только два варианта: война против схизматиков-православных у южных рубежей Империи — или военные действия на северо-востоке против языческих Пруссии и Литвы с возможным расширением сферы этих действий до православной Руси. Вначале тевтонский гроссмейстер предпочитает южный вариант, как из-за сиюминутных побуждений, для окончательного утверждения результатов Четвертого крестового похода, так и потому, что здесь он впервые получил поддержку от одного из сильных мира сего.
Около 1217 года король Венгрии Андрей выделяет Тевтонскому ордену значительные земельные владения в Трансильвании — с тем, чтобы братья-рыцари обороняли эти земли от православных валахов и сербов и язычников-половцев. Сам Андрей Венгерский в это время отправлялся в поход в Святую Землю, исполняя обет, данный несколько неосторожно еще его отцом. Фон Зальце удовлетворен и сразу посылает сюда несколько десятков братьев и начинает строительство необходимых укреплений. Однако, вскоре трансильванская затея лопается, как мыльный пузырь. Андрей после первых же неудач разочаровался не только в походе, но и вообще в крестоносных идеалах. Уже через год он забирает свое войско и отправляется домой, с абсолютным равнодушием даже к своему отлучению от церкви. А по возвращении венгерский король первым делом отбирает у ордена пожалованные им земли.
Итак, первый опыт был неудачен. Для Германа фон Зальце это стало большим ударом, но он не собирается сидеть, сложа руки. И здесь ему на помощь приходит случай в лице императора Священной Римской империи Фридриха II. Германский властитель также собирается в крестовый поход, который он давно обещал римскому папе. Но дела у него идут ни шатко, ни валко, набор крестоносцев проходит очень медленно, и тогда Фридрих вызывает в Германию на помощь гроссмейстера Немецкого ордена. Фон Зальце с охотой соглашается, ибо при поддержке императора рассчитывает еще более упрочить позиции ордена в Германии. Весь 1225 год он разъезжает по немецким землям и агитирует как за крестовый поход, так и за собственный орден. Но пропагандистская задача, как вскоре выяснилось, была для гроссмейстера не единственной и даже не главной.
В 1226 году Герман фон Зальце встречается с польским князем Конрадом Мазовецким и проводит целый ряд секретных переговоров. Итогом этих переговоров стало деяние, определившее всю дальнейшую судьбу Ордена, а в значительной степени — даже и историю самой Польши. Конрад Мазовецкий, крайне раздраженный набегами язычников-пруссов, передает ордену пограничную с Пруссией Хельмскую землю. Единственное условие — борьба с пруссами. Фон Зальце соглашается, но, наученный горьким опытом, добивается, чтобы новый договор был утвержден германским императором, который и станет гарантом его строгого исполнения. Фридрих II, очень нуждающийся в поддержке ордена, так как уже наметился его серьезный конфликт с папством, охотно дает свое согласие. Больше того, он утверждает и право ордена на все земли, которые тот сумеет завоевать в Пруссии. Гроссмейстер может быть доволен — его заветная мечта сбылась.