Этот орден был основан немцами незадолго до того времени в Палестине, в честь Богоматери, по примеру итальянских иоаннитов и французских тамплиеров. Он принял на себя монашеские обеты с обязательством ходить за больными и сражаться с неверными. Правда, его подвиги в Палестине мало помогли Иерусалимскому королевству; зато он был наделен разными владениями в Германии и Италии. Значение его много поднялось благодаря в особенности гроссмейстеру Герману Зальца, который умел снискать одинаковое уважение и Фридриха II Гогенштауфена, и противников его, то есть римских пап. В 1225 году прибыли к нему в Южную Италию послы князя Мазовецкого и предложили ордену переселиться в области Кульмскую и Любавскую под условием войны с прусскими язычниками. Такое предложение, конечно, не могло не понравиться гроссмейстеру; но он не спешил своим согласием, наученный опытом. Около того времени угорский король Андрей II точно так же призвал тевтонских рыцарей для борьбы с половцами и дал ордену во владение область Трансильвании; но потом, заметив опасность, которая грозила от водворения военной и властолюбивой немецкой дружины, он поспешил удалить тевтонов из своего королевства. Очевидно, угры обладали большим инстинктом самосохранения, нежели поляки.
Тевтонский гроссмейстер не столько заботился о крещении язычников, сколько имел в виду основать собственное независимое княжество. Он начал с того, что испросил ордену у императора Фридриха грамоту на полное владение Кульмской землей и всеми будущими завоеваниями в Пруссии; ибо, по тогдашним немецким понятиям, и самая Польша считалась леном Германской империи. Зальца хотел поставить будущее княжество под непосредственное верховенство империи, а никак не Польши. Затем он вступил в продолжительные переговоры с Конрадом Мазовецким об условиях перенесения ордена в Кульмскую область. Плодом этих переговоров был целый ряд актов и грамот, которыми недальновидный польский князь предоставил тевтонам разные права и привилегии. Только в 1228 году впервые на границах Польши и Пруссии явился значительный отряд тевтонских рыцарей под начальством провинциального магистра Германа Балка, чтобы принять Кульмскую землю во владение ордена. Прежде нежели приступить к борьбе с язычниками, немцы и тут продолжали свои переговоры с Конрадом, пока договором 1230 года не получили от него подтверждения на вечное, безусловное владение данной областью. В то же время они постарались обеспечить себя от притязаний помянутого епископа прусского Христиана, который думал, что Тевтонский орден будет находиться к нему в таких же отношениях, в каких Ливонский — к епископу Рижскому. На первое время орден признал ленные права епископа на Кульмскую землю и обязался платить ему за нее небольшую дань. Благоприятный для ордена случай вскоре помог ему совсем освободиться от этих ленных отношений. Епископ Христиан с небольшой свитой неосторожно углубился в землю язычников для проповеди Евангелия и был захвачен в плен, в котором томился около девяти лет. Ловкий Герман Зальца, остававшийся в Италии и оттуда управлявший делами ордена, склонил папу Григория IX признать прусские владения тевтонов непосредственным духовным леном папского престола, чем устранялись притязания кульмского епископа. Кроме того, с согласия папы остатки добрынских рыцарей и их имения были включены в Тевтонский орден. В этом краю, так же как в земле балтийских и полабских славян, католическая церковь явилась главной союзницей германизации.