Уже епископ Бертольд пришёл к убеждению, что одних проповедей для успеха колонизации недостаточно. Альберт сразу же, начиная с 1199 г., добивается того, что папа и император приравнивают поход в Ливонию к крестовому походу в Палестину: крестоносцам обеспечивается охрана имущества и даётся прощение грехов за год службы в епископских войсках в Прибалтике. Тотчас же Альберт и начинает набор военной силы для «обращения» Ливонии.
Сразу после высадки на Двине Альберт встретил вооружённое сопротивление, но всё же ему удалось закрепиться в землях ливов. Раз в два года Альберт отправляется в Германию за пополнениями.
В 1201 г. Альберт основан крепость Ригу, которая впоследствии стала важнейшим городом Ливонии, центром епископства и базой для дальнейших походов. Через два года был основан орден Меченосцев – организация, объединившая немецких, по большей части вестфальских и саксонских, рыцарей. Годы епископского служения Альберта хорошо известны, благодаря хроники одного священника, Генриха Латвийского (Ливонского). Война в Ливонии и Эстонии длилась около 20 лет и закончилась разделением власти между меченосцами и Данией. Управляемая своими правителями-язычниками, Литва удержалась, и позже, когда литовцы разбили Орден, его остатки присоединились к Тевтонскому ордену, вернувшемуся со Святой земли. У тевтонцев были более амбициозные планы, нежели у меченосцев. В 1215 г. на Латеранском соборе папа Римский Иннокентий III объявил Ливонию и Прибалтику (вместе с Палестиной) «землёй Марии», целью миссионерской деятельности. Имя Ливонии, закрепилось за этой территорией на долгое время, названия Латвия и Эстония появились гораздо позже.
Одной из причин столь жёсткого конфликта между немецкими завоевателями Ливонии и Русью было то, что Русь, прежде всего Новгород и Псков, также стремилась усилить своё влияние на Прибалтику. Русские княжества давно уже собирали дань с балтийских племён и финнов, но защитить своих вассалов от католической агрессии не смогли. Полоцкое княжество, о котором известно крайне мало (Полоцкая летопись утрачена), в этот период ослабело и вскоре утратило свои земли по Западной Двине, назовём только Герицке и Кукенойс. Некоторые эстонские племена решили воевать вместе с русскими против немцев, другие – ливонцы и латыши – решили связать свою судьбу с немцами.
Помимо раздачи феодов своим рыцарям, епископ Альберт предпринимает меры и для создания в Ливонии военно-монашеского ордена по образцу орденов палестинских. В 1202 г. он (точнее – его заместитель в то время) учредил Орден меченосцев. Официальное название Ордена – «Frares miliiae Chrisi» («братья Христова рыцарства»). Орден, как и все прочие, руководствовался уставами Ордена Тамплиеров. Члены Ордена разделялись на рыцарей, священников и служащих. Рыцари чаще всего происходили из семей мелких феодалов, чаще всего из Саксонии или Вестфалии. Их отличием стал белый плащ с изображением красного меча и небольшого красного германского креста над ним. После разгрома при Шауляе в 1237 г. остатки меченосцев влились в Тевтонский Орден, тем самым сменив свою символику на чёрный крест Тевтонского ордена. По специальному распоряжению папы, бывшие рыцари меченосцы под страхом изгнания из ордена должны были носить тевтонскую символику. Рыцари ордена делились на две категории: орденские братья, принимавшие обеты бедности, безбрачия и послушания, а также рыцари-собратья или союзные рыцари. В число последних мог войти любой посвящённый рыцарь, принимавший от ордена пожалования, чаще всего земельные, а за это обязанный ему службой. Они не принимали монашеского звания и не давали обета безбрачия.
Служащие (оруженосцы, ремесленники, слуги, посыльные) были родом из свободных людей и горожан. Главой ордена был магистр, важнейшие дела ордена решал капитул.
Первым магистром ордена был Винно фон Рорбах (1202–1208 гг.), вторым и последним – Фолквин фон Винтерштаттен (1208–1236 гг.).
Подчинение ордена епископу, с самого начала бывшее очень условным, со временем превратилось в совершеннейшую фикцию, и вскоре орден стал соперником епископа Альберта.