На место убитого Бертольда Бременский архиепископ назначил одного из своих каноников, Альберта, происходившего из довольно знатной фамилии Апельдерн или Буксгевден. Этот выбор оказался очень удачен. Альберт был человек изворотливый, энергичный и предприимчивый. Он менее всего мечтал о славе апостола-мученика, а возложил дальнейшее распространение христианства в Ливонском крае главным образом на силу меча. Поэтому, прежде чем отправиться туда, он приготовил все средства для будущего успеха. Он посетил Готланд, где успел набрать пятьсот крестоносцев, потом Данию, где полушл большое денежное вспоможение. Затем Альберт объехал часть Северной Германии и в Магдебурге выхлопотал от короля Филиппа постановление, чтобы имущества крестоносцев, отправлявшихся в Ливонию, пользовались теми же привилегиями, как и крестоносцев, ходивших в Палестину.
Весной 1200 года Альберт с ратными и торговыми людьми на двадцати трех кораблях приплыл к устью Двины. Оставив здесь главный флот, епископ на небольших судах поднялся до Гольма и Икскуля. Ливы вооружились, начали новую войну с немцами и заставили их выдержать упорную осаду в Гольме. Но епископ не затруднился прибегнуть к вероломству: ему удалось под видом переговоров заманить к себе ливонских старшин; тогда, под угрозой отправить их самих пленниками в Германию, он принудил их к выдаче заложниками до тридцати своих сыновей. Эти мальчики были отосланы в Бремен и там воспитаны в христианской религии. Епископскую столицу Альберт решил основать поближе к морю и выбрал для этого на правом низменном берегу Двины то самое несколько возвышенное место, на котором пал его предшественник Бертольд и которое называлось Риге по имени небольшой впадающей здесь речки, в четырнадцати верстах от моря. В 1201 г. начата была постройка стен и заложен кафедральный собор во имя св. Марии. Папа, знаменитый Иннокентий III, не только дал свое согласие на основание епископского города, но и даровал ему некоторые привилегии; например, он наложил запрет на посещение немецкими торговцами соседнего с Двинским устья реки Муса, или Куронской Аа, где производилась торговля с туземными зимголами. Вследствие такого запрещения все посещавшие этот край немецкие купцы поневоле должны были приставать в устье Двины. Последнее укреплено особым замком, получившим от самого положения своего название Динаминде (т. е. Двинского устья). Альберт постарался привлечь в епископскую столицу многих купцов и ремесленников из Бремена, Готланда и других мест, щедро оделяя их разными привилегиями, и город благодаря выгодному положению вскоре сделался одним из самых значительных посредников в торговле между Германией и Скандинавией, с одной стороны, и восточной Европой — с другой. Каждую осень Альберт отправлялся в Германию и каждую весну, т. е. с открытием навигации, возвращался в Ригу, приводя с собой новые отряды вооруженных пилигримов. Но эти крестоносцы оставались в Ливонии только одно лето и затем отплывали обратно, в уверенности, что они достаточно заслужили папское отпущение своим грехам. Подобное пилигримство, конечно, не могло удовлетворить Альберта, который желал иметь в своем распоряжении настоящую военную силу. С этой целью он начал раздавать немецким рыцарям замки и владения на ленном праве. Первые из таких ленных баронов явились в Икскуле и Ленневардене; последний замок построен также на правом берегу Двины, выше Икскуля. Усилившиеся войны с туземцами заставили епископа подумать о более действительной мере. Вместе с главным своим сподвижником Дитрихом (тем самым, которому гаданье конем спасло жизнь) Альберт составил план основать в Ливонии монашеский рыцарский орден, по примеру орденов, которые в то время существовали в Палестине. Иннокентий III в 1202 году особою буллою утвердил этот план и дал Ливонскому ордену статут Храмовников, а отличительным знаком его назначил изображение красного креста и меча на белом плаще. Отсюда орден этот и сделался известен под именем Меченосцев (утвержденное папою его именование было Fratres militiae Christi). Вместе с обетами безбрачия, повиновения папе и своему епископу орденские рыцари давали обет всю жизнь вести борьбу с туземными язычниками.