Эта несколько сверхчеловеческая экзальтация, однако, не помешала Фридриху тщательно подготовить само предприятие. Пока он способствовал проповедованию похода в своих государствах, пока прощал разных принцев и князей, которые в предыдущие месяцы плели против него интриги, среди прочих — архиепископа Кельнского, епископа Утрехтского и графа Гельдрского, он торопил переговоры с Климентом III, чтобы выразить в конкретном документе достигнутое принципиальное согласие.
А папе нужно было сделать очень многое. Вновь обосновавшись в Риме, он должен был сначала договориться с римлянами. 31 мая 1188 года он заключил с ними соглашение, по которому сохранял коммунальные учреждения, взяв на себя содержание сенаторов и чиновников, но это соглашение утвердило его суверенитет в Вечном городе, а значит, и в коммуне, возвращавшей ему его привилегии. Он также не переставал заниматься подготовкой похода на Восток. Ему предстояло продолжить свое посредничество между Филиппом Августом и Генрихом II, помирить Геную и Пизу и добиться от Генуи помощи в отправке англо-французских крестоносцев морем. Все это затягивало урегулирование отношений с империей, может быть, еще и в связи со сложностями в решении территориальных проблем Центральной Италии.
Во всяком случае, в феврале 1189 года по настоянию Фридриха был достигнут первый результат в деле о выборах архиепископа Трирского. Климент III провозгласил решение о смещении Фольмара, а император в то же время добился отставки Рудольфа фон Вида; электоры избрали канцлера капитула, Иоганна, который тотчас же был инвестирован Штауфеном со всеобщего одобрения. Такое решение вопроса ускорило ход переговоров, которые вели от имени Барбароссы сначала Генрих VI и его советники, потом епископы Вюрцбургский и Бамбергский, тогда как папу представляли кардиналы Йордан и Петр. Это привело к соглашению, опубликованному в Страсбурге 3 апреля Генрихом VI, который вернулся из Италии и принял на себя правление Германским королевством. Папа обязывался короновать Генриха VI императором при жизни его отца; отец же признавал суверенитет папы в Церковном государстве, он возвращал ему то, что было конфисковано в Орвьето, Орта, Нарни, Тускулуме, Террачине, Тиволи и других местностях, освобождал от клятвы верности тех, кто давал ее в этих городах, а также в Витербо, Романье и Кампанье. Вместе с тем документ уточнял, что папство получает эти области, а заодно и все территории Патримонии
Что касается спорных территорий в Центральной Италии, в частности, владений Матильды, то здесь ничего не было решено, и люди императора продолжали их занимать де-факто, если не де-юре.
Эти ограничения и оговорки лишний раз свидетельствовали о желании Штауфена не уступать, при том что Климент III в интересах крестового похода не мог вести себя иначе. Удовлетворившись этим актом, упрочившим его предыдущие успехи, Барбаросса 10 апреля направил главе церкви послание с поздравлениями, 18 апреля то же самое сделал Генрих VI.
Во время этих переговоров Фридрих не прекращал деятельности в Германии и других своих государствах для обеспечения там порядка на время своего отсутствия. Он опасался, как бы Генрих Лев, подстрекаемый к действию недавним мятежом архиепископа Кельнского, не занялся в его отсутствие интригами, тем более что бывший герцог Саксонский был в прекрасных отношениях с новым архиепископом Бременским, у которого, в свою очередь, были счеты с Бернхардом Анхальтским, получившим главные выгоды от решения 1180 года. Поэтому Фридрих предложил своему сопернику в присутствии ассамблеи, собравшейся в августе 1188 года в Госларе, либо поклясться, что он больше не будет заявлять своих территориальных притязаний и требовать возвращения некоторых конфискованных у него поместий, либо принять участие в крестовом походе за императорский счет, либо отправиться в новую ссылку на три года с тем, чтобы не быть в Германии на все время похода. Лев, который не мог принять ни первого предложения — оно лишило бы его и его потомков возможности заявить протест и превратилось бы в постыдный отказ от своих прав и имущества, ни второго — поставившего бы его в прямое подчинение Штауфену, в апреле 1189 года вновь отправился в Англию.
На той же самой ассамблее в Госларе монарх «с