Вновь столкнувшись с провалом в переговорах, Фридрих обратился к Генриху Льву, герцогу Саксонии и Баварии, в чьей помощи он отчаянно нуждался. Они встретились в Кьявенне весной 1176 года. Не ясно, что произошло между ними, но Генрих, очевидно, предъявил такие условия за свое содействие, которые его император не мог или не должен был признать. Вынужденный, поэтому, продолжать свои усилия без поддержки саксонского герцога, Фридрих возобновил военные действия. 26 мая 1176 года при Леньяно имперская армия стремительно двинулась вперед и была наголову разбита. Хотя поражение при Леньяно, возможно, не было решающим, как полагали ранее, Фридрих все-таки согласился вести переговоры. Когда формула посредничества, предложенная Кремоной и принятая императором, была отвергнута «ломбардцами», упоенными удачей, император, очевидно еще надеясь оторвать Папу от городов, решил пойти на мир с Александром. Обращая внимание на важность своего решения, он призвал германских прелатов и князей собраться в Италии в ноябре.
В этот момент голоса всех, кто тайно надеялся или открыто действовал ради примирения, стали громче; среди германских епископов данной позиции придерживались Вихман Магдебургский и Конрад Вормский, Филипп Кёльнский и Христиан Майнцский; картезианец Теодорик. В течение некоторого времени цистерцианцы пытались всячески способствовать примирению. Под руководством Понса (в прошлом настоятеля монастыря в Клерво, а ныне епископа Клермона) и аббата Гуго из Бонво, к которым Фридрих обратился через письма, их усилия получили новый импульс. Даже дож Венеции Себастьян Циани также выступал за мир.
Таким образом, именно имперские послы, Христиан Майнцский, Вихман Магдебургский и Конрад Вормский, явились к папе в Ананьи. Чтобы успокоить «ломбардцев», Папа настаивал на том, что окончательное примирение не может быть достигнуто без участия всех союзников – очевидно, были упомянуты ломбардцы, сицилийцы и греки. Имперские полномочные представители, которые надеялись заключить простой двусторонний договор, согласились с данным требованием, настаивая только на том, чтобы переговоры между ними и кардиналами были секретными. Примерно две недели имперские послы провели в переговорах с комиссией кардиналов и составили предварительное основание соглашения, Пакт Ананьи.
С точки зрения Церкви, решающим фактором в Ананьи стал официальный отказ императора от схизмы. Император, его жена и сын обещали признать Александра как истинного Папу и предоставить ему те же почести, которые предыдущие императоры оказывали предшественникам Александра. Это был единственный вопрос, в решении которого Папа не мог пойти на компромисс. В свою очередь, Александр и кардиналы согласились признать жену Фридриха императрицей и то, что его сын Генрих должен был быть коронован как король римлян Папой или папским легатом. Папа и кардиналы обещали жить в мире с Фридрихом, его женой, сыном и теми, кто их поддерживал.
Объектом переговоров также могли стать другие, менее существенные, но оставшиеся неразрешенными вопросы. Важным делом стал вопрос о схизматических рукоположениях, проблема, из-за которой сорвались предыдущие переговоры и которая обсуждалась многими канониками, включая Роландо. Ныне Александр занял менее строгую позицию, чем раньше, и согласился принять законность схизматических назначений, если они были получены от епископа не схизматика или от тех лиц, кто получил посвящение опосредованно от них. Легко понять, что в Германии, после двадцати лет схизмы, решить данный вопрос в отдельных случаях являлось крайне трудным делом. Тем не менее поразительно, что суровые дисциплинарные меры взыскания против бывших схизматиков не обсуждались.
В отношении антипапы и его Курии Александр проявил великодушие. Он обещал предоставить Каликсту III аббатство и позволить его кардиналам сохранить тот сан, который они имели до схизмы. Что касается духовенства негерманских земель, то все возникавшие там проблемы решались схожим образом, как на том настаивал Папа, хотя в определенных случаях император мог ходатайствовать.
По предварительным распоряжениям, согласованным в Ананьи, за Папой также признавалось право управлять Римом. Римская префектура должна была быть восстановлена с сохранением некоторых имперских привилегий, а земли Матильды Тосканской и права церковной собственности должны были быть восстановлены в том виде, в каком находились во времена Иннокентия II. Собственность и права, несправедливо отобранные у духовенства церквей, должны были быть восстановлены, и те, кто был принужден принести клятву верности императору, освобождались от нее. Кроме того, обеими сторонами должна была быть собрана комиссия, включая короля Сицилии, если тот не воздержится, для рассмотрения дел, накопленных со времени правления Адриана IV.