Со смертью главного врага для Генриха IV начинались, казалось бы, благоприятные времена, но в 1088 году римский престол занимает новый папа, Урбан II, тоже приверженный клюнийским принципам, и начинает проводить в жизнь идеи Григория VII. Очень ловко, посредством странного брака, он объединяет двух заклятых врагов Генриха IV: графиню Матильду, которой уже перевалило за сорок, и семнадцатилетнего сына Вельфа Баварского. Сторонником папы объявляет себя и старший сын Генриха IV, Конрад, но в 1101 году он умирает. В 1103-м Генрих IV провозглашает на территории всей империи
С 1014 года в Клюни хранилась золотая держава, дарованная Бенедиктом VIII Генриху II, которую тот оставил в аббатстве. Рауль Глабер добавляет, что этот символ имперской власти был сделан по подобию Земли, «которая, как говорят, имеет круглую форму».
Генрих IV «старший» победил, но 7 августа 1106 года неожиданно умер в Льеже. Его тело пять лет дожидалось снятия анафемы, без которого он не мог быть погребен в родовом склепе Шпайерского собора. Печальная церемония совершилась в том же 1111 году, в котором в Риме состоялась коронация его сына.
Генрих V предал своего отца, как предал впоследствии поддержавшего его папу Пасхалия II. Тот выразил готовность отказаться от имени духовенства от феодальных владений и всех прав и привилегий, с ними связанных, в обмен на отказ императора от инвеституры. Генрих V согласился, однако, когда во время коронации был зачитан текст соглашения, это вызвало взрыв негодования. Епископы не желали отказываться от земных благ, а знать не хотела лишаться права контролировать Церковь. В соборе Святого Петра произошла смута, и Генрих в очередной раз заключил папу под стражу, а затем принудил своего пленника предоставить ему традиционные для императоров права.
Этот рисунок происходит из Chronicorum libri. Генрих «старший», в короне, со щитом, украшенным изображением орла, сражается с Генрихом «младшим», изображенным слева, тоже в короне, но без орла на щите. Этот печальный эпизод гражданской и семейной распри имел место около Регенсбурга в 1105 году. Генрих IV был вынужден отречься от престола и несколько месяцев спустя умер (1106). Генрих V, последний император Франконской династии, также испытает немало трудностей во взаимоотношениях с папской властью, пока стороны не придут наконец к согласию в вопросе об инвеституре (Вормс, 23 сентября 1122 года).
После долгого и мучительного чередования побед и поражений, когда удача улыбалась то имперским войскам, то папским, компромисс был наконец достигнут. Он нашел свое выражение в так называемом Вормсском конкордате 1122 года. Император отказывался от инвеституры епископов с вручением посоха и кольца. Однако за ним сохранялось право присутствовать на выборах церковного иерарха и в момент посвящения указать на него скипетром,