Но унижение, которому подверг себя Генрих, не принесло ожидаемых плодов. Немецкие князья не только не сложили оружия, но избрали королем Рудольфа Швабского, который начал войну с Генрихом. Папа признал королем Рудольфа и на Генриха снова наложил отлучение (1080 г.). Генриху удалось все же привлечь на свою сторону многочисленных сторонников. Часть высшего духовенства стала на его сторону, опасаясь устранением инвеституры попасть в полную зависимость от пап. Среди низшего духовенства поддерживали Генриха женатые священники. Он привлек на свою сторону мелкое рыцарство и население больших городов, которое богатело и старалось избавиться от гнета сеньоров. Папа, запрещая императора, объявил, что апостолы, получившие от Христа право вязать и разрешать совесть людей, тем самым поставлены как над церковью, так и над миром. Если преемник апостолов может распоряжаться духовными должностями, то тем более властен он над королевствами и княжествами. Генрих не пал духом. Собрав приверженных ему епископов, он на соборах в Майнце и Бриксене (1080 г.), повторил низложение Григория и выбрал нового папу Климента III. В одном сражении был убит Рудольф Швабский, а Генрих IV упрочил свою власть в Германии. Тогда он решился покончить дело с папой. В 1084 г.он взял Рим, возвел на папский престол Климента и получил из его рук императорскую корону. Папа Григорий заперся в замке св. Ангела и решительно отказывался от всяких переговоров с Генрихом. На помощь папе пришли норманны, к тому времени овладевшие южной Италией. Их герцог, Роберт Гюискар, собрал большое войско, в котором были завербованы и сарацины. Генрих был вынужден оставить Италию, где Рим был взят приступом Гюискаром. Норманны и сарацины жестоко грабили город на глазах у папы. Жители города были естественно возмущены поведением папских союзников. Григорий VII понял всю тяжесть своего положения и удалился на юг в Салерно, где и умер в 1085 г., говоря перед смертью своим приближенным: "Всю жизнь я любил правду и ненавидел беззаконие, за что и умираю в изгнании". Он причислен Римской церковью к лику святых.
Папы Виктор III (1086-87), Урбан II (1088-99) и Пасхалий II (1099-1118), управлявшие Римской церковью после Григория, были его учениками и старались осуществлять его планы. Поэтому борьба императоров за инвеституру продолжалась. Они требовали уничтожения инвеституры, подвергали императоров отлучению от церкви, составляли против них политические союзы. Генрих IV и сын его Генрих V приходили с войсками в Италию и изгоняли пап из Рима, восстанавливая антипапу Климента. Особенно решительно боролся с имп. Генрихом IV папа Урбан II (1088-99). Ему удалось даже в 1092 г. настроить против Генриха его сына Конрада, восемь лет после этого управлявшего в Ломбардии и Тоскане. Урбан II своей проповедью о крестовом походе в Пьяченце и Клермоне (во Франции) возбудил фанатическое воодушевление в народных массах и сумел воспользоваться этим для своих целей. В 1096 г. крестоносцы, отправлявшиеся через Италию, помогли ему изгнать из Рима Климента и усмирить римских вельмож, державших сторону императора. Урбан занял папский престол в Риме. Преемнику Урбана Пасхалию II удалось совершенно вытеснить из Римской области антипапу Климента, в том же году умершего. Генрих IV ничего не смог сделать с Урбаном II. Защитой папы против императора служили владения маркграфини Матильды, загораживавшие Рим с севера, и поддержка норманнов в южной Италии. В старости Генриху IV пришлось воевать с сыном Генрихом. В 1106 г. их войска встретились на Рейне. Генрих IV внезапно умер. Сына против отца настроил папа Пасхалий, писавший ему льстивые письма с просьбой "оказать помощь церкви Божией".
Генрих V сначала пошел по стопам отца. Маркграфиня Матильда умерла, завешав свои громадные имения Римскому престолу. Генрих V не хотел допускать такого усиления светских владений папы и продолжал настаивать на праве императора давать инвеституру высшему духовенству германского и итальянского королевств. Хотя он и занимал Рим, но непрочность его положения в Германии опять сослужила папам великую службу. Обе стороны утомились в борьбе. При папе Каллисте II (1118-24) на сейме в Вормсе был заключен папой выгодный для него договор с императором Генрихом V и германскими князьями. В 1122 г. на основании Вормского конкордата, папе, как духовному лицу, была предоставлена духовная инвеститура, т. е. право избирать и посвящать епископов и аббатов, согласно церковным законам, вместе с вручением им кольца и жезла. Императору, как светскому главе, предоставлена была инвеститура светская, т. е. право раздавать тем же епископам и аббатам княжеские права, владения и пр., беря с них ленную присягу. На время прекратились споры и беспорядки, разъединявшие западный христианский мир.
Борьба пап с государями