Весной 963 г. до императора дошли слухи, что папа, нарушив свои союзнические обязательства, вступил в соглашение с Адальбертом и даже пригласил его в Латеран. Отгон отправил надежных людей в Рим, чтобы узнать истину. Посланцы, досконально расследовав дело, подтвердили факт переговоров. Стала явной и секретная отправка гонцов к византийскому императору и язычникам-венграм. То есть оказалось, что вероломный Иоанн готов вступить в союз не только с отступниками-византийцами, но и с идолопоклонниками. Сверх того послы сообщили множество скандальных сведений о папе и передали много жалоб на беспутный образ жизни Иоанна. Его обвинили в убийстве, клятвопреступлении, кощунстве, кровосмешении с собственными родственницами и двумя сестрами.
В новом качестве император считал себя обязанным следить за чистотой нравов Церкви. Уже одного распутства папы было довольно, но когда тот проявил непочтительность по отношению к императору, которого сам и же и создал, Отгон немедленно собрал синод и сместил Иоанна.
Нравственное падение понтифика вызывало пробуждение церковного сепаратизма, с трудом побежденного Николаем I. Так, Собор в Реймсе называл Иоанна XII
Переждав летнюю жару, в октябре Отгон разбил лагерь под стенами Рима. Большинство горожан стояло на стороне папы, но много было и таких, которые открыто заявляли, что поддерживают императора. Иоанн XII, поначалу настроенный весьма решительно, лично руководил организацией обороны города. Его часто видели на стенах в доспехах, опоясанным мечом. Но, здраво оценив свои возможности, папа посчитал более разумным бежать из города вместе с Адальбертом. По словам современников, они скрывались,
Император вновь утвердил церковное государство во всем объеме, какой оно имело при Каролингах, и вместе с тем сохранил за собою право утверждения выборов папы и отправление правосудия в Риме через императорских послов. Оттон настоятельно рекомендовал князьям церкви избрать папой названного им человека. Им стал Лев VIII (6.12.963–1.3.965). Об этом папе известно немного, даже его мирское имя не сохранилось для потомков. Скорее всего, он был римлянином, светским человеком и служил в папской канцелярии. По-видимому, именно там его заметил и оценил Оттон I. Лев не был клириком, но имел безупречную репутацию, заслужив ее своим аскетизмом, подзабытым за полвека разврата. Примерная жизнь Льва способствовала выбору императора, который на место богохульника, конечно, мог поставить только достойного мужа.
После избрания Лев VIII в течение нескольких дней прошел все необходимые ступени посвящения и по совокупности отличий мог считаться законно избранным понтификом. В благодарность он передал императору священную реликвию — руку св. Фелицитаты, а тот подтвердил его право на владения Св. Престола, прибавив еще пять городов. Как раз в это время умер находившийся в Риме патриарх Аквилеи, и Оттон сразу же воспользовался своей прерогативой главы имперской Церкви, в состав которой теперь был включен и папа. Он назначил на вакантное место своего протеже и велел Льву VIII вручить ему знаки патриаршего достоинства.
Поскольку престол понтифика оказался под полным контролем немецких императоров, проводивших антивизантийскую политику, углубился раскол между Восточной и Западной церквами.
В Риме между тем росло недовольство иностранным засильем. Низложенный Иоанн XII стал вызывать к себе сочувствие, которое было тем горячее, что он был сыном великого Альберика и папой, которого римский народ избрал свободно. Многие помнили и уважали его отца. Кроме того, поддержать папу-итальянца подвигали патриотические настроения. Многочисленные дамы, составлявшие ближний круг Иоанна, развернули в его защиту широкую кампанию. По-видимому, он обладал природным обаянием, которое с легкостью завоевывало людские сердца, и был неотразим в общении с женщинами.
3 января 964 г. колокола неожиданно стали бить набат, и римляне с оружием бросились к замку, где помещался Оттон, намереваясь захватить оккупантов. Их замысел, однако, не удался. Императорские воины отбросили нападавших, разрушили баррикады, возведенные на мосту Св. Ангела, и преследовали обратившихся в бегство римлян до тех пор, пока сам Отгон не положил конец резне.
Это было первое восстание римского народа против германского императора, жестоко подавленное немецким оружием.