Резкие нападки Иоанна на императорский двор привели к его изгнанию, и императоры Востока вплоть до дней Византии обычно сохраняли власть над церковью. Однако на Западе власть императора исчезла, и церковь существовала рядом с германскими королевствами в качестве независимой структуры.
В развитии церковной организации в период Поздней империи можно обнаружить две противоположные тенденции. С одной стороны, епископы становились более могущественными, чем ранее, а с другой – христиане склонялись к разделению, частично из-за расхождений в вероучении, но гораздо чаще по географическому признаку. Обе тенденции – абсолютизм и локализм – являются важными аспектами развития Поздней империи в целом.
На протяжении первых четырех веков после Рождества Христова церковные организация и законы все больше создавались по образцу организации и законов империи. Соответственно, резиденциями епископов обычно становились города – основные местные элементы управления. После признания христианства здесь же в качестве физических средоточий религиозной организации и мест отправления культа возводились кафедральные церкви. Тем временем политические органы городов все больше слабели, сначала под гнетом императорского деспотизма и экономического упадка, а затем из-за пренебрежения со стороны вторгшихся германцев, которые предпочитали селиться в сельской местности.
К V веку прежние формы городского управления на Западе полностью уступили место военачальникам, назначаемым, чтобы руководить одним или несколькими городами, превращенными в форты. Рядом с этими «графами» и «герцогами» в качестве местных защитников стояли епископы. Когда в 455 году вандалы напали на Рим, а император был убит солдатами, епископ Римский папа Лев I вышел из города, чтобы получить от Гейзериха обещание, что никто не будет убит, а Рим не будет сожжен во время грядущего разграбления. Как практичные руководители, а также как члены организации, которая на самом деле обладала в империи независимостью, епископы стремились подстроиться под новые условия при германцах-завоевателях и в общем не вдохновляли паству на серьезное сопротивление. Испытывая в целом отвращение к полуцивилизованным германцам, церковные проповедники принимали близко к сердцу лишь их приверженность арианству. В Поздней империи германские короли, в свою очередь, обычно признавали судебную и административную власть, которую епископы имели над местным населением. Если также принять во внимание богатство епископов, складывающееся из церковных пожертвований и доходов от больших участков земли, полученных по завещаниям или же отданных отчаявшимися, ищущими защиты крестьянами, то ясно, что в конце V века местные церковные владыки являлись важными политическими фигурами.
В Поздней империи над епископами городов стояли епископы столиц разных провинций, а значительной властью над ними, в свою очередь, обладали один или два епископа всей империи. Эта власть отчасти зависела от личного влияния и способностей человека, однако две епархии сохраняли постоянное господствующее положение – Рим и Константинополь. Рим являлся номинальной столицей империи. Согласно преданию, его церковь была основана святым Петром, которому Христос сказал: «Ты – Петр [
В Поздней империи епископы западных провинций искали в Риме владычества и руководства, особенно в вопросах ортодоксального учения, ибо германские короли были арианами. В самой Италии, когда власть императора ослабла, отчаявшиеся жители полуострова обратились к папе за политической помощью. Во времена Льва I – папы римского с 440 по 461 год, добившегося подходящих условий и от Аттилы, и от Гейзериха, начало формироваться средневековое положение папского престола.
Однако главенство римской церкви признавали не во всей империи. Иногда даже западные епископы следовали иными путями, а в восточных провинциях христиане в поисках руководства взирали на новую столицу – Константинополь, которому на соборе 381 года было отдано второе место в церковной иерархии. На церковных соборах императоры все меньше могли повлиять на единство доктрины, и часто мнения римских епископов и восточных владык расходились. Здесь берет начало средневековый раскол между Римско-католической и Греческой ортодоксальной церквями.