Преемники Юстиниана I унаследовали могущественное государство, но не смогли сохранить его во всем блеске и величии. В этом была не только их личная вина, но и обстоятельства складывались для Византии не лучшим образом. Соседние страны все больше усиливались, а Византия слабела. В начале VII века империя вступила в кровопролитную войну с Персией. Многочисленные персидские полчища оккупировали значительную часть Сирии, всю Палестину, проникли даже в Египет. В 614 г. персы взяли священный Иерусалим, а захваченные в нем христианские святыни отправили ко двору своего шаха. Византия переживала тяжелые времена. Император Ираклий I (610–641) приложил колоссальные усилия, чтобы переломить ход войны. Из-за недостатка средств на содержание войска он занял деньги у богатых родов, изъял у Церкви священные сосуды и переплавил их в деньги. Деморализованная византийская армия была перестроена и переучена. После этого Ираклий смог перейти от обороны к наступлению. Его войско нанесло самоуверенным персам несколько крупных поражений, отвоевало Армению, Албанию, Сирию, Палестину и освободило Иерусалим. В 628 г. Ираклий I перенес боевые действия на персидскую территорию, вторгся в Месопотамию, захватил персидскую столицу Ктесифон и все окрестные земли.
Теперь уже объятый ужасом персидский шах вынужден был спасаться бегством. Византийцы вернули увезенные из Иерусалима святыни и сокровища. Христианская Церковь до сих пор отмечает возвращение в Иерусалим Животворящего Креста, случившееся в 630 г.
К сожалению, византийцы недолго наслаждались победой. В это время возникла новая опасная держава — арабский исламский Халифат, основанный пророком Мухаммедом. Мусульмане поставили целью обратить в свою веру и подчинить себе весь мир. Первые удары мусульман пришлись по ослабленным кровопролитной войной Византии и Персии. В течение двух десятилетий арабы полностью завоевали Персию (Иран). Византия лишилась значительной части своей территории. Арабские войска заняли Палестину и Сирию, а в 641 г. ими был завоеван Египет. Потеря такой большой и богатой провинции, как Египет, явилась сильным ударом по Византии. Она перестала быть великой империей.
Арабы продолжали наступление всю вторую половину VII и начало VIII в. Несколько раз полчища завоевателей доходили до самого Константинополя. Византийцы упорно оборонялись и каждый раз отгоняли неприятеля от столицы. Против арабских кораблей применялся знаменитый «греческий огонь», и две флотилии арабов, направлявшиеся к византийской столице, были подожжены этими адскими снарядами. Натиск мусульманских войск удалось остановить дорогой ценой. К середине VIII в. южная граница Византии проходила по Киликии и северной Сирии, потом поворачивала к Каппадокии и Черному морю. От былой великой державы Юстиниана I оставалось менее трети.
Почти весь VIII век прошел в Византии под знаком необычной борьбы, разделившей население на две части: на сторонников и противников почитания икон. Историки называют этот период иконоборческим. С течением времени в Церкви развилось поклонение всевозможным реликвиям — мощам святых, частицам Святого Креста, а также иконам с изображением Спасителя, Богородицы и христианских подвижников. Поклонение им принимало такие размеры и формы, что начинало походить на идолопоклонство. А это вызывало раздражение некоторых императоров, пекущихся о чистоте религии.
В 726 г. император Лев III Исавр обнародовал указ, которым запрещалось поклоняться иконам и давалось указание вешать их в храмах на значительной высоте. Духовенство в своем большинстве встретило этот указ с негодованием: императора обвинили в оскорблении христианских святынь. Отказался исполнять монаршую волю и сам патриарх Герман I. Но у верховной власти нашлось и немало сторонников, готовых силой проводить в жизнь волю императора. Немедленно начались кровавые стычки между иконоборцами и иконопочитателями. Где только пытались публично уничтожить икону Христа или Богородицы, там тут же появлялись толпы негодующих, и подчас взаимные оскорбления кончались вооруженным столкновением.