Восточные провинции одна за другой сдавались арабским завоевателям, и мысли Константа все больше обращались на Запад. Славянские поселенцы на Балканах проявляли беспокойство из-за выплачиваемой им ежегодно дани; в Италии, что неудивительно, Византия была более, чем когда-либо, непопулярна; а Сицилии тем временем грозила серьезная опасность от североафриканских сарацин. Без решительных действий западные провинции могли пасть так же, как пали восточные, поэтому в 662 году Констант принял важное решение навсегда покинуть Константинополь и устроить постоянную столицу на западе. Некоторые приписывали этот порыв желанию сбежать от страшных видений его брата Феодосия, которого он убил за два года до того; но главной целью императора, несомненно, была защита Италии, Сицилии и остатков африканской провинции от завоевания сарацинами. Оставив семью в Константинополе, в начале 663 года он с войском высадился в Южной Италии и через Неаполь (принадлежавший грекам и, следовательно, дружественный город) прошел до Рима, где его официально приветствовал папа Виталий, несмотря на то, как Констант обошелся с папой Мартином. Здесь император несколько деспотично принялся собирать те немногие ценности, которыми еще владел город, включая даже медь с крыши Пантеона, и отсылать их в Константинополь. Осенью, вернувшись на юг через Калабрию, он отплыл на Сицилию, и в течение следующих пяти лет его двор находился в Сиракузах. Для сицилийцев эти годы стали непрекращающимся кошмаром; к счастью для них, императора внезапно постигла насильственная и в некоторой степени унизительная смерть. 15 сентября 668 года, пока он намыливал голову в ванной, один из прислуживавших ему греков убил его шайкой.
Во время долгого отсутствия императора в Константинополе оставшимися восточными провинциями управлял старший из трех его сыновей, который и сменил его на троне под именем Константина IV. Он оказался мудрым государственным деятелем и прирожденным лидером, и первое десятилетие его правления стало переломным в истории христианского мира: воинство Полумесяца впервые было остановлено и обращено в бегство воинами Креста. Короткая передышка закончилась. В 661 году халифа Али убили, и с этого времени Муавия стал верховным правителем; он устроил столицу в Дамаске и основал династию Омейядов, которая правила следующие восемьдесят лет. Когда ресурсов у Муавии стало гораздо больше, он принялся за старое: армия в Анатолии и курсировавший вдоль побережья Ионического моря флот один за другим завоевывали города и острова империи. Наконец в 672 году корабли Муавии приплыли в Мраморное море, где захватили полуостров Кизик. Два года спустя началась осада.
Сарацинские корабли привезли тяжелые осадные машины и огромные катапульты, но укрепления вдоль Мраморного моря и Золотого Рога устояли против их атак. Кроме того, у византийцев было секретное оружие. Нам по сей день неизвестен точный состав «греческого огня». Им поливали вражеские суда или помещали его в длинные узкие трубки, которые метали в цель, и результат почти всегда был катастрофическим: пылающая жидкость на основе нефти плавала на поверхности моря, часто поджигая деревянные корпуса кораблей, и к тому же представляла собой опасность для тех, кто пытался прыгнуть за борт. Мусульмане долго отказывались признать поражение, и лишь на пятый год потрепанные остатки сарацинского флота развернулись и отправились восвояси. В 679 году Муавия угрюмо согласился на предложенный Константином мир, по которому он должен был вывести войска с недавно завоеванных Эгейских островов и платить ежегодную дань. Через год он умер. Константин находился на пике популярности. Он поднял боевой дух своих подданных, что позволило им выдержать пятилетнюю осаду войска, которое прежде считалось непобедимым, и таким образом спас западную цивилизацию. Если бы сарацины захватили Константинополь в VII веке, а не в XV, вся Европа и Америка сегодня могли бы быть мусульманскими.
Когда вражеский флот отступил, Константин IV смог заняться другим, менее серьезным врагом – булгарами, воинственным языческим племенем, которое расселилось по северному берегу Дуная, откуда все чаще и чаще проникало на территорию империи. Однако здесь он добился меньших успехов. Бесплодная морская экспедиция 680 года еще больше поощрила проникновение булгар в Византию. Захватчики быстро основали сильное государство, которое, пусть и в иной форме, существует по сей день, и даже вынудили императора согласиться ежегодно платить своему правителю за защиту. Это стало для Византии не столько бедой, сколько унижением, но выгода состояла в том, что таким образом укрепился общий мир, который продлился до конца правления Константина и позволил ему заниматься самыми сложными внутренними проблемами.