Обескровленная византийская армия, не получавшая ни подкреплений, ни денег, ни продовольствия и фуража, стала поддерживать свое существование грабежом мирного населения. Это, как и восстановление суровых по отношению к простому народу римских законов на территории Италии, привело к массовому бегству рабов и колонов, которые непрерывно пополняли войско Тотилы. К 550 г. он вновь овладел Римом и Сицилией, а под контролем Константинополя остались лишь четыре города — Равенна, Анкона, Кротон и Отранте. Юстиниан назначил на место Велисария своего двоюродного брата Германа, снабдив его значительными силами, но этот решительный и не менее прославленный полководец неожиданно умер в Фессалонике, так и не успев вступить в должность. Тогда Юстиниан направил в Италию невиданную по численности армию (более тридцати тысяч человек), во главе которой стоял императорский евнух армянин Нарсес, «человек острого ума и более энергичный, чем это свойственно евнухам» (Пр. Кес., [71, с. 205]).
В 552 г. Нарсес высадился на полуострове, и в июне этого года в битве при Тагинах войско Тотилы было разгромлено, сам он пал от руки своего же придворного, а окровавленные одежды короля Нарсес отослал в столицу. Остатки готов вместе с преемником Тотилы, Тейей, отошли к Везувию, где во втором сражении были окончательно уничтожены. В 554 г. Нарсес одержал победу над семидесятитысячной ордой вторгшихся франков и аллеманов. В основном боевые действия на территории Италии завершились, а готы, ушедшие в Рецию и Норик, были покорены десять лет спустя. В 554 г. Юстиниан издал «Прагматическую санкцию», отменявшую все нововведения Тотилы — земля возвращалась прежним хозяевам, равно как и освобожденные королем рабы и колоны.
Примерно тогда же патриций Либерий отвоевал у вандалов юго-восток Испании с городами Кордубой, Картаго-Новой и Малагой.
Мечта Юстиниана о воссоединении Римской империи исполнилась. Но Италия была разорена, по дорогам истерзанных войною областей бродили разбойники, а пять раз (в 536, 546, 547, 550, 552 гг.) переходивший из рук в руки Рим обезлюдел, и резиденцией наместника Италии стала Равенна.
На востоке с переменным успехом шла (с 540 г.) тяжелая война с Хосровом, то прекращавшаяся перемириями (545, 551, 555), то разгоравшаяся снова. Окончательно персидские войны завершились только к 561–562 гг. миром на пятьдесят лет. По условиям этого мира Юстиниан обязался выплачивать персам 400 либр золота в год, те же ушли из Лазики. Ромеи оставили себе завоеванные Южный Крым и закавказские берега Черного моря, но в течение этой войны под покровительство Ирана перешли другие кавказские области — Абхазия, Сванетия, Мизимания. После более чем тридцатилетнего конфликта оба государства оказались ослабленными, не получив практически никаких преимуществ.
Тревожащим фактором оставались славяне и гунны. «С того времени как Юстиниан принял власть над римской державой, гунны, славяне и анты, делая почти ежегодно набеги, творили над жителями нестерпимые вещи» (Пр. Кес., [73, с. 25]). В 530 г. Мунд успешно отразил натиск болгар во Фракии, но три года спустя рать славян появилась там же. Magister militum Хильвуд. пал в сражении, и захватчики опустошили ряд византийских территорий. Около 540 г. кочевые гунны организовали поход в Скифию и Мизию. Направленный против них племянник императора Юст погиб. Лишь ценой огромных усилий ромеям удалось разгромить варваров и отбросить их за Дунай. Через три года те же гунны, напав на Грецию, дошли до предместий столицы, вызвав среди ее жителей небывалую панику. В конце 40-х гг. славяне разорили земли империи от верховьев Дуная до Диррахия.