Как только Велисарий покинул Равенну в 540 году, готы возобновили борьбу, избрали нового короля, Илдебада, а после его смерти — Эрариха. Вскоре Эрарих был свергнут за предательство, а готы избрали нового великого вождя — Тотилу, который вел войну в течение 10 лет. Тотила быстро перехватил инициативу у римских генералов, сменивших Велисария, и вскоре оккупировал большую часть Южной Италии. В 544 году Велисарий вернулся с подкреплением для истощенной армии, но она состояла всего из 4000 человек, и Тотила, продолжая делать успехи, в 546 году отвоевал Рим. В 550 году он даже завоевал Сицилию.
В 540 году, в том же году, когда остготы собрались с силами и возобновили борьбу, Хосрой нарушил договор о вечном мире и совершил неожиданное нападение на Сирию. Ему удалось захватить много городов, включая Антиохию, и уйти с огромным количеством трофеев и пленных. В следующем году он атаковал Лазику (Колхиду) на Кавказе и захватил ее главную крепость Петру. После этого успех уже не так сопутствовал ему, и в 545 году было подписано 5-летнее перемирие в обмен на 5000 фунтов золота. Это перемирие не распространялось на Лазику, где Хосрой отказался вернуть завоеванные территории. В 551 году римляне отвоевали Петру, и в этом же году перемирие было возобновлено. Оно все еще не распространялось на Лазику, но в 557 году, когда оно вновь было продлено, Лазика была включена в договор и в 561 году был подписан 50-летний мир. Хосрой отдал завоеванные в Лазике территории, за что Юстиниан обязался платить ему дань 30 солидов в год, условно за защиту Кавказа от северных варваров. За первые семь лет деньги были выплачены вперед, а на восьмой год состоялась следующая выплата еще за последующие три года.
Успех Тотилы способствовал тому, что Юстиниан наконец осознал серьезность положения в Италии. Он назначил командовать итальянской кампанией своего двоюродного брата Германа, который на деньга, взятые из казны, и доходы собственного обширного имения быстро собрал значительную армию во Фракии. Но он умер прежде, чем смог повести эту армию в Италию, и командование было передано Нарсесу, одному из императорских евнухов, который проявил незаурядный военный талант. Нарсес настоял на сборе денег для выплаты значительных задолженностей итальянским полкам. Он собрал еще большее количество войск, в которые вошли значительные силы объединений ломбардов и герулов. В Италии Нарсес нанес решительное поражение готам. В этой битве был убит Тотила (весна 552 года). Через несколько месяцев на Молочной горе (Монте-Латгаро) он вновь нанес поражение войскам готов под начальством преемника Тотилы Тейи (октябрь 552 года). Осталось выбить франков из Северной Италии, которую они захватили, чтобы помочь готам, и ослабить оставшиеся готские гарнизоны. В 554 году Юстиниану удалось наложить прагматическую санкцию, которая регулировала управление в отвоеванных провинциях Италии. В этом же году Нарсес полностью покорил Италию, а Юстиниан, воспользовавшись гражданской войной в Испании, покорил южные части этой страны, включая Новый Карфаген, Малаку и Кордубу.
В последний период своего царствования его реформаторские усилия пошли на убыль, но законы, которые он издавал, говорят о том, что он продолжал заботиться о благосостоянии провинций и порядке в церкви. Он все сильнее и сильнее проявлял интерес к теологии, особенно к проблеме примирения халкидонианцев и монофизитов. Камнем преткновения был тот факт, что Халкидонский собор восстановил в правах Феодора из Мопсуестии, Феодорита Киррского и Ива Эдесского, которые, по мнению монофизитов, были заражены несторианством. Юстиниан пришел к выводу, что их обвинения являются частично обоснованными, и в 553–554 годах издал указ из трех глав, в котором осуждались конкретные работы Ива и Феодорита, а Феодор был провозглашен еретиком. Восточные патриархи были вынуждены подписаться под этим указом, но папа Вигилий отказался поставить свою подпись и вообще на Западе указ был принят плохо. Юстиниан в 547 году вызвал Вигилия в Константинополь и заставил его вынести решение Iudicatum, в котором указ из трех глав получал одобрение. Обеспокоенный волной протеста на Западе, Вигилий вскоре отменил свое решение. Тогда Юстиниан в 533 году собрал вселенский собор в Константинополе, который должным образом утвердил указ. Вигилий отказался присутствовать на этом соборе, но силой был заставлен подчиниться. Все усилия Юстиниана оказались напрасными: монофизиты не были удовлетворены небольшими уступками и на Западе произошел раскол. Большинство церквей на несколько десятилетий отказались принять решения собора в Константинополе. Разногласия между халкидонианцами и монофизитами теперь приняли устоявшийся характер. Иаков, монофизитный монах, тайно провел посвящение епископа Эдессы в 542 году. Остаток своей жизни он занимался созданием тайной иерархии монофизитных патриархов, епископов и духовенства, и ко времени его смерти, в 572 году, монофизиты стали хорошо организованной, независимой церковью.