Велисарию с весьма небольшими силами нельзя было выступить против неприятеля в открытое поле; его надежда заключалась в городских укреплениях и в той мысли, что Витигес едва ли в состоянии предпринять правильную осаду хорошо защищенного города. Кроме того, Велисарий, оценивая то громадное впечатление, которое произвело в Италии занятие им Рима, понимал, что он ни под каким видом не может очистить занятого им города, и поэтому распространял мысль, что он не выйдет из Рима живым и будет его защищать до последней крайности. В ожидании вспомогательных отрядов, которые должны были прийти из Константинополя, он требовал от городских жителей участия в защите городских стен и сам был везде на первом месте. Желая несколько задержать Витигеса, прежде чем он окружит Рим своим громадным войском, Велисарий выставил против него небольшой кавалерийский отряд на pons Salarius, где и произошла первая военная стычка, в которой греки и готы показывали изумительную отвагу, и Велисарий не раз подвергался крайней опасности. Готы ударили с тыла и с боков на византийский отряд, неосторожно погнавшийся за неприятелем, и прижали его к стенам города у Салариевых ворот. Уже разнесся слух, что Велисарий убит, и римляне не хотели открыть ворот, имея опасение, чтобы вместе со своими не ворвались в город и неприятели. С большим трудом удалось Велисарию восстановить порядок в своем отряде и найти защиту за стенами города, куда, наконец, при наступлении ночи впущены были греческие воины.
С конца февраля город был окружен готами, которые раскинули шесть военных лагерей и считали судьбу Рима совершенно предрешенной, т. к. им были известны слабые средства, какими располагал Велисарий. Витигес предложил Велисарию вступить в переговоры и обещал дать свободу гарнизону, если ему будет сдан город, но Велисарий отклонил предлагаемые условия. Мы не будем следить за подробностями осады Рима, в которой преимущества техники, дисциплины и военного искусства вообще были на стороне осажденных. Пользуясь оплошностью врага, Велисарий в начале апреля ввел в Рим вспомогательный отряд из 1600 воинов славянского и гуннского происхождения, после чего он начал делать неожиданные вылазки там, где неприятель был наименее подготовлен, и наносил ему значительный урон. По словам Прокопия, всего было 69 сражений между осаждающими и осажденными. В начале лета прислано было из Константинополя жалованье войску, но вспомогательных отрядов, которых так ждали и Велисарий и население Рима, все-таки не было. А между тем в городе чувствовался недостаток в припасах и в воде, и население высказывало горячие жалобы на императора, который без нужды заставляет страдать жителей Рима. Чтобы поддержать дух населения, Велисарий распустил слух, что войска высадились в Кампании и что помощь приближается.
Не лучше, однако, было и положение осаждающих. Сосредоточение громадного войска под Римом вызывало необходимость вполне обдуманной и правильно выполняемой системы подвоза припасов. Но Кампания была опустошена, а из Тосканы уже взяты были запасы. Велисарий вывел часть гарнизона из Рима и занял Террачину и Тибур; этим он уменьшил количество населения в Риме, нуждавшееся в прокормлении, и, кроме того, получил возможность ограничивать неприятелям свободу движения и стеснять их в подвозе съестных припасов. Между тем секретарь Велисария, историк Прокопий, которому мы обязаны главнейшими сведениями о времени Юстиниана, организовал вместе с супругой Велисария Антониной закупку хлеба в Кампании и собрал до 500 человек из местных гарнизонов, чтобы доставить в Рим заготовленные запасы. В то же время, к величайшему удовольствию Велисария, в Неаполь доставлен значительный военный отряд в 4800 человек, который нашел возможность добраться до Остии и соединиться с римским ослабевшим гарнизоном. Тогда Витигес понял, что продолжать осаду было бы безрассудством. В самом деле, во время осады погибло более 30 тыс. готского войска и столько же выбыло из строя по случаю ран и болезней. Витигес послал к Велисарию уполномоченных договариваться о мире. Он обещал уступку Сицилии и даже Кампании и уплату дани. Велисарий подал мысль довести до сведения императора о предложениях готского короля, и на это время было заключено перемирие.