Важные дипломатические победы одержал и великий московский князь Василий, заключив союзы с Орденом, Данией и Крымским ханством. Хан Махмет-Гирей писал Василию: «Не думай ни о чем ином, возьми для меня Киев, я помогу тебе завоевать Вильно и всю Литву». К Василию вновь вернулась уверенность в своих силах. Теперь он особенно не переживал из-за поражения под Оршей. Императорскому посреднику барону Сигизмунду Герберштейну, приехавшему в 1516 году в Москву, Василий сказал, что не вернет Смоленск Великому Княжеству Литовскому. Даже переход крымского хана на сторону Великого Княжества и поход литвинского войска в сентябре 1517 года на Псковщину, в результате которого были взяты Воронеч, Велье, Красный Городок, не пошатнули твердости Василия. Он стал уже требовать всю свою «отчину» — Киев, Полоцк и Витебск. Где тут было говорить о мире, когда и о перемирии послы Сигизмунда не договорились с Василием.
Собрав новые силы, великий князь московский развернул очередное наступление на Великое Княжество Литовское. В 1518 году московские полки совершили глубокий рейд по землям Литвы, сожгли и разорили окрестности Могилева, Слуцка, Менска, Новогородка и Вильно. Главный удар пришелся по Полоцку. Но воевода Василий Шуйский потерпел под городом поражение после ночной вылазки полочан.
Летом 1519 года московские войска разоряли предместья Могилева, Менска, Борисова, Молодечно, Крево. Губительным оказалось разногласие между панами рады. Виленский воевода Николай Радзивилл из-за ссоры с Альбрехтом Гаштольдом задержал «господарские» листы для сбора войска, а когда разослал их — уже было поздно. Беззащитное Великое Княжество Литовское полыхало в огне. Некому было защитить его. Король и великий князь Сигизмунд находился в Польше, гетман великий Константин Острожский на Волыни охранял южные границы от татар, а гетман Юрий Радзивилл воевал в Жемайтии против прусских рыцарей. Московского князя вновь поддержали крымские татары, напавшие на Белзскую и Люблинскую земли. 2 августа 1519 года в битве под Сокалем 6-тысячное войско литвинов и поляков было разбито 40-тысячным войском крымских татар.
Победы сменялись поражениями. Казалось, что война так и не кончится. Обе сражающиеся стороны обессилели. В 1520—1521 годах на войне ничего значительного не происходило. Наконец, 14 сентября 1522 года Василий III подписал с послами Сигизмунда пятилетнее перемирие. Смоленск оставался за Московией, но Сигизмунд с этим не соглашался. Как признавался канцлер Криштоф Шидловецкий императорскому послу, Сигизмунд никогда не согласится на мир с Москвой, если его условием станет уступка Смоленска, «хоть бы война будет идти вечно». Утрата Смоленска задела честь Сигизмунда. Даже шут Станьчик потешался над ним: «Больше, король, тебя дразнить, а не меня, что забран Смоленск, а ты про это молчишь». Поставленной цели возвращения захваченных Москвой литвинских земель Сигизмунд не достиг, и можно считать, что войну Великое Княжество Литовское проиграло. Но и Московия не выиграла, не завоевала Великого Княжества Литовского, а только отняла Смоленск.
В глазах подданных Сигизмунд был победителем. Поэт Ян Вислицкий посвятил ему поэму «Прусская война» с предисловием: «Сигизмунду, непобедимому королю Сарматской Европы», искренне благодарил его: «Спасибо тебе за опекунство, хвала твоему мужественному сердцу» и воспевал его военные победы:
Прославлял Сигизмунда в поэме «Песня о зубре» и Николай Гусовский:
А самому Сигизмунду была милей слава законодателя, мецената, мудрого правителя, чем слава полководца и победителя. Главной целью своего правления он считал «добропорядочный стан» Короны Польской и Великого Княжества Литовского. В Литве давно назрела необходимость в упорядочении законов, ибо «юстиция руководилась исключительно обычаем и рассуждениями каждой отдельной головы и совестью, как казалось, каждому судье, более справедливо и слишком ненадежно», — писал Сигизмунд в 1522 году в своей грамоте. Поэтому на сейме в том же году он обещал дать «всем жителям и обывателям (ВКЛ. — Авт.), каким бы благородством и знатностью они не отличались, одно писаное право и один закон».