На фоне этой дворцовой истерии началась война с Литвой. Александр не видел смысла в войне, он всеми силами желал мира с тестем. Но Иван стал переманивать на свою сторону его князей, которые уходили вместе со своими землями. Государство таяло на глазах, Москва жирела. В этом отчасти Александр был виноват сам: он вздумал вдруг взять ориентацию на католичество, хотя прежде обе веры были равноправны. Многим русским князьям это не нравилось.
Зато ситуация нравилась Ивану, и он знал, как ее использовать. Вознегодовав на гонения православных (чего и не было), он тут же ввел войска в княжества, передавшиеся от Александра. Последний назначил своим полководцем талантливого Константина Острожского. Силы противников были примерно равны. Но все решила тайная засада: когда литовцы двинулись через мост на Ведроши, русские подрубили его и внезапно смешали ряды воинов. Началась паника. Литовцы бежали. В то же время отряды северных земель взяли Торопец. Но Иван жаждал Смоленска. Только непогода не позволила ему начать штурм.
Тем временем Александр изо всех сил укреплял свои города и искал союзников. Таким образом в союзники попали немецкие рыцари, хан Шиг-Ахмет, венгры и поляки. А из-за непонятной ненависти к невестке и Дмитрию от союза с Иваном отказался московский господарь, отец этой невестки и дед Дмитрия. В 1502 году Иван вдруг посадил Дмитрия в оковы, запретил поминать его имя в церкви и объявил всенародно своим наследником Василия. Он не взял сторону Александра, но об Иване и слышать не желал.
Война в Литве, которую вел Иван, была жесточайшей. Ни от одного врага эти земли не терпели такого опустошения, даже и от монголов. Война истощала оба государства, и в конце концов зашла речь о мире. Но Иван не желал возвращать захваченных земель. На все претензии он отвечал: «Что мы с Божиею помощиею у него взяли, того не отдадим. Еще Киев, Смоленск и многие иные города принадлежат России: мы и тех добывать намерены». Только из особого уважения некоторые незначительные города он вернул.
Чуть не в этот год вдруг умерла Софья. Иван тоже стал слабеть и болеть. Понимая, что жизнь его может внезапно прерваться, он написал завещание в пользу сына Василия. Но прежде Иван думал увидеть его женатым. Будущему царю было уже 25 лет, а он еще не имел жены. Женить сына Иван хотел с выгодой для государства.
Сначала в кандидатки была избрана принцесса датская, но отец поспешил выдать ее за Курфюрста Бранденбургского. Тогда Иван, желая увидеть свадьбу собственными глазами, решил найти невесту в своем отечестве. Выбрал он дворянскую дочь Соломонию Сабурову.
Скоро отпраздновали и свадьбу. После этого Иван жил совсем недолго: в октябре 1505 года его не стало.
Василий принял от отца большую, но разоренную войнами страну. Правил он в полном согласии с политикой своего отца. Словно специально, первым его военным походом стал поход на Казань, который (как и у самого Ивана) закончился неудачно. Но нужды во втором походе уже не было: решивший стать независимым казанский царь скоро клятвенно заверял в дружбе и признал свою зависимость от России.
В литовской политике Василий старался вести дела так, чтобы с виду они казались миролюбивыми, а на самом деле вредили литовскому королю. Александр надеялся, что брат его жены не захочет нарушать установленный мир. Он видел в Василии приятного молодого человека, родственника, а тот видел в шурине только врага. «Одним словом, – говорит Карамзин, – Александр увидел, что в России другой Государь, но та же система войны и мира. Все осталось как было. С обеих сторон изъявлялась холодная учтивость.
В августе 1506 года Король Александр умер: Великий Князь немедленно послал чиновника Наумова с утешительною грамотою ко вдовствующей Елене, но в тайном наказе предписал ему объявить сестре, что она может прославить себя великим делом: именно, соединением Литвы, Польши и России, ежели убедит своих Панов избрать его в Короли; что разноверие не есть истинное препятствие; что он даст клятву покровительствовать Римский Закон, будет отцом народа и сделает ему более добра, нежели Государь единоверный. Наумов должен был сказать то же Виленскому Епископу Войтеху, Пану Николю Радзивилу и всем Думным Вельможам.
Мысль смелая и по тогдашним обстоятельствам удивительная, внушенная не только властолюбием Монарха-юноши, но и проницанием необыкновенным. Литва и Россия не могли действительно примириться иначе, как составив одну Державу».