Между тем Литва предпринимала все меры для борьбы с натиском московитов. Недостаток военных средств великий князь Александр не без успеха старался восполнить дипломатической активностью. Осенью 1500 года он направил в Крым к Менгли-Гирею своего посла с предложением заключить союз против Москвы. Александр убеждал хана в том, что его союз с Иваном III может плохо кончиться, так как нельзя ожидать искренней дружбы от того, чьи предки были холопами у предков Менгли-Гирея. «А хто перед тым твоим предком холопом ся писывал, тот ныне тобе вже братом ся называет!» — язвительно замечает литовский князь (55, 461). Одновременно он предлагал выплачивать хану ежегодную дань с южных районов Великого княжества Литовского. Однако Менгли-Гирей не прислушался к литовским речам и сохранил верность союзу с Москвой.
В начале 1501 года Москву посетили послы польского короля Яна Ольбрахта и венгерского короля Владислава Ягеллона (родных братьев великого князя Литовского Александра). Оба короля решительно требовали от Ивана III прекращения войны с Литвой. Одновременно Александр старался натравить на Москву и Крым своих союзников — Большую Орду, Ногайскую орду и Ливонский орден. Еще летом 1500 года ногайцы атаковали Казань. Большая Орда весной 1501 года напала на владения крымского хана Менгли-Гирея. Летом 1501 года Менгли-Гирей развернул свои силы на восток, против «Ахматовых детей», а Иван вынужден был бросить часть своих полков на помощь союзнику. Тогда же московские войска были отправлены и на северо-запад, где резко обострились отношения с Ливонским орденом. Между тем 17 июня 1501 года умер польский король Ян Ольбрахт, и Александр Казимирович осенью того же года унаследовал корону брата. Можно было ожидать, что теперь военный потенциал Литвы будет усилен польскими полками.
В этой неопределенной и тревожной ситуации Иван III решил не спешить. Боевые действия в отношении Литвы летом 1501 года почти не велись. Лишь поздней осенью Иван погнал своих новых «служилых князей» Василия Шемячича и Семена Можайского в поход на Мстиславль. Этот древний город, расположенный в 90 км к югу от Смоленска, мог послужить отличным плацдармом для задуманного великим князем наступления на Смоленск.
Усиленная московскими полками с воеводами князем Александром Владимировичем Ростовским (только что отозванным из Пскова), Семеном Ивановичем Воронцовым и Григорием Федоровичем Давыдовым, рать Василия Ше-мячича выступила в поход. 4 ноября 1501 года под стенами Мстиславля произошло кровопролитное сражение. Большое литовское войско, которым командовали князь Михайло Ижеславский (отец князя Федора Мстиславского, выехавшего в 1526 году на московскую службу и ставшего родоначальником знаменитого в российской истории XVI–XVII веков семейства князей Мстиславских) и воевода Остафий Дашкович, потерпело поражение. «…И Божиею милостию одолеша полци великого князя Ивана Васильевича Московстии, и многих Литвы изсекоша, тысяч с семь, а иных многих поимаша, и знамена их поимаша, а князь Михайло едва утече в град; и воеводы великого князя поидоша, постояв у града, землю чиниша пусту, и възвратишася к Москве съ многим пленом» (19, 241). Бодрый тон летописца не может скрыть того факта, что, увлекшись грабежом беззащитных волостей, воеводы так и не сумели овладеть самим городом Мстиславлем. Южный плацдарм для наступления на Смоленск создать не удалось. (Отчасти это объяснялось тем, что значительная часть московских боевых сил была брошена в это время под Псков для отражения ливонцев, заключивших союз с Литвой.)
Новая вспышка московско-литовского противостояния произошла летом 1502 года. Крымский хан окончательно разгромил своего давнего врага хана Большой Орды Ших-Ахмеда и после этого совершил опустошительный набег на Правобережную Украину и некоторые районы Польши. Молдавский господарь Стефан также воспользовался ситуацией и отнял у Польши и Литвы ряд городов на Днестре. В этих условиях Иван III решил, что настало время взять Смоленск.
Этот город имел огромное стратегическое значение. Отсюда открывались торные дороги на юг (в Среднее Поднепровье) и на запад (к Орше, Витебску, Могилеву и далее — к Минску и Вильно). Учитывая ключевое значение Смоленска, литовцы тщательно укрепили его и держали здесь сильный гарнизон.