После войны 1507–1508 гг. напряженность в отношениях между Русским и Литовским государствами сохранялась. Постоянно происходили порубежные набеги и столкновения, задерживались с товарами торговые люди… Всё это – дело обычное в отношениях двух государств, тем более таких, которые были не самыми добрыми соседями. Положение усугублялось тем, что между ними не было «вечного мира», а лишь перемирие, и обе стороны рассчитывали на возобновление военных действий: литовская – стремясь к реваншу, русская – надеясь развить успехи. И предлог нашелся в конце 1512 года. В это время в Великом княжестве Литовском была арестована вдова Александра Ягеллона Елена, родная сестра Василия III. Ее обвинили в намерении бежать в Россию, поскольку она начала перевозить свою казну поближе к границе, в свое браславское имение. А по другую сторону границы в это время как раз происходили маневры московских войск. При этом Елену схватили прямо в храме, тем самым нарушив все тогдашние предписания. Оттуда отвезли в Троки, а затем в Бирштаны. Вряд ли Елена действительно собиралась бежать, во всяком случае таким образом. Если уж бежать, то тайно, не говоря уже о том, что в самих поездках по имениям ничего предосудительного не было… Возможно, у литовской стороны просто сдали нервы. Как бы то ни было, Сигизмунд не внял просьбам Василия отпустить Елену, а в начале 1513 г. она умерла – по свидетельству современных источников, была отравлена.
К этому времени война уже шла полным ходом. Поздней осенью 1512 г. русские войска вступили на территорию Великого княжества Литовского, и их целью стал Смоленск. Полки двигались несколькими колоннами, одну из которых возглавлял лично Василий III. Но ни сам государь, ни его воеводы, ни русское войско в целом пока не обладали опытом взятия столь крупных и хорошо защищенных крепостей. Смоленская цитадель стояла на возвышении, подход к ней перекрывали река, болота, высокий вал и ров. Она была построена из деревянных срубов («городен», как тогда говорили), наполненных землей и камнями и обмазанных глиной. Такой внешний вид может показаться довольно скромным. Однако по тем временам и это было немало: в земле застревали пушечные ядра, а глина не давала поджечь крепость. Вообще каменных крепостей в то время в Великом княжестве Литовском было относительно немного. Деревянными оставались не только Смоленск, но и такие крупные крепости, как Полоцк или Киев. В итоге задача оказалась русскому войску не по силам. Простояв под Смоленском шесть недель, Василий III вынужден был отойти: приближалась весна, а с ней – распутица, делавшая невозможными военные походы. Причем город отстояли сами горожане (мещане): хотя польско-литовские источники и сообщают об огромных потерях русского войска, Сигизмунд тщетно просил военной помощи у Папы Римского…
Тем временем Василий проявлял исключительную настойчивость и целеустремленность. Второй поход на Смоленск начался летом 1513 г. Благодаря связям Михаила Глинского в Европе удалось нанять необходимых специалистов – артиллеристов и инженеров. Вообще артиллерии в смоленских походах Василия III уделялась большая роль: во время третьего похода она и вовсе станет решающей. Но и на этот раз не помогли ни артиллерия, ни переговоры с осажденными. Русские воеводы попытались, что называется, с налету взять Оршу, Мстиславль, Кричев и Полоцк, но эти попытки не увенчались успехами благодаря действиям уже упоминавшегося К. И. Острожского. 1 ноября 1513 г. Василий был вынужден снять осаду Смоленска.
Однако и в этот раз город выстоял благодаря осажденным, обращавшим свои взоры в сторону столицы государства – Вильны. А там действенной помощи Смоленску оказать не могли. Попытки Сигизмунда навести на Русское государство своего союзника Менгли-Гирея раз за разом оканчивались неудачей. Крестовый поход против русских организовать не получалось. На экстренно собранные средства удавалось нанять относительно небольшое число наемников-«жолнеров», к тому же им приходилось действовать против русских войск не только под Смоленском, но и в других местах. Шляхта воевать не хотела: ей больше приходились по душе хозяйственные заботы в имениях, накопленных за долгие годы. Помощь Польского королевства была мизерной. Наконец, по-видимому, сказались и фатальные просчеты самого Сигизмунда и его советников. Так, накануне третьего похода Василия на Смоленск тамошний воевода Юрий Глебович был заменен на Юрия Сологуба, который и сдаст город на милость государя всея Руси…