В сложившейся сложной ситуации в Москве было принято решение по истечении в 1562 году русско-литовского перемирия сосредоточить все силы на борьбе с Великим княжеством Литовским, установив пока мирные отношения с другими претендентами на ливонское наследство. Цель эта была успешно достигнута благодаря дипломатическому искусству дьяка Ивана Висковатого и боярина Алексея Даниловича Басманова, который к этому времени как руководитель русской внешней политики занял при царе то место, которое ранее занимал Адашев. Летом 1561 года было заключено соглашение о долгосрочном перемирии со шведским королем Эриком XIV, а на последующих переговорах шведским послам дали понять, что в будущем царь готов обсудить вопрос о правах шведов на Ревель и некоторые ливонские города. С другим претендентом на ливонское наследие, датским королем Фредериком II, уже после начала войны с Великим княжеством Литовским летом 1562 года был заключен мирный договор, по которому Фредерик II в обмен на признание его прав на земли Эзельского епископства и несколько владений в Эстонии признал права Ивана IV на всю остальную Ливонию. По одной из статей соглашения русским купцам должен был быть выделен торговый двор в датской столице — Копенгагене. Для ратификации договора туда отправился сам Висковатый. Проявленная царем и его советниками гибкость способствовала тому, что в Ливонской войне на ближайшие годы у Русского государства остался только один противник—Литва, а Сигизмунд II, упорно добивавшийся признания своих прав на всю Ливонию, вступил в открытый конфликт с Эриком XIV и оказался вынужденным вести войну на двух фронтах.
Хотя срок перемирия между Россией и Великим княжеством Литовским истек весной 1562 года, лишь 30 ноября 1562 года царь выступил в большой поход на Литву. Целью похода было объявлено не только возвращение под власть законного монарха его старых «вотчин», незаконно захваченных литовскими великими князьями, но и освобождение православных, живущих в Великом княжестве Литовском от власти «християнских врагов иконоборъцев», «люторские прелести еретиков». Поэтому поход царя на Литву выглядел «крестовым походом», подобным походам русского воинства на Казань, важным шагом по исполнению миссии, возложенной на монарха самим Богом. Выступлению в поход предшествовали многочисленные молебны, войско сопровождало многочисленное духовенство во главе с коломенским епископом Варлаамом и архимандритом Чудова монастыря Левкием. Духовенство везло с собою чудотворные реликвии — икону Божьей Матери Донской и крест святой Евфросинии Полоцкой. Присутствие последней реликвии было совсем не случайным, так как целью похода стал Полоцк — город и крепость на Западной Двине.
С началом военных действий выявились недостатки в военной организации Великого княжества Литовского. Здесь, как и в России, главной военной силой было дворянское ополчение. Существовали государственные акты, подобные соответствующим русским законам, которые устанавливали, сколько воинов следует выставить с определенного количества хозяйств — «дымов» и какие наказания ожидают тех, кто не явится на службу. Однако с расширением прав и привилегий дворянства, изменением его образа жизни все эти установления перестали строго соблюдаться. Превратившись, подобно ленникам Ливонского ордена, в сельских хозяев, которым вывоз хлеба в страны Западной Европы обеспечивал сравнительно высокий уровень жизни, литовские шляхтичи старались уклониться от тяжелой и опасной военной службы, а выборные представители дворянства, в руки которых постепенно переходила власть на местах, не желали налагать наказания на своих собратьев и старались скрывать их провинности перед государством. В итоге, когда были получены известия о приготовлениях русской армии к походу, власти Великого княжества не смогли своевременно собрать ополчение. Войска Ивана IV подошли к Полоцку и беспрепятственно осадили его. Крепость не смогла выдержать обстрела мощной московской артиллерии и 15 февраля 1563 года капитулировала.
План похода был хорошо продуман, и его успешное завершение стало тяжелым ударом для Великого княжества Литовского. Переход Полоцка под русскую власть ставил под русский контроль торговый путь по Западной Двине. По этому пути в Западную Европу шел хлеб, продажа которого была необходима для литовского дворянства. Условия для продолжения его борьбы за Ливонию резко ухудшились, а для русских войск открывался путь к столице Великого княжества Литовского — Вильне (современный Вильнюс). Царь имел основания надеяться, что после такого тяжелого удара Сигизмунд II будет вынужден прекратить войну и принять мир на предложенных Москвой условиях. Приехавшему в Москву в декабре 1563 года литовскому посольству дали понять, что царь готов заключить перемирие на 10 лет при условии, что Полоцк и земли в Ливонии, занятые русскими войсками, останутся под властью Ивана IV.