В 1578 году шведы и поляки одновременно стали теснить русских с двух сторон и нанесли им жестокое поражение под Венденом, где русские войска понесли огромные потери. Среди убитых было четверо воевод. Это поражение оказалось тем более пагубным, что после него принц Магнус перешел на сторону поляков. Но Иоанн еще упорствовал, еще хотел продолжать борьбу с Польшей в Ливонии. Однако Баторий не дал ему подготовиться к войне, устремился на Полоцк, овладел им после отчаянной обороны со стороны русского гарнизона, а затем сразу же перевел войну в пределы Московского государства, в Псковскую область. В то же время шведский полководец Делагарди после многочисленных успехов подступил к Нарве, занятой русскими войсками, и взял город. Во время штурма погибло более 8000 русских воинов.
Быстрые военные успехи Батория открыли ему, наконец, доступ к самому Пскову – сильнейшей из всех русских пограничных крепостей того времени. В 1581 году Стефан Баторий осадил Псков, защищаемый мужественным воеводой, князем Иваном Петровичем Шуйским, и встретил такое упорное сопротивление, о которое сломался боевой дух польских войск, и все усилия Батория и все его военное искусство оказались тщетными. В конце августа началась осада по всем правилам военной науки того времени. К началу сентября были подготовлены проломы в городской стене, сквозь которые поляки, литовцы, венгры и шведы устремились на приступ города, но псковичи бились отчаянно между стеной и второй линией внутренних укреплений. Псковское духовенство, под градом пуль и стрел, вышло на место битвы со святынями и хоругвями, с чудотворной иконой Псково-Печерской Божьей Матери и мощами Св. князя Всеволода-Гавриила...
Ценой огромных потерь враги были отбиты, а псковичи воспряли духом и до глубокой осени отбивались от внезапных нападений Батория. Он снял осаду только в ноябре, и примерно тогда Иоанн IV приступил к переговорам.
Иоанн сознавал, что ему не под силу одновременно воевать с Польшей и Швецией, и потому он стал искать возможности примирения с Баторием. Этим случаем воспользовался папа Григорий XIII, который давно уже пытался привлечь Иоанна к союзу с германским императором в войне против Турции. Папа предложил Иоанну свое посредничество в сношениях с Польшей и прислал в Москву иезуита Антония Поссевина для посредничества при переговорах Иоанна с Баторием. Хитрый прелат попутно старался склонить Иоанна и к принятию католичества. Но Иоанн поразил его твердостью своих религиозных убеждений и своими обширными богословскими познаниями. Поссевин вынужден был отказаться от своего тайного намерения, но зато устранился и от посредничества в переговорах с Баторием.
В январе 1582 года было заключено перемирие с Польшей на десять лет, на самых невыгодных для Московского государства условиях: Иоанн должен был уступить полякам все свои завоевания в Ливонии и отказаться от Полоцка. В следующем году на таких же тяжелых условиях было заключено перемирие и со Швецией, которой Иоанн вынужден был уступить даже русские пограничные города: Ям, Иван-Город и Копорье. Таким образом, почти 20-летняя борьба за Ливонию окончилась для Московского государства не только полной неудачей, но даже потерей небольшой части исконных русских владений в северо-западной части Руси.