Первым предвестником будущих неудач стал отказ австрийского императора признать законность приобретений Ивана IV в Ливонии. Он не желал ослабления Речи Посполитой и не согласился разделись с царем ее земли. Максимилиан лишь просил поддержать кандидатуру своего сына на вакантный польский трон. Но это не входило в московские планы. В итоге новым королем польско-литовского государства стал трансильванский князь Стефан Баторий, опытный и энергичный полководец. Он не стал сражаться с царем на чужой территории, т. е. в спорной Ливонии, и свой первый удар нанес по Полоцку. В 1579 г. этот город вновь отошел к Литве. Русский гарнизон оказался в нем слишком слабым, поскольку царю приходилось рассредоточивать свои войска по всем многочисленным ливонским городам.
В следующем году Стефан Баторий нанес удар уже по Великим Лукам. Здесь также войск было мало, и оказать серьезное сопротивление королю было некому. В спешном порядке царь отправил к королю посольства и запросил мира. Он готов был отдать Полоцк, Озерище, Усвят и даже города в Ливонии, но Баторий уже требовал Псков, Новгород и Смоленск. Правда, осенняя осада Смоленска оказалась для короля неудачной, и он вернулся в Вильно.
Ослаблением Русского государства воспользовался шведский король и уже 4 ноября 1580 г. захватил Корелу и ее окрестности.
Чтобы отвлечься от военных неудач, Иван Грозный решил жениться в шестой раз. Четвертая жена, Анна Колтовская, оказалась бесплодной и была в 1572 г. пострижена в монахини. Пятая, Анна Васильчикова, тоже не смогла быстро забеременеть, и была отправлена в 1575 г. в монастырь, где вскоре умерла. Новой избранницей царя в сентябре 1580 г. стала дочь окольничего Ф. Нагого – Мария. С помощью ее многочисленной родни царь, видимо, хотел укрепить свой шатающийся трон. К этому времени царевич Иван уже был женат дважды, детей не имел и готовился к третьему браку с Еленой Шереметевой. Женат был и младший Фёдор на дочери Ф. Годунова Ирине. Ее честолюбивые родственники уже давно входили в ближайшее царское окружение и даже дослужились до боярских чинов.
После свадебных торжеств, по некоторым данным, вновь был созван Земский собор, чтобы решить вопрос о борьбе со Стефаном Баторием. На нем представители всех сословий заявили, что страна разорена и возможности воевать с противником нет. Царю советовали замириться с королем.
Однако вопрос о мире уже не зависел от Ивана Грозного. С. Баторий вновь собрал войско и вознамерился захватить Псков. 18 августа 1581 г. началась его осада. На первом этапе удача была на стороне поляков. Они пробили бреши в стенах и даже захватили одну из башен укреплений. Однако русские воины не пали духом. Воевода князь И. П. Шуйский проявлял чудеса мужественности и изобретательности. Засевшие в башне поляки были вместе с ней взорваны, а русские полки мощной атакой отбросили врагов за реку. В дальнейшем королю не удалось добиться какого-либо успеха. Осада затягивалась, наступили холода, армия стала таять от болезней, вызванных морозами и недоеданием. Первыми ее покинули наемники, не желавшими без жалованья проливать кровь.
Баторию не удалось овладеть не только Псковом, но даже небольшим Псково-Печорским монастырем, который обороняли несколько десятков стрельцов, монастырские слуги и местные крестьяне. Становилось ясным, что продолжение военной кампании не имеет перспектив.
В ноябре 1581 г. в Александровой слободе разыгралась очередная кровавая драма. Старший сын, наследник престола царевич Иван, вдруг осмелился вступить с отцом в спор. В чем была его суть, так и осталось неизвестным. По одним данным, царевич вступился за свою беременную жену, которую свекор хотел поколотить за слишком простой наряд. По другим, что более вероятно, он захотел отправиться в Псков и помочь осажденным жителям. Отца же он обвинил в бездействии и трусости. В ответ тот в гневе схватил жезл и нанес сыну смертельный удар в голову. Через несколько дней в сильной горячке Иван скончался.
Несомненно, что для царя это была большая потеря. Долгие годы именно в лице старшего сына он видел продолжателя своих дел. Иван получил хорошее образование, с ранних лет приобщался к делам, связанным с управлением страной, в возрасте 15 лет стал участником военного похода в Ливонию и с этого времени постоянно сопровождал отца в любых его поездках. Он поддержал его даже при учреждении непопулярной опричнины и стал одним из «кромешников».
После гибели Ивана наследником был объявлен Фёдор, которому уже было 24 года и, будучи женат, он считался взрослым и самостоятельным человеком. Но он, видимо, не был столь близок отцу, как старший сын, поскольку жил своим двором, состоящим из родственников жены, не участвовал в опричных оргиях, отказывался постоянно менять жен, как брат и сам царь. В Речи Посполитой даже распространялись слухи о том, что Фёдор нередко вступал в конфликты с отцом и даже хотел бежать из страны (последнее кажется маловероятным, и в русских источниках подтверждения не находит).