В семейной жизни он тоже не был счастлив. По смерти первой, нежно любимой им супруги, он после неудавшейся попытки жениться на сестре польского короля женился на дочери черкесского князя Темрюка, нареченной при крещении Марией. После ее смерти (1569 год) царь вступил в третий брак; выбор его пал на Марфу Собакину, дочь новгородского купца. Через несколько дней после брака она умерла. Царь был сильно огорчен и говорил, что лихие люди извели ее, и, вопреки церковному уставу, женился в четвертый раз на Анне Колтовской. Он призывал высших духовных лиц на собор и просил не вменить ему в грех это нарушение церковного устава, причем утверждал, что прежние его супруги все три были отравлены… В этом он был, как видно, вполне убежден. Собор поступил по желанию царя. Через год он велел постричь свою четвертую супругу в монахини, а сам еще два раза вступал в брак уже без разрешения церкви (с Анной Васильчиковой и Василисой Мелентьевой). Наконец, в 1580 году, он обвенчался в последний раз с Марией Федоровной Нагой.
В ноябре 1581 года в Александровской слободе случилось страшное событие. Царевич Иван Иванович стал укорять отца, по одним известиям, за унизительные переговоры с Баторием, а по другим — за обиду своей жены. Иоанн, скорый на гнев, не стерпел грубости сына и в запальчивости ударил его со всего размаху своим костылем по голове. Царевич упал, обливаясь кровью… Царь опомнился, завопил в отчаянии, рвал на себе волосы, рыдал, звал лекарей… Через несколько дней царевич скончался. Царь был убит горем, говорил, что он не хочет больше царствовать, приказывал боярам из среды своей выбирать царя, так как второго своего сына, Феодора, считал неспособным царствовать.
Бояре умоляли Ивана Васильевича не оставлять царства хотя до конца войны… Долго он был в ужасном душевном состоянии, не мог спать по ночам: угрызения совести и кровавые призраки терзали его, и он метался как в горячке. Стал он делать по монастырям большие вклады, посылал щедрые дары на Восток по святым местам и обителям, чтобы всюду поминали и молились за упокой души его сына. Припомнились ему в эту пору и тысячи людей, погибших, подобно царевичу, от неразумного гнева его. Он усиливался припомнить замученных им или казненных по именам, вписывал их в синодики (поминальные записи) и посылал по монастырям молиться за упокой их душ.
В Кирилло-Белозерском монастыре сохранилось два таких синодика как несомненное свидетельство многочисленных казней Иоанна Грозного и угрызений его совести. Многих погибших называет он по именам, но еще больше упоминает безыменных. «Помяни, Господи, — читаем, например, в синодике, — княгиню иноку Евдокию, иноку Марию, иноку Александру (при этих именах заметка: потоплены в Шексне реке повелением царя Ивана)… Помяни, Господи, души рабов своих тысячу пятьсот пять человек (новгородцев)». При некоторых именах помечено «с женою», «с детьми» и так далее. Общий итог всем погибшим означен в синодике в 3470 душ.
Но ни мучения совести, ни ясное сознание своих проступков не могли изменить нрава Грозного. После заключения унизительного мира с Польшей он предал мучительным казням ратных людей, которые легко сдавались неприятелям во время войны, а ливонских пленников, которых у него было множество, травил медведями.
Последнюю супругу свою, Марию Нагую, царь скоро невзлюбил почему-то, думал с нею уже развестись и стал сватать через своих послов родственницу английской королевы. Это было в конце 1583 года. Но с начала следующего года царь стал чувствовать себя все хуже и хуже. Хотя ему было всего 53 года, но он казался уже совсем дряхлым стариком, а тут к общей слабости прибавилась еще страшная болезнь: у него стали гнить внутренности, пухнуть тело. Когда началась его болезнь, на небе явилась комета. Он вышел на красное крыльцо, долго смотрел не нее и вдруг изменился в лице.
— Это — знамение моей смерти! — сказал он окружающим.
Иноземные врачи истощали все свои усилия, чтобы вылечить больного. Волхвы, которых по приказу суеверного царя свезли в Москву с разных концов Русской земли, должны были гадать, выздоровеет ли царь. Он то падал духом, каялся, молился, раздавал щедрую милостыню, освобождал заключенных, то прежние страстные порывы вдруг снова наполняли его душу… Но болезнь видимо усиливалась. Он уже едва мог ходить. В марте были разосланы по монастырям грамоты настоятелям от имени царя, в которых говорилось между прочим: «…князь великий Иван Васильевич челом бьет, молясь преподобию вашему, чтоб вы пожаловали, о моем окаянстве соборно и по кельям молили, чтобы Господь Бог и Пречистая Богородица, ваших ради пречистых молитв, моему окаянству отпущение грехов даровали, от настоящие смертные болезни свободили и здравие дали; и в чем мы пред вами виноваты, в том бы вы нас пожаловали — простили, а вы в чем пред нами виноваты, и вас Бог во всем простит».