Второй раз Иван женился в 1561 году на полудикой черкешенке Темрюковне, названной при крещении Марией. Умерла она в 1569 году. О ней ходила молва, что она не только распущенная, но и жестокая. Через два года после ее смерти Иван избрал себе в жены дочь простого новгородского купца Марфу Васильевну Собакину. Она прожила после свадьбы всего лишь две недели. Царь уверял, что ее отравили раньше, чем она стала его женой, то есть умерла девственницей. Этим царь хотел оправдать свое намерение вступить в четвертый брак, о котором он стал думать немедленно после смерти Марфы.
Церковные правила препятствовали царю осуществить его намерение. Он стал доказывать необходимость для себя нового союза, утверждая, что у него отравили одну за другой три жены, и говорил, что после смерти второй супруги он уже был готов сам уйти в монастырь. Только заботы о воспитании детей и о своем государстве, где он должен был, по его словам, «защищать веру христианскую», удержали и теперь удерживают его в мире. Он должен избрать себе подругу, чтобы «избежать греха». Церковь уступила настоятельным просьбам царя. Она только наложила эпитимии на этого неукротимого жениха. В 1572 году он повел к алтарю дочь одного из своих придворных вельмож, Анну Колтовскую, но через три года заточил ее в монастырь. Предлогом к этому послужило предъявленное царице обвинение в заговоре против царя. Развод сопровождался рядом казней, истребивших родных царицы. Анна прожила в Тихвине до 1626 года под именем инокини Дарьи.
После этого царь приблизил одну за другой двух наложниц – Анну Васильчикову и Василису Мелентьеву. Обе признавались его супругами, хотя для сожительства с ними он испросил разрешение только у своего духовника, понимавшего, очевидно, что для такого человека, как Иван, нужны особые правила. О наложницах царя ходило немало легенд. Их судьба вдохновила многих поэтов и романистов. В известной драме «Василиса Мелентьева» А. Н. Островский выводит обеих героинь и противопоставляет их друг другу. Он изображает их соперницами из-за сердца Грозного. Может быть, здесь много фантастического, но автор живо воскрешает то время, в котором жили и страдали эти женщины. Автор делает Василису служанкой Анны, которая с ужасом видит, что соперница скоро займет ее место в сердце царя, и говорит ей:
Быть может, Островский близок к действительности и тогда, когда изображает Ивана наедине с Василисой уже после того, как она формально была приближена к царю. Грозный уже пресытился и хочет ее бросить. Василиса удерживает его. Ей страшно. Она говорит о мертвецах, стоящих между ними. Ее ужас передается царю. Василиса просит развлечь ее. Царь отвечает, что он здесь не для забавы. Она зябнет. Иван уже держит в руке кинжал, готовый поразить ее, но по ее знаку снимает с себя кафтан и кутает ей ноги. Василиса хочет, чтобы Иван назвал ее царицей. Тот возмущается: «Какая ты царица? Разве я венчался с тобой, возлагал на твою голову корону?» Но она отвечает: «Зачем ты споришь с глупой женщиной? Плюнь на нее и делай то, что она хочет». Грозный и на этот раз покоряется. Она заснула. Уверенный, что она больше не слышит его, он начинает говорить ей о своей любви. Он, отваживавшийся на всё, не смел ей раньше этого сказать.
Нам ничего не известно о причинах немилости, постигшей обеих возлюбленных царя. Быть может, Островский опять угадал это, вложив в его уста следующие слова, обращенные к Васильчиковой: «Ты похудела, я не люблю худых».