Митрополит Афанасий занимал первосвятительскую кафедру с небольшим два года. Устрашенный, вероятно, ужасами опричнины и не имея силы характера противостоять им, он отказался от своего сана и удалился в Чудов монастырь. Выбор Иоанна остановился было на Германе, архиепископе Казанском; но когда сей последний, еще до своего поставления, вздумал поучать царя и напоминать ему о Страшном суде, любимцы стали внушать Иоанну, что в сем митрополите он найдет второго Сильвестра, и убедили его отстранить Германа от митрополичьей кафедры. Посему несколько удивительным является то, что Иоанн пожелал возвести на эту кафедру такого мужа, как соловецкий игумен Филипп.
В миру Феодор, Филипп принадлежал к боярскому роду Колычовых, одному из родов, происшедших от известного Андрея Кобылы наравне с Захарьиными-Юрьевыми, Шереметевыми и др. Переход его от мирской суеты к иноческим подвигам в общих чертах напоминает историю подобных подвижников прежнего времени. В молодости своей Федор Колычев некоторое время находился при великокняжем дворе, и здесь узнал его Иоанн, тогда еще малолетний. Это было в последний год правления Елены, когда вследствие придворных крамол и переворотов семья Колычевых подверглась гонению. Житие Филиппа рассказывает, что, однажды услыхав на литургии слова Спасителя: «никто не может двема господинома работати», молодой боярин решился навсегда покинуть мир, и тайком ушел из столицы. После разных странствий он явился в Соловецкую обитель, и, никем незнаемый, принял на себя суровое послушание: рубил дрова, копал в огороде землю, работал на мельнице и на рыбной ловле. Постриженный в иноки, с именем Филиппа, и усердствуя к церковной службе, он продолжал также деятельно работать то в монастырской кузнице, то в хлебне и т. п. Еще при жизни престарелого игумена Алексея Филипп был уже избран его преемником. После его смерти, вступив в управление монастырем, Филипп вполне проявил свои замечательные хозяйственные способности. Он умножил и улучшил соляные варницы, служившие главным источником монастырских доходов; устроил мельницу, проведением каналов соединил многие озера и осушил болотистые места для сенокосов; на одном из островов построил скотный двор, развел рогатый скот и оленей, из шкур которых стали выделывать меха и кожи. Не однажды Филипп по делам своего монастыря посетил Москву и Новгород, к епархии которого принадлежала Соловецкая обитель, и выхлопотал для нее разные жалованные грамоты. Вообще, бедная дотоле, обитель сия при нем пришла в довольно цветущее состояние: он не давал времени для праздности и лени, а заставлял всех трудиться. Монастырь украсился новыми и притом каменными храмами. Слава его благочестия и строительных подвигов распространилась до царского двора. В 1566 году Иоанн вызвал его в Москву и объявил ему свое желание видеть его на кафедре митрополичьей. Филипп колебался принять сей высокий сан при трудных обстоятельствах того времени и указал на опричнину, как на великое зло, от которого страдает Русская земля. Иоанн разгневался, однако настоял на своем. Мало того, принимая митрополию, Филипп особой грамотой обязался: «В опричнину и в царский домовый обиход не вступаться и митрополии из-за опричнины не оставлять, и советоваться с царем, как прежние митрополиты советовались с его отцом и дедом». После того, с обычным торжеством, в Успенском соборе Филипп был поставлен на митрополичью кафедру освященным собором русских архиереев, 25 июля 1566 года.
Настало как бы затишье, которое продолжалось более года; не слышно было о свирепых деяниях Иоанна и его опричников. Но вот польский король и литовские вельможи подослали с каким-то гонцом Козловым грамоты к некоторым московским боярам, именно к князьям Бельскому, Мстиславскому, Воротынскому и конюшему Челяднину, склоняя их перейти на литовскую службу.
Грамоты эти попали в руки Иоанна, и он велел от имени бояр написать ругательные ответы королю. Тем не менее сие обстоятельство подало повод к новым и страшным казням. Тогда погибли конюший боярин Челяднин, три князя Ростовских, Петр Щенятев, Турунтай-Пронский и многие другие, обвиненные в каких-то заговорах. Казни эти сопровождались иногда глумлением и разными утонченными жестокостями, на которые Иоанн был очень изобретателен. Так, рассказывают, будто престарелого Челяднина он сначала посадил на трон и, сняв шапку, приветствовал его царем земли Русской, а потом, собственноручно ударив его ножом в грудь, велел докончить его опричникам и бросить псам на съедение. Во время этих казней остервенелые опричники так опьянели от крови, что с ножами и топорами бегали по Москве, отыскивая участников мнимого заговора; убивали их всенародно и трупы бросали на улицах и площадях, где они долго лежали непогребенными, так как ужас обуял граждан и они не только не смели хоронить погибших, но и сами боялись выходить из своих домов.