Незадолго до окончания срока Иллариона перевели из Соловков в Ярославль. Там, в тюрьме, его посещал ответственный работник ГПУ и уговаривал присоединиться к новому, поддерживаемому властями, церковному расколу, возглавляемому епископом Екатеринбургским Григорием. «Вас Москва любит, вас Москва ждет», — уговаривал агент Иллариона, обещая ему свободу и высокое место в иерархии григорианства. Илларион отказался. После переговоров, продолжавшихся несколько месяцев, агент ГПУ сказал: «Приятно с умным человеком поговорить. — И тут же добавил: — А сколько вы имеете срока на Соловках? Три года?! Для Иллариона — три года?! Так мало?»
Иллариону добавили еще три года и возвратили на Соловки. По окончании нового срока его отправили этапом на вечное поселение в Казахстан. В пути он заболел сыпным тифом и 28 декабря 1929 года умер в тюремной больнице в Петербурге. Петербургский митрополит Серафим (Чичагов) упросил начальство НКВД выдать тело усопшего. Митрополита Иллариона отпели в Воскресенском храме Новодевичьего монастыря и похоронили на монастырском кладбище.
Годы спустя, когда на Соловках не осталось ни одного заключенного, лично знавшего митрополита Иллариона, стойко держалась память о нем. От одного потока заключенных к другому передавались уже не воспоминания, а предания, ставшие фольклором. Фольклорное предание, как известно, имеет в своей основе действительный факт, обычно трансформирует его, дополняет фантастическими вымыслами, но при этом всегда сохраняется идея и смысл того события, которое лежит в его основе. Таковы и две легенды о митрополите Илларионе. Первая — о его неколебимой верности православию, вторая — об общегосударственном масштабе значения его деятельности и личности.
Первая легенда повествует о том, как однажды на Соловки приехал посол Папы Римского, католический кардинал, для переговоров с сидевшим в Соловках духовенством, среди которого было много высших иерархов. Папа решил воспользоваться в своих целях тяжелым положением Русской церкви и осуществить давно лелеемый Ватиканом коварный план.
Священники-соловчане избрали для переговоров с папским нунцием митрополита Иллариона. И вот они встретились — князья двух Церквей — одетый в пышные облачения католический кардинал и митрополит Илларион в заплатанной телогрейке арестанта. Нунций сказал, что он может добиться освобождения православного духовенства из лагерей, но за это Православная церковь России должна объединиться с католической в унию и признать власть папы над собою. Митрополиту Иллариону в униатской церкви России он обещал тиару кардинала. Но владыка Илларион ответил, что Православная церковь предпочитает лучше принять терновый венец, чем изменить истинной вере.
В действительности такой встречи не было. Борис Ширяев, автор воспоминаний о Соловках, в которых он приводит эту легенду, специально расспрашивал сидевших там иерархов, и все они «решительно отрицали этот факт».
Вторая легенда утверждала, что существует тайное завещание покойного патриарха Тихона, в котором он указывает на Иллариона как на истинного хранителя и местоблюстителя патриаршего престола.
В заключение рассказа о митрополите Илларионе приведу стихотворение, о котором шла речь в его разговоре с Олегом Васильевичем Волковым. Это стихотворение принадлежит А. Н. Майкову:
Теперь вернемся к началу 1920-х годов, когда совету общины Сретенского монастыря удалось спасти от закрытия Владимирский собор, защититься от обновленцев и сохранить приход.
Колокола Сретенского монастыря славились в Москве своей мелодичностью. Один из последних дореволюционных путеводителей «Всеобщий путеводитель по Москве и окрестностям», вышедший в 1915 году и по обширности заявленной программы вынужденный писать лишь только о самых значительных достопримечательностях, тем не менее приглашает послушать великолепные колокола Сретенского монастыря.
12 июня 1920 года москвич Н. П. Окунев отметил в дневнике новое звучание сретенского колокольного звона: