С началом навигации владыка Иларион был перевезен с Попова острова на Соловки, где 7 июня участвовал в тайном совещании, посвященном положению Церкви. В результате совещания появилась знаменитая «Памятная записка Соловецких епископов», обращенная к правительству СССР. Этим документом Русская Церковь устами своих святителей и исповедников выразила свой взгляд на крайне трудную и болезненную тему взаимоотношений Православной Церкви и советского государства.
В ноябре 1926 года заканчивался срок заключения владыки Илариона, и он вновь был перевезен на материк. 19 ноября 1926 года особое совещание при Коллегии ОГПУ приговорило святителя Илариона еще к трем годам заключения на Соловках: «…Гражданин Троицкий, находясь в ссылке, не прекратил контрреволюционной работы и является социально опасным элементом». Его обвинили в «разглашении государственных тайн», то есть разглашении его разговора с Тучковым в Ярославской тюрьме. Прибыв на Соловки, владыка шутил: «На повторительный курс оставлен».
Осенью 1927 года возникло новое разделение, отчасти вызванное появлением «Декларации митрополита Сергия», в которой заявлялось о лояльности властям. Владыка Иларион предостерегал всех от раскола, прекрасно понимая вынужденность некоторых мер. «Никакого раскола! – говорил он. – Что бы нам ни стали говорить, будем смотреть на это как на провокацию!»
«Что реку о сем? – писал владыка Иларион в своих письмах. – А то, что всем отделяющимся я до крайней степени не сочувствую. Считаю их дело совершенно не основательным, вздорным и крайне вредным. Не напрасно каноны 13–15 Двукратного Собора определяют черту, после которой отделение даже похвально, а до этой черты отделение есть церковное преступление. А по условиям текущего момента преступление весьма тяжкое… Я ровно ничего не вижу в действиях митрополита Сергия и Синода его, что бы превосходило меру снисхождения и терпения».
В это время архиепископ писал своей родственнице: «Выкинут я стихией на далекий остров. Но сожаления я стараюсь не растравливать в душе моей, на окружающее стараюсь не обращать внимания, а жизнь наполнять тем, чем можно. И так за долгие годы привык и живу не тужу. На лучшее не надеюсь, от худшего не отрекаюсь. Какова о мне воля Божия – так пусть и будет».
В конце 1929 года власти приговорили владыку Илариона к трем годам ссылки в Казахстане. Самое мучительное было то, что к месту ссылки, через всю страну, владыка должен был ехать этапным порядком, останавливаясь на неопределенный срок в пересыльных тюрьмах. Почти сразу же после отправки на материк его обокрали, и в Ленинград он прибыл на праздник Введения во храм Пресвятой Богородицы уже больным, в кишащем паразитами рубище.
19 декабря владыка был помещен в тюремную больницу им. Гааза, путь к которой ему пришлось пройти пешком, страшно изнемогая от болезни. Из больницы он писал: «Я тяжело болен сыпным тифом, лежу в тюремной больнице, заразился, должно быть, в дороге, 28 декабря решается моя участь (кризис болезни), вряд ли переживу…»
В больнице ему сказали, что его надо обрить, владыка ответил: «Делайте со мной теперь, что хотите…» В бреду он говорил: «Вот теперь-то я совсем свободен». По рассказу М.Ф.Анфимовой, дочери последнего протодиакона Воскресенского Новодевичьего монастыря, перед смертью владыку Илариона причастил Святых Христовых Таин келейник митрополита Серафима (Чичагова) иеромонах Никандр.
За несколько минут до кончины к нему подошел врач и сказал, что кризис миновал и теперь он может поправиться. Святитель в ответ едва слышно сказал: «Как хорошо. Теперь мы далеки от…» И с этими словами тихо скончался. Преставился владыка 28 декабря 1929 года, в 4 часа 20 минут утра.
Митрополит Серафим (Чичагов), занимавший тогда Санкт-Петербургскую кафедру, попросил для погребения тело почившего святителя. Власти поставили условие, чтобы не было никаких надгробных речей. Ночью грубо сколоченный гроб выдали родственникам. Святителя было невозможно узнать. В гробу лежал изможденный старец с обритой головой. Владыке Илариону было всего 43 года.
Тело почившего владыки в белом архиерейском облачении самого митрополита Серафима было положено в другой, лучший гроб. Отпевание было совершено в Воскресенском соборе Новодевичьего монастыря. В отпевании и погребении принимали участие митрополит Серафим (Чичагов), архиепископ Хутынский, будущий патриарх Московский Алексий (Симанский), епископ Николай (Ярушевич), епископ Лужский Амвросий (Либин), епископ Лодейнопольский Сергий (Зенкевич) и множество духовенства.
На отпевание пришло несколько тысяч верующих, народом был заполнен весь монастырский двор и прилегающее кладбище. Надгробные речи были запрещены, но владыка Николай так прочитал заповеди блаженства, что все присутствующие рыдали. Каждая из этих заповедей была исполнена святителем: «Блажени нищии духом… Блажени миротворцы… Блажени, егда поносят вас… Радуйтеся и веселитеся, яко мзда ваша многа на небесех»…