В начале июля 1923 года архиепископ Иларион производит принятие в общение обновленческою клира в соборе Сретенского монастыря. Владыка Иларион настоял на том, чтобы обновленческих клириков принимать через покаяние, но если они свой сан получили в обновленчестве, этот сан не признавать. Обновленческие храмы все заново освящали, что но канонам делается с храмом еретическим. Тем самым Владыка Иларион подчеркивал еретический характер обновленчества. 'Здесь он был непримирим.
15 (28) июля 1923 юла произошло публичное покаяние перед патриархом Тихоном Митрополита Сергия (Страгородского) в Донском монастыре. Патриарх возложил на него крест и панагию, а Владыка Иларион вручил ему белый клобук.
Во многом благодаря деятельности епископа Илариона началось массовое возвращение клира и мирян в "тихоновскую" Церковь. Храмы, захваченные обновленцами, стали пустеть.
В своих неустанных трудах Святитель прибегал к небесному заступлению Святых угодников Божиих, особое значение придавая молению за Русь преподобному Серафиму.
Предположительно в июне 1923 года Владыка Иларион был возведен в сан архиепископа. Святитель Тихон включает владыку в состав действовавшего при нем Временного Патриаршего Синода.
Будучи прекрасным оратором. Владыка Иларион произносил проповеди, направленные против обновленческого раскола, выступал на диспутах против обновленческого лидера Александра Введенского и советского наркома просвещения Л. В. Луначарского. Многие москвичи в те годы стали свидетелями убедительных побед православного архиерея над своими противниками.
По воспоминаниям Варлама Шаламова, основным отличительным признаком его речи была уверенность в Истине; но действовало на людей безотказно и глубоко.
Власти не простили Владыке его деятельности по борьбе с обновленчеством и укреплению единства Церкви, не простили его преданности Святейшему Патриарху. В ноябре 1923 юла святитель Иларион был вновь арестован.
Постановлением Комиссии НКВД по административным высылкам он был осужден на три года концлагерей.
В жизнеописании архиепископа Илариона, составленном протопресвитером М. Польским, говорится, что до Соловков он уже был один год в ссылке в г. Архангельске (и в Кемском лагере). Увидев весь ужас обстановки, даже он, жизнерадостный и бодрый, сказал: "Отсюда живыми мы не выйдем."
Один из священников - соузников Владыки по Соловкам дает такое описание его личности: '"Архиепископ Иларион - человек молодой, жизнерадостный, всесторонне образованный, прекрасный церковный проповедник, оратор и певец, блестящий полемисте безбожниками, всегда естественный, искренний, открытый; везде, где он ни появлялся, всех привлекал к себе и пользовался всеобщей любовью... За годы совместного заключения являемся свидетелями его полного монашеского нестяжания, глубокой простоты, подлинного смирения, детской кротости. "
На Соловках Владыка был сетевязальщиком и рыбаком. Об этой работе он говорил переложением слов стихиры на Троицын день: "Вся подает Дух Святым: прежде рыбари богословцы показа, а теперь наоборот - богословцы рыбари показа." Благодушие его по свидетельству того же о. Михаила Польского, простиралось на самую советскую власть. Б. Ширяев видел, как Владыка спас тонущего военкома Сухова. Ошеломленный чекист трижды перекрестился и невольному свидетелю сказал: "Молчи, а то в карцере сгною, день-то сегодня знаешь какой. Страстная Суббота."
Владыка Иларион на все смотрел духовными очами и все служило ему на пользу духа. Он подчеркивал, что заключение - бесценная школа добродетелей. Духовенство обкрадывается и обирается - есть повод воспитывать в себе нестяжание: оскорбляют, обижают, бьют -смирись, возлюби обидчика. Владыка в лагере не прекращал своей архипастырской деятельности, не гнушаясь общения даже с уголовниками. Любовь его к каждому человеку, внимание и интерес к каждому были поразительными.
Будущий известный писатель Олег Волков, тогда еще молодой человек, ходил навещать Владыку. "Преосвященный встречал нас радушно - вспоминал он. - В простоте его обращения было принятие людей и понимание жизни... Мы подошли к его руке, он благословил нас и тут же, как бы стирая всякую грань между архиепископом и мирянами, прихватил за плечи и повлек к столу." "Надо верить, что Церковь устоит, без этой веры жить нельзя. Пусть сохранятся лишь крошечные, еле светящие огоньки, когда-нибудь от них все пойдет вновь. Без Христа люди пожрут друг друга", - записал слова Владыки Волков.
По словам о. М. Польскою, за формой веселости и даже светскости можно было постепенно усмотреть детскую чистоту, великую духовную опытность, доброту и милосердие, нравственное совершенство. Это было юродство, с помощью которого святитель скрывал внутреннее делание. Под руководством святителя духовенство получало огромный опыт, потому что он сам своим примером показывал, что значит смиряться.