Отбывать срок Владыку Сергия отправили в Ярославскую тюрьму особого назначения (политизолятор), куда епископ прибыл в декабре 1931 г. Здесь он провел почти четыре года, за исключением трехмесячного пребывания (21 января – 26 апреля 1935 г.) в больнице московской Бутырской тюрьмы. Существует предание, что также отбывавший срок в Ярославском политизоляторе архиепископ Димитрий (Любимов) скончался там 17 мая 1935 г. на руках Владыки Сергия.
И после окончания срока заключения власти не освободили епископа. 7 октября 1935 г. он был приговорен Особым Совещанием при Народном комиссариате внутренних дел к ссылке в Марийскую автономную область на 3 года. Согласно распоряжению от 15 ноября Владыка Сергий 5 декабря 1935 г. был отправлен из тюрьмы по этапу в г. Йошкар-Ола[193].
Прибыв в этот заволжский город, он поселился и прожил последние два года жизни в доме бывшей насельницы закрытого в 1921 г. Царевококшайского Богородице-Сергиева монастыря Анны Михайловны Комелиной на ул. Волкова, 94. Сестра Анна родилась в 1887 г. в д. Овечкино Оршанского уезда Казанской губернии в крестьянской семье, после закрытия обители жила за счет случайных заработков, в 1923 г. была лишена избирательных прав, в 1934 г. подвергалась аресту органами НКВД по обвинению в антисоветской деятельности и агитации, но вскоре оказалась освобождена под подписку о невыезде. Монахиня была арестована и осуждена вместе с Владыкой Сергием.
Проживая в Йошкар-Оле, епископ служил тайно, местное население чтило его как святого старца. Место жительства Владыки в ссылке стало центром притяжения людей, ищущих духовного общения и окормления. К епископу приходило довольно много людей – не только жители города, но и верующие из различных районов Марийской области. Нередко бывали у него иосифляне из Кировской (Вятской) епархии, а с начала 1936 г. стали приезжать духовные чада ей. Сергия из Ленинграда. Нередко Владыку посещали священнослужители, главным образом, отошедшие от митр. Сергия. Впрочем, в феврале 1937 г. к ссыльному дважды приходил управлявший в те годы Марийской епархией епископ Варлаам (Козуля). Он просил ей. Сергия примириться с митр. Сергием и вернуться к нему. Епископ Сергий обещал «списаться с профессорами» и поступить так, как они посоветуют, но, судя по всему, этого не сделал.
Ссыльный Владыка поддерживал связь с другим проживавшим в Марийской области – в г. Козьмодемьянске, на поселении – иосифлянским епископом Иларионом (Бельским). Отбыв пятилетний лагерный срок на Соловках и в Беломоро-Балтийском лагере, ей. Иларион остался убежденным противником Заместителя Патриаршего Местоблюстителя и, приехав летом 1937 г. в Йошкар-Олу к ей. Сергию, «очень просил не присоединяться к продавшим себя большевикам сергиевцам и обновленцам». Вскоре после этой поездки Владыка Иларион был арестован, 28 августа приговорен к высшей мере наказания и 31 августа 1937 г. расстрелян в Йошкар-Оле[194].
Во время проживания в Марийской области здоровье престарелого епископа Сергия уже было подорвано предыдущим тюремным заключением, и он страдал немощностью. Беспокоясь о Владыке, верующие старались помочь кто чем мог, окружали его, как настоящая семья, заботящаяся о своем отце и утешаемая его духовными дарами. Епископу приносили продукты, одежду и другие необходимые для жизни вещи. Одна из бывших прихожанок прислала Владыке антиминс и облачение со словами: «Как-нибудь уж сохраните, чтобы не попало в руки врагов». Возможно, на этом антиминсе епископ и служил дома литургию, так как иосифлянских храмов в Йошкар-Оле не было. Отбывавший ссылку в Архангельске староста Феодоровского собора Детского Села Иван Корнилович Корнилов просил ей. Сергия, получив его адрес от епископа Авраамия (Чурилина), сообщить о себе и одновременно извещал, что вместе с ним в Архангельске живет прот. Василий Верюжский, бывший настоятель собора Воскресения Христова в Ленинграде, куда из ссылки вскоре возвращается протодиакон этого храма Василий Смирнов. В марте 1936 г. ухаживать за Владыкой приехала из Ленинграда пенсионерка Екатерина Аверьяновна Киселева, которая, по ее словам, узнала адрес своего духовного отца через Красный Крест.
Однако постепенно над ей. Сергием стали «сгущаться тучи». 14 февраля 1937 г. местные агенты НКВД арестовали бывшего церковного старосту крестьянина Игоря Ильича Стенькина. На допросе он признался, что с группой из 21 человека принадлежит к «истинно-православным христианам», которые собираются в его доме и в доме Прасковьи Александровны Кирпичниковой из деревни Важнангер, поскольку «с момента ареста в 1932 году нашего православного священника Мало-Сундьярской церкви Игноносова Александра Семеновича все мы в церковь не ходим, молимся дома, потому что церковь перешла в сергианскую ориентацию, которую, по своему убеждению, мы считаем отошедшей от православия и продажной советской власти».