В июне 1923 г. патриарх был освобожден из-под ареста и вернулся к исполнению обязанностей. Он распустил Высшее церковное управление, объявил недействительными все его постановления и восстановил порядок в украинских епархиях. Там по инициативе правительства С. Петлюры была сформирована независимая Украинская православная церковь во главе со священником Василием
В апреле 1925 г. патриарх Тихон скончался. Перед смертью он обнародовал имена своих преемников – митрополитов Смоленского
В силу обстоятельств местоблюстителем патриаршего престола стал митрополит Петр. Он также назначил себе трех преемников. Один из них – митрополит Нижегородский
Несмотря на это, гонения на церковь продолжались. В 1928-1929 гг. возобновилась кампания по закрытию храмов. В 1928 г. по стране было закрыто 34 храма, в 1929 г. – 1119. В 1932 г. активизировалась деятельность
Был даже принят пятилетний план ликвидации религии (так называемая «безбожная пятилетка»), предусматривающий последовательное принятие таких мер, как уничтожение храмов, запрет написания религиозных сочинений и изготовление предметов культа, широкая пропаганда атеизма, ссылки священников и активных верующих. На первом этапе осуществления этого плана намечалось ликвидировать Русскую православную церковь, на втором – все остальные вероисповедания.
Совет народных комиссаров Р принял ряд постановлений, ограничивших социальные возможности церкви: запрет заниматься благотворительностью, произносить проповеди, вводилась 5-дневная рабочая неделя и воскресенье переставало быть выходным днем. Однако перепись населения 1937 г. показала неэффективность идеологической борьбы против религии. Верующими себя считали две трети сельского и треть городского населения. Тем не менее кампания закрытия церквей продолжилась, к концу 1939 г. в Р осталось 4 действующих монастыря и чуть более 100 храмов.
22 июня 1941 г. на территорию Р вторглись войска фашистской Германии. Началась Великая Отечественная война. В первый же день войны митрополит Сергий обратился к верующим с призывом сделать все необходимое для победы над врагом. В храмах начался сбор средств на вооружение, подарки бойцам, помощь раненым и сиротам. На средства, собранные церковью, были построены самолеты для эскадрильи «Александр Невский» и танковая колонна «Дмитрий Донской». Продвижение немецких войск к Москве заставило митрополита покинуть столицу и эвакуироваться в Ульяновск. В последующих обращениях митрополит Сергий призывал верующих, остающихся на оккупированной территории, не верить гитлеровской пропаганде, вещающей, что немецкая армия идет во имя религии и освобождения церкви от безбожного государства.