В Драндах отец Ювеналий провел шесть лет. Но гонения на православие начались и в Советской Абхазии. В 1924-м был закрыт Ново-Афонский монастырь, многие насельники которого перешли в Дранды. Маленькая обитель держалась лишь за счет того, что там была создана сельскохозяйственная артель. В 1926-м епископ Могилёвский Никон (Дегтяренко, 1884-1937), только что вышедший из московской тюрьмы и высланный в Батум, совершил постриг иеродиакона Ювеналия в великую схиму с именем Серафим и рукоположил его во иеромонаха. Одновременно во иеромонаха был рукоположен и Зиновий (Мажуга).
Конец монастыря настал в 1928-м, причем при трагических обстоятельствах - настоятель был убит, а монастырская казна разграблена. В храмах разместили склад оружия, затем - сельхозтехники. Предстояло снова решать, что делать дальше.
В этот тяжелый момент на помощь отцам пришла верующая семья из греческого села Георгиевское. Отец Серафим поселился в маленькой хижине-келии, разделенной перегородкой надвое. Кто именно был его соседом - не вполне ясно. С одной стороны, отец протоиерей Владимир Правдолюбов, близко знавший старца в 1960-х, утверждал, что в Кавказских горах отец
Серафим делил хижину с иеросхимонахом Макарием (Ерёменко, 1859-1963), которого глубоко почитал. Но сам отец Серафим под старость вспоминал, что монашеское имя его кавказского соседа было Николай, он был старше его по возрасту, и тоже из Глинской братии, - иеромонах, начальник мельницы, на которой трудился отец Серафим перед закрытием монастыря. Видимо, имеется в виду уже упоминавшийся выше иеромонах Николай (Калиный, 1861—?), уроженец Старооскольского уезда Курской губернии, который был насельником пустыни с 1885 года, в 1906-1913 годах служил в Саратове, а затем вернулся в Глинскую и с 1913 года заведовал мельницами. Вряд ли сам старец мог спутать отца Николая с отцом Макарием, с которым неоднократно общался впоследствии вплоть до его смерти.
Так или иначе, хижина, где обрели приют отшельники, размещалась в горах, в уединенном месте, и подобраться к ней было очень сложно - нужно было долго идти по еле заметной тропке, петлявшей над пропастью. Жили тихо, молитвенно. Вскопали огород, посадили там кукурузу. Зарабатывали тем, что делали из самшита ложки и продавали их греческим и армянским крестьянам. Пока один работал, другой вслух читал Иисусову молитву. Если отвлекся, умолк - другой тут же подхватывал. Обед готовили по очереди, при этом не обсуждая, что именно будет из блюд, хорошо ли оно получилось: поели - и слава Богу, снова за работу... Так, в молитве и труде, текли дни. Чуть позже отец Серафим перебрался дальше от Сухума, в пустыньку на Сухой речке, примерно в двухстах километрах от города. Под руководством иеромонаха Савватия там подвизалось около тридцати монахов, своими усилиями построивших храм. Жили в келиях, построенных из стволов каштанов. Питались тем, что толкли в ступе сухари и, заливая их кипятком, ели этот «суп», варили кукурузу и картошку, собирали каштаны, ягоды. Зимой пили отвар из шиповника и брусники. Приходилось и отгонять от келий непрошеных гостей - медведей или горных барсов.
Традиции пустынножительства были глубоко укоренены в местном быту. Кавказские горы помнили апостола Симона Кананита, святителя Иоанна Златоуста, мученика Василиска Команского... В 1920-х непроходимые горные леса Абхазии стали спасением для тех, кто мечтал о монашеском подвиге: здесь можно было надежно скрыться от любопытных глаз. Самое большое поселение -Монашеские Поляны - возникло в долине реки Шахе: там в разное время подвизалось до трехсот человек.
Естественно, такое положение дел не могло не вызывать раздражения у местных властей, и в начале 1930-х против горных скитов было проведено несколько настоящих карательных экспедиций, в ходе которых их разгромили (хотя полностью кавказское пустынничество не умерло -его традиции продолжаются и сейчас.). Но отец Серафим и отец Николай покинули Кавказ еще до этих событий. По воспоминаниям архиепископа Михея (Хархарова), «случилось так, что оба они заболели тропической малярией. Болели они ею и раньше, но вот такой сильный был приступ болезни с высокой температурой, что оба они лежали беспомощными. Случайно зашли к ним другие отцы и застали их в таком тяжелом состоянии. Эта болезнь не поддается просто лечению, требуется переменить климат, и отцы стали уговаривать их уходить из этого места, иначе они погибнут здесь».
Так для монахов-отшельников снова начались дни скитаний. О. Зиновий (Мажуга) решил остаться в окрестностях Сухуми - в греческих селах рядом с городом его все любили и не дали бы пропасть с голоду. А отец Серафим с отцом Николаем отправились в далекий путь - в Казахстан. В то время он был еще не отдельной союзной республикой, а автономией в составе Советской России и назывался Казахской АССР.