В пустыне он поселился на озере. Вместе с ним подвизались отцы Виталий, Меркурий, Кассиан, Анемподист. Я пришел туда позже, потому что некоторое время после закрытия лавры подвизался в Киеве, однако потом получил благословение на пустынножительство в горах Кавказа. Хотел поселиться один, и братия отвели мне отдельную келью. Но, поскольку я был в сане, мне нужно было служить литургию, и монахи специально приходили за мной для того, чтобы отвести к храму. Дорога к ним была трудной и долгой. Идти приходилось около шести часов. Церковь пустынники построили собственными руками. Окормлял нас схиархимандрит Серафим, без благословения которого никого не принимали. Он лично проверял послужные списки, беседовал с приходящими в пустыню иноками или послушниками прямо в Сухуми. Отец Ахила всегда руководствовался благословением отца Серафима и митрополита Зиновия, а также глинского старца Андроника.
На Кавказе пустынножители подвизались в отдельных кельях. Первоначальниками обители были отец Аввакум, отец Пимен, отец Василий. В храме был свой антиминс, по мере необходимости ездили к епископу. Архиереи были сначала грузинские, потом и русские. Отец Ахила жил в пещере в скале, под кельей известного старца отца Исаакия. Когда отца Исаакия бандиты сбросили со скалы, он слышал, как старец летел в пропасть.
В своей отшельнической келье он жил, как птичка. К келье вела очень крутая тропа, и было опасно по ней подниматься. Не все братия знали, как к нему можно пройти, а он находился там на протяжении многих лет. Отец Ахила настоящий аскет нашего времени.
Пустынножители питались и от своих трудов. Они имели огородики, сажали картошку, выращивали фасоль, клубнику, а также садовые культуры: яблони, груши. Земля в этих местах плодородная и очень древняя. При ее возделывании пустынники находили странные «железки».
Со временем развели пчел и всем нуждающимся раздавали мед. В озерах водилась рыба, но на столе она была не всегда, так как многие держали строгий пост, зато плодами земледелия пользовались все. Отец Аввакум изготовлял кресты, отец Ахила был пчеловодом. Ноши носили практически все: и молодые, и старые. Отцу Ахиле было уже пятьдесят шесть лет, однако наравне с молодыми и в дождь, и в холод, и в зной он носил такие большие ноши, что все удивлялись. Воистину, у него была необычайная сила веры.