В келлии находился лишь деревянный гроб, служившей постелью, налой с иконами, неугасимая лампада, деревянный обрубок, кувшин для воды, гарнец для пищи, нагольный тулуп, старая мантия и епитрахиль. У гроба в головах стояло распятие. Жестокое житие особенно трудно было с начала. Ложась для отдыха во гроб в тулупе, подвижник дрожал от пронизывающего насквозь холода. От сырости тлела и распадалась одежда. Молитвенное правило затворника состояло из 700 земных поклонов, 100 поясных, 5000 Иисусовых молитв, тысячи Богородичных, акафистов Христу, Божией Матери и Страстям Христовым, помянника по запискам, подаваемым от богомольцев. Ежемесячно о. Иоанникий приобщался св. Тайн и только тогда, закрытым ходом, проходил в церковь. Сперва, глядя на великую меру трудов затворника, братия думала, что он в прелести; его осуждали, глумились над ним. Но время шло. Крепко и молчаливо продолжал подвижник начатые труды, удивление стало заменять насмешки. Чрез полтора года по начатии затвора, на день Усекновения главы, о. Иоанникий пострижен преосв. Филаретом в схиму с именем Иоанна.
Подвижнику было разрешено приобщаться ежемесячно, а в посты еженедельно. Архимандрит и некоторые из старшей братии обратились к о. Иоанну как к духовнику; преосв. Филарет, всегда посещая его при своих приездах, — оказывал к нему великое уважение.
По пятилетнем пребывании в пещере, у о. Иоанна в ногах появились судороги от сырого холода, и тогда настоятель устроил ему в пещере печь.
Всякий вторник ходил он в церковь, приобщаться, и после литургии благословлял теснившийся к нему народ. Семь дней в году, со страстной среды до четверга Пасхи, он проводил в келлии, у келейников. Господь сохранил о. Иоанна от искушений демонских. Только раз ночью вошли к нему в пещеру два необычайные великана и, со злобою смотря на него, сказали: "Съедим этого старика, чтоб он не молился так постоянно". Затворник, закрыв глаза, стал читать молитву Иисусову, и привидение с диким хохотом исчезло. Много терпел подвижник от нареканий братии, осуждавшей его за выходы из затвора, за его крайнюю простоту, за то, что он имел у себя самовар, и изредка подкреплялся чаем. Приставленные к затворнику келейники, тяготясь им, делали ему неприятности, и в глаза поносили его. Не в состоянии сам назидать книжным языком, старец с любовью выслушивал от собеседников, много младших возрастом, святоотеческие изречения. Пока о. Иоанн мог сам читать, он сам вычитывал свое ежедневное правило; когда же от мрака и от свеч его зрение совершенно испортилось, к нему был приставлен инок, прочитывавший для него церковные последования; оставаясь же наедине, старец творил земные поклоны и предавался молитве Иисусовой. "Иисус — моя утеха, — говорил затворник. — С Ним мне, слепому, не скучно, Он и утешит, Он и усладит душу, так что с Ним скучно мне никогда не бывает". Равнодушие старца к окружавшей его обстановке доходило до того, что некоторые иноки сами от себя должны были менять полусгнившую соломенную подстилку в гробе и распоряжаться у него, чтоб хоть несколько смягчать тот бесконечно суровый обиход, в котором жил старец.
С тех пор, как старец стал появляться по вторникам у алтарных дверей, к нему стало тесниться множество народа; многие из этих людей спрашивали у него советов. Эти беседы с мирянами сильно тяготили старца.
В последние годы жизни о. Иоанн проявлял иногда в своих действиях странности, похожие на юродство. Однажды Т. Б. Потемкина привела в келлию к нему своего брата, настроенного против монашества. Вместо духовной беседы, — старец стал усиленно просить посетительницу озаботиться, чтоб сняли с него портрет, говоря, что он очень нужен. Такое, как казалось, тщеславие, очень неприятно поразило посетителей. Но портрет был по неоднократным настояниям старца сделан, и по смерти его многим оказался нужен и полезен. В другой раз один благодетель монастырский, желая видеть знаменитого затворника, вошел в пещеру его, а о. Иоанн стал просить о помощи бедным своим сродникам. "Ты умер миру, отче; ты мертвец в мире, какие у тебя родные!" — обличал его посетитель, и с огорчением вышел. Такие поступки, несомненно, имели целию принять укоры от таких людей, которые шли к о. Иоанну, как к праведнику: он трепетал хвалы человеческой, и предпочитал ей оскорбления. А между тем народная молва повторяла имя подвижника, как святого старца, и действовавшие в нем, ясно проявлявшиеся дары исцеления, молитвы, прозорливости, свидетельствовали о достигнутой им степени совершенства. Он изгонял бесов, называл по имени лиц, в первый раз им видимых, открывая им их тайны.