По водворении навсегда в келье старца брату Ивану, конечно, приходилось много терпеть, как невольных столкновений, так и намеренно наносимых ему людьми «испытаний». Цель же духовно опытного старца Амвросия в сем деле состояла в том, чтобы мало-помалу обучать молодого послушника смирению. С самого своего поступления в келейники старца ему пришлось стать под непосредственное расположение старшего келейника о. N, человека с крайне тяжёлым характером. Суровый и угрюмый, он никогда ничего не говорил и не показывал новичку-послушнику, что и как нужно сделать; но когда тот по новости делал что не так, то получал за это от своего сурового учителя строгий выговор. Вот эта-то первая школа терпения, по всей вероятности, и послужила началом выработки того блаженного самоукорения, о котором так часто и с таким восторгом впоследствии говорил старец Иосиф своим духовным детям, и которое его самого на всю жизнь сделало таким спокойным, кротким, радостным. Несправедливость, напраслина раздражает обыкновенного человека; но когда он, через внимание к своей совести, научился находить вину в себе, тогда он прежде всего судит и осуждает сам себя и потому суд ближнего принимает, как заслуженное им от Бога за грехи наказание и не только не раздражается, но ещё и благодарит ближнего. При строгом внимании к своей совести и при помощи просвещающей благодати у человека на месте самомнения мало-помалу образуется самоукорение и верный на себя взгляд, или самопознание; и тогда все прежние грубые преткновения тяготят его душу, а последующие замечаются до самых мельчайших тонкостей и тревожат чуткую совесть, — и вот в результате получается уже постоянное, искреннее укорение себя за всё случающееся с ним, противное закону Божиему.
Вскоре к старцу на место о. N поступил другой келейник, уже пожилой Максим (в мантии о. Михаил). Этот был тоже от природы нрава крутого, но с добрым сердцем, и брат Иван сумел покорить его своей кротостью, и они сделались друзьями. Несмотря на это, о. Михаил, по своему характеру, всё-таки частенько покрикивал на него; но тот всё переносил терпеливо и старался во всём угодить и успокоить о. Михаила. За это терпение после кончины батюшки Амвросия, о. Михаил — старший летами и иерейским саном — избрал о. Иосифа своим духовником.
Как известно, в Оптинском скиту жил иеромонах Климент Зедергольм (сын немецкого пастора, принявший православие и монашество и бывший преданным учеником и письмоводителем старца Амвросия). Это был человек редкой искренности и высокой, благородной души, аскет и точный исполнитель монашеских правил. Но при этом он обладал крайне горячим характером и чрезмерною чисто немецкою аккуратностью. Как письмоводитель старца, о. Климент имел частые сношения и с его келейниками, которые, по своему простодушию, а часто и по неразвитости, зачастую приводили его в неописуемое волнение. Ни с одним келейником не ладилось дело; о. Климент мучился сам, сокрушался, каялся старцу, смиренно кланялся и просил прощения у келейников за свою несдержанность, но сладить с собой не мог. Но о. Иосиф и здесь вышел победителем. Сам о. Климент говорил: «О. Иосиф единственный человек, на которого я не могу, не умею раздражаться».
Так влияло на всех его неизменно-благодушное и смиренное устроение. Он со всеми был мирен и всех умел умиротворять и смирять своим собственным смирением, кротостью и уступчивостью.
Через три года, 15 апреля ему дали рясофор, и он стал о. Иоанном.
Блажен вступающий в обитель с ясным сознанием и полною готовностью идти неуклонно стезей послушания. Такой ежедневно будет восходить по ступеням совершенствования. С такою готовностью вступил в иноческий чин и юноша Иван. Он глубоко сознавал, что главное основание монашеской жизни есть самоотречение и потому, с первых же шагов, взяв крест послушания, последовал за своим аввой, ведшим его ко Христу.
В 1872 г. 16 июня он был пострижен в монашество с именем Иосифа (в честь преп. Иосифа Многоболезненного, Киево-Печерского). Нечего и говорить, что вообще серьезное его настроение с той поры стало особенно сосредоточенным и глубоким.
Послушание к своему старцу он сохранял полное, без рассуждения; и без его благословения или ведома он никогда ничего не делал.