Одна монахиня, всей душой преданная старцу Амвросию и без его благословения ничего не делавшая в повседневной своей жизни, просила раз у него благословения сходить в гости к одной из живших в оптинской гостинице, так как её приглашала. Старец сказал: «Нет не надо, не ходи». Прошло много времени; другая из живших тоже позвала к себе эту монахиню. Та, помня, что старец в тот раз не благословил её, решила в душе не ходить и к этой, но, по привычке обо всём спрашивать, вызвала о. Иосифа и просила его передать старцу, что её зовёт в гости такая-то. О. Иосиф, не дослушав её до конца, сказал: «Ну что же, сходи, сходи, проведай её». Монахиня сильно смутилась этим ответом. Во-первых, она не спрашивала о. Иосифа, а только лишь просила передать её вопросы старцу, а во-вторых, ответ его совершенно расходился с мнением старца о. Амвросия. О. Иосиф прошел в нижнюю хибарку, а монахиня в смущении дожидалась его возвращения, как вдруг вышел на общее благословение сам старец. Увидя смущенное лицо монахини, старец спросил её: «Что ты такая стоишь?» Не желая при всех объяснять причину своего смущения, монахиня сказала: «Батюшка, вот N. зовёт меня к себе». «Ну что ж, сходи, сходи, проведай её», — ответил смеясь старец, буквально теми же словами. При этом монахиня заметила, что старец пристально и с улыбкой на кого-то смотрит. Оказалось, что сзади стоял о. Иосиф и тоже улыбался… Монахиня была поражена этим случаем и с тех пор уверовала, что в о. Иосифе жил тот же дух благодати, что и в его учителе.
Так старец постепенно подготовлял его к старческому служению, уча его и словом, и собственным примером. Он любил его и доверял ему во всём, называя его своей правой рукой, и в течении 30 лет, до самого своего отъезда в Шамордино, никогда не разлучался с ним. Надо было видеть, какою радостью и любовью светилось лицо изморенного старца, когда кто-нибудь из духовных детей рассказывал ему про о. Иосифа, как он хорошо сказал, успокоил, какой он смиренный, добрый… Иной раз, во избежание преждевременной молвы, старец говорил: «Подожди, молчи пока об этом», а иной раз сам напоминал: «Помнишь, о. Иосиф ведь правду тебе сказал». Так для его любящего отеческого сердца это было утешением и отрадой, — в этом он видел зарю нового светильника… Незаметно для самого о. Иосифа, старец старался несколько приоткрыть его и показать духовные сокровища этого избранника Божьего.
Однажды две монахини привезли показать старцу, написанную одною из них, икону Божией Матери. После они сознавались, что согласились вместе искусить старца и, показав ему икону спросили: «А, что батюшка, похожа она на Царицу Небесную?»
Старец на это серьёзно ответил: «Об этом нужно спросить о. Иосифа» — и при этом позвонил. Вошел о. Иосиф, и старец говорит ему: «Вот сажи им, похож ли этот лик на Царицу Небесную». О. Иосиф улыбнулся своей ангельской улыбкой и смиренно опустил глаза. Старец отпустил его. В другой раз, одна монахиня, беседуя со старцем спросила, какая была Матерь Божия в последние годы Своей жизни. Старец сказал ей: «Ты сходи к о. Иосифу и спроси у него, какова была Матерь Божия, когда ей было 60 лет». О. Иосиф, конечно, по смирению своему, сказал, что ничего не знает. Этими поступками старец несомненно хотел показать, что о. Иосиф был сподоблен небесного видения.Как-то одна из относившихся, по благословению старца, к о. Иосифу, видя его слабое здоровье, с тревогой сказала батюшке о. Амвросию: «Вот, если батюшка Иосиф будет старцем, то, пожалуй, такой же, как и вы, будет болезненный и слабый?» «Ну, что же, ничего, зато смиренный будет», — ответил старец и прибавил: «К о. Иосифу все мои немощи перешли».
В этих словах, с одной стороны высказывалось великое смирение старца Амвросия, считавшего себя лишь немощным сосудом, а с другой, — это служило подтверждением того, что о. Иосиф — будущий носитель благодати старчества.Жил при Оптиной Пустыни один прозорливый старец — о. Пахомий, блаженный. Он очень любил о. Иосифа; и когда тот был ещё простым монахом, о. Пахомий всякий раз, как с ним встретится, непременно попросит у него благословение. «Отец Пахомий, да я не иеромонах», — улыбнётся ему о. Иосиф. «Удивляюсь, — ответил Пахомий. — отец Иосиф всё равно что отец Абросим» (то есть старец Амвросий).
Одна раба Божия — юродивая, была у старца о. Амвросия, и увидя о. Иосифа сказала ему: «Вот было у одного старца два келейника; один из них и остался на его месте».