Преподобный Иосиф, в миру Иоанн, родился в 12 ноября 1440 г. от благочестивых родителей Иоанна и Марины близ Волоколамска, в селении Язвище. Селение это было пожаловано великим князем прадеду преподобного, Александру Сане, выехавшему из Литвы в Россию на службу. Семи лет от роду Иоанн отдан был своими родителями в Волоколамскую обитель Воздвижения Честнаго Креста Господня иноку Арсению для обучения грамоте. Возраставший в страхе Божием, отрок учился прилежно и в учении превзошел всех сверстников. В один год изучил он псалмы Давида, на другой же год навык в Божественном Писании, так что мог читать и петь в церкви. Непрестанно поучаясь слову Божию, отрок не принимал никакого участия в играх своих сверстников. Видя, что Иоанн разумен не по летам, люди говорили: «Что будет из сего отрока? Благодать Божия на нем».
Затем Иоанн перешел в обитель Пречистой Богородицы на Возмище. И здесь проводил он благочестивую жизнь, исполняя церковные правила и непрестанно помышляя о тщете суетного жития сего, которое, как он читал в Писании, святые называли тенью, сном и дымом. Видя истину этих слов и помня будущее воздаяние каждому по делам его, Иоанн опечалился; и сбылись на нем пророческие слова:
Расспрашивая об обителях и иноках, Иоанн узнал, что в монастыре святого Саввы пребывал благочестивый старец, по имени Варсонофий. Помолившись, Иоанн дал обещание послушаться совета, какой даст ему сей инок. Придя к нему, Иоанн принял от него благословение и на вопрос, зачем он пришел, сказал: «Научи, отче святый, как мне спастись; желаю я иноческого образа — дай мне полезный совет; ибо дал я обещание пред Богом, что все, что ты мне скажешь, будет мне заповедью от Господа». «Иди с Богом, возлюбленное чадо, — сказал старец, — в Боровск к преподобному игумену Пафнутию, который живет богоугодно, — там ты получишь желаемое».
Придя в Боровский монастырь, Иоанн застал прп. Пафнутия среди трудов. Блаженный старец вместе с другими иноками рубил и носил дрова. Лишь поздно вечером прп. Пафнутий пошел к богослужению. Иоанн припал к ногам старца и умолял принять его в число братии. Тот расспросил об обстоятельствах его жизни и увидел, что он, будучи юн возрастом, весьма разумен, по слову Писания:
Сначала Иосифа отослали в монастырскую поварню и отдали под начало старцу, давно жившему в монастыре, дабы новопостриженный инок научился монашескому житию и вместе с тем потрудился для братии. И заповедали прп. Иосифу повиноваться старцу, как самому святому отцу Пафнутию, заботиться более всего об иноческом житии и предварять работу молитвой, чтобы Господь не оставил его Своей милостью. Прп. Иосиф принял к сердцу эти наставления и соблюдал их. Пребывая в повиновении старцу, он без отдыха работал в поварне, даже не выходя оттуда.
Спустя довольно времени св. Пафнутий, увидев, что Иосиф крепок телом и вынослив в трудах, и перевел его в хлебопекарню. Здесь было много тяжелой работы, потому что хлеб требовался как для братии, так и для богомольцев, странников и нищих, коих св. Пафнутий не только кормил в обители, но и снабжал хлебом на дорогу. Иосиф с любовью принял отчее повеление и усердно исполнял это дело. Вскоре ему было поручено еще более тяжелое послушание — ходить за болящими иноками. И здесь никогда не оставлял он своей кротости и не проявлял нетерпения. Без ропота ухаживал он за больными, утешая их добрым словом и сострадая им, как будто бы сам болел. Памятуя слова Господа: