Девяти лет он поступил в Архангельское приходское училище, но учение давалось ему, к его большому огорчению, с трудом. Но раз после ночной горячей молитвы точно завеса спала с его очей, по его собственному выражению, и с тех пор он начал хорошо учиться. Школу он кончил хорошо, перешел в семинарию и, в числе лучших учеников, поступил в Петербургскую Духовную академию.
В это время умер его отец, и мать его осталась без средств. Тогда он стал по ночам заниматься перепиской, и заработанные им 9 рублей в месяц посылал ей. Одно время у него была мысль принять монашество и отправиться миссионером в Китай. Но скоро он понял, что Петербург не менее нуждается в духовном просвещении, чем далекие языческие страны.
В 1855 г., когда он окончил курс Духовной академии, открылось священническое место в кронштадтском Андреевском соборе. Молодой студент женился тогда, почти против своей воли, на дочери ушедшего на покой священника этого собора, Елисавете Константиновне Несвицкой, и принял его место. Когда после рукоположения он вошел впервые в этот собор, то был поражен тем, что видел его во сне еще в семинарии.
Став священником, о. Иоанн прежде всего стал строго относиться к своему делу пастырства и священнослужения. Он начал с того, что стал внимательно читать Ветхий и Новый Заветы и вести дневник о своей внутренней жизни и духовной борьбе. Литургию он служил ежедневно и ежедневно читал каноны дневным святым, продолжая так делать до конца своей жизни. Проповеди он произносил каждое воскресенье и в праздники. Внутренне он молился каждую свободную минуту.
В это время в Кронштадте было много бедноты, тем более что туда высылались пьяницы и бродяги из Петербурга. О. Иоанн жалел их и их семьи, посещал их, помогал им, чем мог, постоянно раздавая им свое жалованье, ходил для них за доктором, в лавку и аптеку, так что жалованье стали выдавать не ему, а его жене. Кончилось тем, что эти несчастные люди, огрубелые и ожесточенные, сначала относившиеся к нему недоверчиво, горячо полюбили его, и он наставлял их, а они постепенно начинали исправляться. Только жалованье свое как законоучителя местного реального училища он считал своим и раздавал его беднякам.
Законоучителем он был особенным. Дети любили его за его доброту и ласковость и радостно ждали его уроков. Впрочем, это даже не были обыкновенные уроки, а увлекательные беседы. Он умел пробуждать у детей живую веру, и уроки эти запоминались на всю жизнь. Неуспевающих у него не было; на педагогических советах он всегда заступался за детей.
Так прошло 15 лет. К этому времени ясна уже стала Божия помощь о. Иоанну в его деле помощи ближним, и когда он решился, ради более существенной помощи им, основать в Кронштадте Дом трудолюбия, многие откликнулись на его призыв помочь ему в этом великом деле.
В течение 1882 г. Дом трудолюбия был открыт. В нем была собственная церковь, школа, детский сад и приют; воскресная школа для взрослых, разные мастерские, бесплатная амбулатория, призрение бедных женщин, ночлежный приют, классы ручного труда, народные чтения, дешевая столовая, где по праздникам выдавалось до 800 бесплатных обедов.
В 1882 г. был основан странноприимный дом, куда к батюшке стали стекаться со всех сторон богомольцы с просьбой молитв и помощи. На берегу залива была устроена, по инициативе и при поддержке батюшки, спасательная станция. К этому времени через руки его проходили уже сотни тысяч рублей, а он сам как жил, так и умер бедняком, ничего для себя не оставив. Но не только помогал он материально нуждающимся, но и вразумлял и наставлял грешников и молился об исцелении болящих. Святой своей жизнью и непрестанной молитвой он достиг дара исцелений и прозорливости. Сам он рассказывал об этом так «Я не решался бы на такое святое дело, если бы не был призван к нему свыше».
Дело было так: «У меня и тогда уже была привычка никому в просьбе не отказывать. У меня кто-то в Кронштадте заболел. Я стал молиться, передавая болящего в руки Божий, прося у Господа исполнения над болящим Его святой воли. Но вот приходит ко мне одна старушка, родом костромичка, которую я давно знал. Она была глубоко верующая женщина, по-христиански и в страхе Божием кончившая свое земное существование. Приходит она ко мне и настойчиво просит, чтобы я не иначе молился о болящем как об его выздоровлении. Помню, я тогда почти испугался: как я могу, думалось мне, иметь такое дерзновение? Однако старушка твердо верила в силу моей молитвы. Тогда я исповедал перед Господом свое ничтожество и греховность, увидел волю Божию во всем этом и стал просить для болящего исцеления. И Господь послал ему милость Свою — он выздоровел. В другой раз по моей молитве исцеление опять совершилось. Я тогда из этих двух случаев прямо уже усмотрел волю Божию, новое себе послушание от Бога — молиться за тех, кто будет этого просить. И теперь я и сам не знаю, и другие передают, что исцеления по моей молитве совершаются».