В момент поступления в семинарию Иосифу было всего 14 лет, по своему телосложению он был скорее слабым и тщедушным, но, тем не менее, очень скоро не только одноклассники, но и преподаватели обратили внимание на отличавшее его высокое чувство собственного достоинства, необычное в столь юном возрасте. Возможно, дело было в матери, которая, будучи сама неграмотной, добилась того, что ее сын стал студентом семинарии, и тем самым обеспечила для него лучшее будущее. Ее несокрушимая вера в единственного и несомненно умного сына вселила в него убежденность, возможно, даже с оттенком веры в предопределенность, в том, что он, как «делегат» матери, должен совершить в свой жизни нечто значительное.
Обучение в горийском церковном училище и тифлисской духовной семинарии не могло не сказаться на психическом развитии юноши. Чтение и систематическое заучивание наизусть текстов Ветхого и Нового завета, к которым он питал неподдельный интерес, развило в нем феноменальную память, которая позднее сослужила ему хорошую службу. Изучая эти тексты, он составил себе представление о единственном божественном существе, являющемся носителем неделимой власти и абсолютного знания. Длительное богословское образование привело также к тому, что он усвоил определенные схемы мышления, которые позднее придали стилю и аргументации его литературных трудов столь характерный догматизм и идущее от катехизиса жесткое разделение всего на абсолютные черно-белые категории. Адам Улам называл литературный стиль Сталина «декламаторским, полным повторений и литургических созвучий», что выразилось также и в его манере речи с «типичной схемой повторяющихся вопросов и ответов».
Однако опыт, приобретенный Сталиным за годы пребывания в семинарии, имел и обратное действие — он во все большей степени приводил его к отрицанию религии и связанных с нею обычаев. Этому способствовали не только многочасовые молитвы, казавшиеся ему бессмысленными, но и атмосфера шпионства, доносительства и наказаний за малейшую провинность, насаждаемая монахами, надзиравшими за ним. В то же время этот живой наглядный пример практики закрытого общества, в котором беспрекословное повиновение поддерживается такими методами, как тотальная слежка, стукачество и неумолимое наказание, подпитывало в нем глубокое неприятие любого авторитета, проявившееся у него еще в детстве, как реакция на жестокость отца. Вначале объектами его ненависти были только монахи, затем она распространилась на официальные учреждения сурового царского режима, и, наконец, на трусливую и простодушную массу, готовую безвольно и покорно принимать издевательства авторитарной власти. Вот что написала Светлана Аллилуева об обучении отца в духовной семинарии: «Я убеждена в том, что духовная семинария, где он провел в общей сложности более десяти (sic!) лет, оказала большое влияние на формирование его характера и на всю его дальнейшую жизнь. Ош развила и усилила его врожденные свойства. Религиозного чувства у него никогда не было. У молодого человека, который ни минуты не верил в духовное, не верил в Бога, бесконечные молитвы и навязанная дисциплина могли привести только к противоположному результату… Семинарский опыт внушил ему, что люди нетерпимы и грубы, что духовные пастыри обманывают свою паству, для того чтобы крепче держать ее в руках, что они занимаются интригами, лгут и что у них очень много других пороков, но очень мало достоинств».
В годы обучения в горийской школе он был жизнерадостным, открытым и компанейским мальчиком, но уже в первые семинарские годы заметно изменился. Он производил впечатление скорее замкнутого и погруженного в себя человека, быстро научился непроницаемой завесой скрывать свои мысли и чувства от окружающих — качество, позднее ставшее определяющим элементом его тактики и позволявшее скрывать от ничего не подозревавших собеседников свою коварную и лживую сущность, свою полную эмоциональную холодность и жестокую ненависть.
Чем-то вроде игры в тайное сопротивление и способа выразить свой протест стало для него увлечение книгами, чтение которых официально не одобрялось или вовсе было запрещено. В семинарию контрабандой проносили не только произведения русских классиков, но и политические издания, обладавшие определенной подрывной силой, например, книги об эволюционной теории Дарвина или «Капитал» Маркса. Овладев этими, казавшимися ему научными, основами, он взялся за организацию социалистического кружка, в который вошли несколько его однокашников, в том числе и уже ранее цитированный нами Иремашвили. Основные идеи марксизма, в особенности неизбежность классовой борьбы, целью которой является уничтожение стяжательского, несправедливого и прогнившего буржуазного общества, показались ему озарением и указали ему путь к реализации переполнявших его чувства ненависти, тяги к разрушению и жажды мести. Сделав, по выражению Роберта Такера, «своих врагов врагами истории», он смог легитимировать свою ненависть ко всякой власти вообще.