Сидевший вместе с Иосифом Джугашвили в бакинской Баиловской тюрьме эсер Семен Верещак писал впоследствии, что у Кобы всегда в руках была книга. Он приводит эпизод, когда каждого из политзаключенных узников этой тюрьмы наказали тридцатью двумя шпицрутенами за то, что те выразили свой протест против суровых условий заключения, но Сталин сорвал экзекуцию тем, что шел сквозь строй с раскрытой книгой, невозмутимо читая. «Казалось, – писал Верещак, – что если проткнуть его голову, то из нее, как из газового резервуара, с шумом полетит весь «Капитал» Карла Маркса. Марксизм был его стихией, в нем он был непобедим… Вообще же в Закавказье Коба слыл как второй Ленин. Он считался лучшим знатоком марксизма». И, действительно, в своих ранних работах И.В. Сталин широко цитирует такие труды Маркса и Энгельса, как «Анти-Дюринг», «Людвиг Фейербах и конец классической немецкой философии», «Манифест Коммунистической партии», «Критика Готской программы», «Восемнадцатое брюмера Луи Бонапарта», «Классовая борьба во Франции», «Гражданская война во Франции», «Нищета философии», «Революция и контрреволюция в Германии», «Недавний процесс в Кельне», «Происхождение семьи, частной собственности и государства»…
В 1936 году большевик Иван Голубев написал воспоминания о Сольвычегодской ссылке, которые так и не были напечатаны, но хранились в сталинском фонде Центрального партархива: «Мы получали довольно много художественной литературы, журналов и газет: «Русские ведомости», «Русское слово» или «Утро России», «Киевскую мысль», доставляли и «Новое время». Журналы «Новый мир», «Русское богатство», «Вестник Европы». Сборник «Знание», а, как известно, в «Знании» печатались М. Горький, Л. Андреев, Скиталец, Бунин, Гусев-Оренбургский и др. ».
Все эти издания внимательно изучались И.В. Сталиным. Он проводил своеобразные семинары-политзанятия для ссыльных. Коба, по воспоминаниям Голубева, с увлечением читал исторические книги, в частности Ключевского. Поражал Коба своей осведомленностью и в вопросах художественного творчества: «Он много рассказывал о том, как работали над своими произведениями Пушкин и Толстой, собирая и изучая материал».
В опубликованных после смерти И.В. Сталина мемуарах (Рассказы о жизни. Воспоминания. М. 1968. Кн. 1. С. 247), К.Е. Ворошилов писал, что, когда он впервые встретился с Джугашвили (и жил с ним в одной комнате) в 1906 году на съезде партии в Стокгольме, молодой Коба мог на память цитировать отрывки из многих литературных произведений…
Будучи превосходным публицистом, И.В. Сталин нередко в своих статьях использует образы героев мировой литературы. Так, в его статьях и речах встречается шекспировский Гамлет, который не вызывает у И.В. Сталина симпатии, так как является олицетворением «рефлексирующего субъекта». Другой образ – сервантесовский Дон Кихот: для И.В.Сталина – это олицетворение человека, оторванного от жизни, сражающегося с ветряными мельницами. Драмы Ибсена, которые были достаточно популярны в России, также не прошли мимо внимания И.В. Сталина. В 20-е годы вождь увлекается Бретом Гартом и советует читать его ответработникам золотопромышленности. В те же годы во время беседы с иностранными рабочими делегациями, вождь, отвечая на 10-й вопрос, говорит: «Мое отношение к оппозиции и к ее агентуре в Германии таково же, каково отношение известного французского романиста Альфонса Додэ к Тартарену из Тараскона.
В 30-е годы И.В. Сталин знакомится с произведениями Ф. Шиллера, О.Бальзака, Ги де Мопассана, с современной испанской литературой, чем буквально покоряет писателей-антифашистов Рафаэля Альберти и Марию Терезу Леон. Переводчица И.В. Сталина вспоминает, что «беседа во время приема шла не только о политике, она коснулась также задач испанской интеллигенции. В этой части беседы товарищ Сталин обнаружил такое основательное знакомство с современной испанской литературой, что гости были просто ошеломлены».