В 1898 году попытка марксистов создать русскую социал-демократическую партию не увенчалась успехом, однако в 1900 году их стремление получило новый мощный толчок после возвращения Ленина из трехлетней сибирской ссылки. В конце 1900 года в Германии вышел в свет первый номер нелегальной газеты «Искра», систематически переправлявшейся в Россию.
Эта газета полностью оправдала свое название, сыграв немалую роль в формировании революционного движения в России. Она стала связующим звеном между русскими социалистами внутри страны и за ее пределами и действенным инструментом подготовки революции. Для Иосифа Джугашвили «Искра» была путеводной звездой, и он успешно шел по пути, указываемому ею, и в своей пропагандистской деятельности, и в дискуссии с социалистами-аграрниками, «легальными» марксистами и «экономистами».
В течение нескольких месяцев после исключения из тифлисской семинарии Иосиф Джугашвили не имел ни постоянной крыши над головой, ни работы. Некоторое время он провел у матери в Гори, но вскоре возвратился в Тифлис. Здесь он зарабатывал на жизнь вначале уроками, а к концу 1899 года получил низкооплачиваемое место в тифлисской обсерватории. Эта работа давала немалое преимущество, поскольку теперь у него была своя комната, где он мог время от времени встречаться с единомышленниками, не привлекая к себе лишнего внимания. При этом ему очень пригодился его талант конспиратора, приобретенный еще в семинарии, и волны арестов, жертвами которых в последующие месяцы стали многие члены «Месаме-даси», его не затронули.
В 1900 году около пятисот тифлисских рабочих под руководством Джугашвили предприняли первую попытку широкомасштабно отметить первомайский праздник в отдаленном пригороде Тифлиса и заранее приступили к соответствующей подготовке. Но осуществить задуманное не удалось, поскольку у «охранки» (тайная политическая полиция, созданная в 1881 г. после убийства царя Александра II) возникли подозрения, и главные зачинщики были арестованы. Однако Джугашвили и на этот раз избежал ареста. Правда, в его кабинете в обсерватории был произведен обыск, свидетельствовавший о том, что полиции стало известно о его тайной деятельности. Это вынудило Джугашвили прекратить легальную деятельность и скрываться под различными именами. Из подполья он вышел лишь в 1917 году.
В это время Джугашвили писал статьи для газеты «Брдзола» («Борьба»), первый номер которой вышел в Тифлисе в сентябре 1901 года на грузинском языке. Анализ этих статей позволяет выявить неожиданное, но весьма характерное обстоятельство: в аргументации автора, которому исполнился всего двадцать один год, уже, несомненно, был виден будущий большевик. Кроме того, Джугашвили в то время принимал участие в тайных собраниях, уличных демонстрациях, организации забастовок и прочих подобных мероприятиях.
В ноябре 1901 года он был избран действительным членом тифлисского комитета социал-демократической партии и вскоре переселился в Батум, где был необходим деловой организатор-социалист. В Батуме Джугашвили взял в качестве партийной клички грузинское имя «Коба», что означает «несгибаемый». Это имя он носил около двенадцати лет, пока наконец Коба не превратился в Сталина.
Энергичность Кобы очень скоро проявилась в Батуме в форме создания новых социал-демократических организаций на местных фабриках, постоянных забастовок и частых уличных демонстраций. Одна из таких демонстраций закончилась перестрелкой, в результате чего пролилось много крови. 5 апреля 1902 года Коба был арестован во время заседания партийного комитета и помещен в местную тюрьму.
Автору было трудно удержаться от соблазна и в связи с упоминанием об аресте Кобы поведать кое-что о темных сторонах организации тюремного дела в царской России. Однако сознание того, что в нашем веке в области прав человека происходят вещи, отодвигающие грехи царской России далеко в тень, удержало его от подобных высказываний. Об этом свидетельствует факт, что Коба, будучи «политическим» заключенным, в отличие от «уголовных» преступников, находился на привилегированном положении, что в значительной степени облегчало ему и его товарищам по несчастью пребывание в тюрьме, тем более, что заключенные, отбывающие срок за аналогичные преступления, как правило, не были отделены друг от друга. Это открывало простор для оживленных политических дискуссий. Так, товарищ Кобы, находившийся в тюрьме вместе с ним, много лет спустя все еще вспоминал, какую острую полемику тот вел с социалистами-аграрниками и противниками «Искры» и какой хорошей школой это оказалось впоследствии. Согласно другому источнику, заключенные батумской тюрьмы так же не любили Кобу из-за его заносчивости, нетерпимости и склонности к интригам, как и учащиеся тифлисской семинарии.