В начале октября Джугашвили отправили обратно в Батум, а в ноябре с этапом – к месту ссылки через Новороссийск, Ростов-на-Дону, Самару и Челябинск. До Новороссийска ссыльных везли пароходом, а оттуда – поездом, в арестантском вагоне. Так Иосиф впервые увидел российские просторы – Поволжье, Урал. Товарищи снабдили Джугашвили деньгами на дорогу и провизией. Только в Батуме он получил 10 рублей. Еще какая-то сумма денег была выслана в Ростов. Уже на Урале ссыльных встретила суровая зима, а в Сибири морозы доходили до 30 градусов. Для выросших в субтропиках грузин это была настоящая трагедия.
Местом ссылки Джугашвили было определено селение Новая Уда, находившееся в 70 верстах от уездного центра Балаганска и в 120 верстах от ближайшей железнодорожной станции Тыреть. Иосиф не собирался задерживаться в этой глухомани. Обстоятельства его побега темны и не прояснены по сей день. Неизвестно также, один раз или дважды бежал Сталин из Новой Уды. Успешный побег датируют 5 января 1904 года, неуспешный (если он был) – ноябрем или декабрем 1903 года.
Находившийся в ссылке в Балаганске Абрам Гусинский оставил нам описание своей встречи со знаменитым беглецом: «Ночью зимой 1903 г. в трескучий мороз, больше 30 градусов по Реомюру (т. е. больше 37 градусов по шкале Цельсия, так как один градус Реомюра равен пяти четвертым градуса по шкале Цельсия. –
Джугашвили благополучно добрался до Тифлиса во второй половине января 1904 года. Здесь он познакомился с социал-демократом Львом Борисовичем Розенфельдом, более известным в дальнейшем под псевдонимом Каменев, который устроил ему убежище на квартире рабочего Морочкова. В дальнейшем Сосо отблагодарил Льва за эту услугу по-царски – пулей в затылок (пулю эту затем хранил у себя «железный нарком» Ежов, пока не отправился вслед за Каменевым).
Многие из прежних товарищей были к тому времени арестованы и сосланы. Одним из немногих уцелевших был Миха Бочаридзе, на квартире у которого Джугашвили познакомился в тот приезд со своим будущим тестем рабочим Сергеем Яковлевичем Аллилуевым. Вскоре Сосо, опасаясь полиции, перебрался в Батум. Но в местном комитете РСДРП теперь преобладали меньшевики, которые не горели желанием сотрудничать с радикально настроенным однопартийцем. Кроме того, они распустили слухи, что Сосо – провокатор. Спустя месяц Сталин вынужден был покинуть Батум. Как писал в мемуарах, опубликованных в 1937 году в сборнике о Батумской демонстрации, Доментий Вадачкория, товарищ Сталина по батумскому подполью, Коба, по его собственным словам, «сфабриковал удостоверение на имя агента при одном из сибирских исправников». Это давало основания недоброжелателям подозревать, что «великий вождь и учитель» действительно был полицейским агентом, ибо непонятно, как он мог изготовить удостоверение секретного агента настолько хорошо, что оно не вызвало сомнений у полицейских и жандармов, один из которых будто бы даже по указанию Сталина арестовал следившего за ним полицейского шпика. Этот рассказ также мог укрепить подозрения в провокации. Тем более, что побег из Сибири до Кавказа стоил не меньше 100 рублей, и неизвестно, кто дал Джугашвили такие деньги и снабдил его необходимыми документами, в том числе, быть может, и агентским удостоверением. А в Батум Сосо добрался гол как сокол, раз просил товарищей о вспомоществовании в размере жалких полутора рублей, в чем ему было отказано.
Однако 1 марта 1904 года в Батуме состоялась очередная демонстрация, после которой был арестован почти весь социал-демократический комитет. Новый комитет был настроен к Джугашвили гораздо лояльнее, и он вернулся в Батум, но 18 апреля, заболев, уехал в Гори, а потом перебрался в Тифлис.