Впервые его арестовали в декабре 1905 года. Схватили с поличным — прямо за выгрузкой оружия. За шесть неполных месяцев, проведённых в Сухумской тюрьме, — три голодовки. Последняя — особенно упорная. Встревоженные состоянием здоровья девятнадцатилетнего упрямца, друзья на воле собрали значительную сумму денег, чтобы арестанта выпустили на поруки под залог. Прокурор дрогнул, и вот уже выпущенный до суда из тюрьмы арестант спешит из Сухуми в Тифлис. Снова митинги, листовки, собрания нелегальных кружков. И слежка — каждодневная, непрерывная, с угрозой нового ареста. Серго скрывается за границу. В Берлине намеревается поступить в университет, но с Кавказа приходит весть о разгроме большевистских организаций. Молодой революционер возвращается на родину, устраивается фельдшером на нефтяных промыслах в Баку. Через некоторое время он — член восстановленного Бакинского городского комитета. Арест, освобождение, снова арест.
В ноябре 1907 года — новый, четвёртый по счёту арест. Баиловская тюрьма. Та самая, куда вскоре водворят и Сталина. Здесь они встретятся. Впервые? Нет, знакомство состоялось раньше — в июне 1906 года, в тёмной подвальной комнате женского училища, выходившей на бывший Михайловский (позже Плехановский) проспект. Здесь размещалась редакция большевистской газеты «Дро» («Время»), которой руководил Сталин. Следующая их встреча состоялась весной 1907 года в Баку, когда Серго вернулся из Берлина. И вот судьба снова свела их в одной тюремной камере.
В апреле 1908 года Орджоникидзе предстал перед особым присутствием тифлисской судебной палаты, заседавшем в Баку. Приговор был суров — лишение всех прав состояния и вечная ссылка в Сибирь. Но это было ещё не всё. Летом того же года этапным порядком его отправили в Батуми для суда по делу 1905 года, связанным с провозом оружия. Продержав в батумской тюрьме до сентября, власти направили его для суда в Сухуми. Там он получил дополнительно год заключения в крепости.
После отсидки — несколько месяцев пересылки с этапа на этап, из одной пересыльной тюрьмы в другую. Местом поселения Орджоникидзе была назначена деревня Потаскуй Пинчугской волости Енисейской губернии Приангарского края. Тмутаракань, конец света. Три чёрные избы с одной стороны просеки, четыре — с другой. Слева — стан Погорюй, справа — заимка Покукуй. Через два месяца после прибытия к месту вечного поселения Орджоникидзе своими руками сработал челн и рискнул отправиться на нём до глухой даже по сибирским понятиям заимки Дворец, откуда по едва заметной тропинке между двумя трясинами выбрался к первому жилью.
Беглец благополучно прибыл в Баку, а через некоторое время большевистская организация направила его в Персию, где под влиянием революции 1905–1907 годов вспыхнули массовые выступления беднейших слоёв населения. Орджоникидзе возглавил боевую дружину, пришедшую на помощь повстанцам, участвовал в походе революционного отряда, выступившего против шахсеванских вождей. Находясь в Персии, Серго держал тесный контакт с Лениным, с заграничным большевистским центром. Он организовал транспорт заграничной большевистской литературы в Россию через Персию, вёл систематическую переписку с Лениным, постоянно читал его газету «Социал-демократ».
В одном из её номеров прочёл короткое сообщение: в Париже готовится к открытию партийная школа, профессиональные революционеры смогут там пополнить свои теоретические знания. Возвратившись из Персии в Баку, он оттуда уезжает в Париж, где прямо с вокзала направляется на квартиру Ленина.
Орджоникидзе становится вольнослушателем партийной школы в Лонжюмо, близ Парижа. Однако учёбу вскоре пришлось прервать. По заданию Ленина он снова отправляется в Россию с ответственным поручением — провести работу по подготовке и созыву общероссийской партийной конференции. Серго ещё не пересёк границу Франции, а петербургская полиция уже располагала сведениями, что он командирован Лениным с особыми инструкциями в Россию. В Баку за ним была установлена неусыпная слежка, несколько раз он чудом ускользал из умело расставленных полицией сетей, но поручение Ленина выполнил, о чём и доложил ему, возвратившись в Париж. Итогом напряженнейшей работы стала партийная конференция в Праге, делегатом которой от тифлисской большевистской организации был Орджоникидзе. На первом же её заседании он выступил с обширным докладом о работе, проделанной Российской организационной комиссией.