После увольнения из мастерских Калинин пытается устроиться на завод Яралова, ищет работу на других предприятиях, стремится добиться разрешения на выезд из Тифлиса, чтобы поселиться поближе к Петербургу. Однако полиция пока не выпускает его: она продолжает собирать улики против организаторов забастовки железнодорожников. 23 декабря 1900 года Калинин вместе с другими членами социал-демократического кружка железнодорожных мастерских подвергается аресту. Его заточают в одиночную камеру печально знаменитого Метехского замка, слывшего местом жестокого тюремного режима. Было предъявлено обвинение в том, что, примкнув к тифлисскому социалистическому кружку, Калинин принимал участие в «преступной пропаганде» среди рабочего населения, знакомил ремесленников с подпольной литературой и оказывал «главарям сообщества» содействие в сближении с мастеровыми. Однако прямых улик для подтверждения обвинения у полиции не было. После двух месяцев заключения Калинина освободили. «Дело» о причастности его к событиям в мастерских было «закрыто». Полученные полицией косвенные данные о связях Калинина с Курнатовским и грузинскими социал-демократами, находившимися под арестом, пока еще не давали возможности возбудить против него новое «дело», но ускорили принятие решения о высылке Калинина из Тифлиса в целях изоляции от закавказских революционеров. Калинин получил разрешение на жительство в Ревеле (Таллине).
В феврале 1901 года Калинин вышел из Метехской тюрьмы, в марте выехал из Тифлиса, а в апреле приехал в Ревель. По дороге в Прибалтику ему удалось заехать в Петербург и встретиться с товарищами по подполью, получить от них явки к ревельским социал-демократам. В Петербурге он воочию убедился, что революционное детище путиловских социал-демократов — нарвская центральная группа продолжает жить и бороться, что она по-прежнему верна ленинской линии на развитие классовой борьбы пролетариата. Свою верность этой линии нарвская группа подтвердила тем, что с выходом в свет ленинской «Искры» без колебаний заняла позицию первой общероссийской марксистской газеты.
Ленинская «Искра» взяла курс на идейное и организационное сплочение местных социал-демократических организаций, на разгром оппортунизма и победу революционного марксистского направления в РСДРП, осуществление ленинского плана строительства в России боевой марксистской партии — партии нового типа. Через Петербургский комитет РСДРП с редакцией «Искры» вскоре установил связь и М. И. Калинин.
По прибытии в Ревель Калинин должен был зарегистрироваться в полиции. Началась новая полоса гласного полицейского надзора. Но у Калинина имелся уже немалый опыт нелегальной революционной работы. Он искусно пользовался различными способами конспирации.
В Ревеле Калинину не сразу удается устроиться на работу. Несколько дней он живет в доме одного эстонского рабочего, адрес которого получил в Тифлисе. Через некоторое время находит политического ссыльного Карла Сякка, питерского рабочего, эстонца по национальности, и с его помощью поступает токарем на машиностроительный завод «Вольта». Несмотря на сложные условия работы и незнание эстонского языка, Калинин исподволь начинает группировать вокруг себя рабочих. Указывая на моменты, затруднявшие развертывание революционной работы, он писал: «Работа на заводе мне показалась труднее в Ревеле, чем в Петербурге и в других городах. Она производилась десять часов, с часовым перерывом на обед, буквально не отрываясь. Общения между рабочими во время работы не было; на обед же мастерские закрывались, и потому знакомиться с рабочими было довольно затруднительно… На заводе из русских я был один».[28] С помощью эстонцев, знавших русский язык, русский токарь нашел пути к сердцам ревельских рабочих, стал в их среде своим человеком. Он втягивал рабочих в разговоры на политические темы, некоторым из них давал нелегальную литературу, поясняя при этом, что такие книги «дают большую силу человеку — окрыляют его». Рабочий-вольтовец П. Карилайд в воспоминаниях пишет: «М. И. Калинин сразу заслужил репутацию хорошего работника. Он очень быстро стал своим и подружился со всеми, несмотря на то, что не знал эстонского языка, а мы тогда плохо понимали русский».[29]
М. И. Калинину суждено было сыграть немалую роль в истории социал-демократических организаций Эстонии. Задача создания боевой нелегальной организации требовала соединить в единое русло все разрозненные революционные ручейки — местных социал-демократов, политических ссыльных, передовых рабочих разных национальностей. Только объединенными усилиями можно было продвинуть вперед дело политического просвещения масс, их организации.