Сидел он удачно – в 1912 г. в Нарыме Яков Михайлович познакомился со Сталиным. А потом оказался вместе с ним Туруханске. Некоторое время они даже жили в одном доме. Вот как описывает Сталин некоторые детали их совместного со Свердловым быта в туруханской ссылке: «Главным образом мы промышляли тем, что ловили нельму. Большой специальности для этого не требовалось. На охоту тоже ходили. У меня была собака, я её назвал „Яшкой“. Конечно, это было неприятно Свердлову: он Яшка и собака Яшка. Так вот, Свердлов, бывало, после обеда моет ложки и тарелки, а я никогда этого не делал. Поем, поставлю тарелки на пол, собака все вылижет, и все чисто. А тот был чистюля».
Вообще же особых проблем революционеры в царских ссылках не знали. Жили на пособие от правительства, так что могли не работать. А кроме того еще и подкармливались из партийной кассы, составлявшейся из экспроприаций, т. е. грабежей банков, а также из взносов симпатизировавшим им наивных капиталистов, вроде Саввы Морозова.
На 7-й (Апрельской) конференции РСДРП Свердлов впервые лично встретился с Лениным, и начал выполнять для него различные поручения. Потом был избран членом ЦК и возглавил организованный тогда Секретариат ЦК РСДРП, став главным организатором работы по продвижению и расстановке кадров на ключевых постах.
Именно тогда он и получил кличку «Черный дьявол» по цвету кожаной тужурки, которую он никогда не снимал, что стало потом большевистской модой. Впрочем, кожаными у него были еще и галифе, и даже фуражка. Внешне Свердлов был брюнетом с резкими чертами лица и с неожиданно густым могучим басом. «Ничего, – говорил обычно Ленин в затруднительных случаях, – Свердлов скажет это им свердловским басом, и дело уладится…»
В отличие краснобая Троцкого, Свердлов не произносил пафосных речей, не объезжал фронты в роскошных царских вагонах, не давал интервью иностранной прессе, не мелькал на страницах газет. Он всё время оставался как бы в тени. Его интеллигентный внешний облик с неизменным пенсне и бородкой клинышком наводил, скорее, на мысль об университетском профессоре, чем о лидере жестокой партии революционеров. Анатолий Луначарский писал о Свердлове так: «Внутреннего огня в нём, конечно, было много, но внешне это был человек абсолютно ледяной. Когда он был не на трибуне, он говорил неизменно тихим голосом, тихо ходил, все его жесты были медленны». У Свердлова была феноменальная память, его называли «записной книжкой Ленина», он помнил всё и всех.
Когда за большевиками стали охотиться, как за немецкими шпионами, Свердлов лично пришёл к Ленину и организовал его переход на подпольное положение, спрятав возле станции Разлив под Сестрорецком, а сам остался в Петрограде организовывать взятие власти большевиками. На историческом заседании ЦК 10 октября 1917 года, принявшем решение о вооружённом захвате власти, Свердлов являлся председателем и был назначен членом Военно-Революционного Центра, созданного для руководства восстанием. В этом качестве он занялся подбором членов Петроградского Военно-Революционного комитета.
Однако «Черным дьяволом» Свердлова называли, наверное, не только за черную кожаную куртку. Историки приводят данные о его причастности к черной магии. Так, во время ссылки Свердлов приобрел собаку, которую назвал Пес. Пес был бесконечно привязан к своему хозяину и никогда с ним не расставался. В конце 1916-го Пес погиб. Яков Михайлович страшно горевал. И что же он сделал? Попросил местного охотника содрать с трупа своего верного друга шкуру и выделать ее! А потом всюду возил ее с собой. В Кремле эта шкура всегда лежала у кровати Свердлова. Жуткая история, но ведь дело в том, что речь идет о ритуале черной магии. Сохраняя часть трупа, некроманты такими обрядами стараются «притянуть» дух умершего существа к земле, к материальному плану. Не позволить ему уйти в мир иной, чтобы использовать в своих целях.
По предложению Ленина Свердлов как главный кадровик был поставлен председателем ВЦИК Советов рабочих и солдатских депутатов. Он осуществил основную работу по созданию органов советской власти «в центре и на местах. «Иногда казалось, – вспоминал потом Григорий Зиновьев, – что как В. И. Ленин явился в Россию после победы Февральской революции с готовыми политическими чертежами всей революции, так Я. М. Свердлов явился из далекой ссылки с готовыми организационными чертежами всей работы партии и с готовым планом распределения основных групп работников по отраслям работы».
Именно Свердлов открыл первое заседание Учредительного собрания 5 января 1918 года, огласив «Декларацию прав трудящегося и эксплуатируемого народа», в которой Россия провозглашалась республикой. Он был также председателем комиссии по выработке Конституции РСФСР, объявившей в России диктатуру пролетариата.