Баку был тогда не только одним из основных центров революционного движения, но и местом, где всевозможные противоречия — классовые, политические, экономические, национальные, религиозные — переплелись в тугом клубке. Одним из наиболее важных обстоятельств был многонациональный состав как населения города, так и бакинских рабочих. Всего их насчитывалось более 50 тысяч. Рабочие-мусульмане были заняты в основном в бурении нефти, в то время как русские и армяне доминировали на более квалифицированных работах — на нефтеперерабатывающем и механическом производстве. Оплата труда здесь, естественно, была выше. Разница в оплате труда совпадала часто с национальными и религиозными различиями, и это вызывало дополнительные трудности в сплочении рабочих для революционной борьбы.
Главная масса рабочего люда жила не в самом Баку, а на его окраинах и даже за городской чертой, там, где добывалась и перегонялась нефть. Лишь в центре города были прямые, широкие улицы с домами на европейский манер. Остальная его часть была совершенно другой: узенькие, кривые, бегущие в гору улочки, низкие, приземистые здания, укрытые за глухими каменными стенами. Доступ за эту стену почти невозможен — его хозяева ревниво стерегли свое жилище от постороннего взгляда.
Уже в первые дни по приезде в Баку Ворошилов с изумлением наблюдал процессию фанатиков мусульман — «шахсей-вахсей». Впереди — ослы, украшенные лентами, затем — группы верховых, в руках у них зеленые знамена. За ними тысячные толпы молящихся: обнаженные спины, заунывные песнопения, и в такт им — удары через плечо плетками, цепями. Всадники с кинжалами в руках в экстазе ударяют кинжалами себя в голову, кровь ручьями течет по лицам… Натолкнуться здесь, в последнем оплоте отступающей революции, на подобную процессию было дико и неожиданно. Но в революционной работе приходилось считаться с наличием самых древних, укоренившихся обычаев этой многонациональной окраины Российской империи. Нужно было уметь найти общий язык с любым рабочим, будь то высококвалифицированный русский пролетарий или вчерашний горец-мусульманин. Местные большевики в совершенстве владели этим искусством, и Ворошилов многому у них научился.
Не следовало забывать, что прогулка по ночным улицам Баку — дело очень небезопасное. В газетах чуть не ежедневно сообщалось, что ночью там-то и там-то, у такого-то дома подобран труп. Убийца чаще всего оставался не найден. Полиция, и та боялась по ночам соваться в окраинные районы, а ведь именно там приходилось жить революционерам. Поэтому Ворошилов не расставался с оружием. Впрочем, наличие револьвера или кинжала у бакинцев тогда считалось обычным делом.
Очень беспокоились о безопасности местные богачи; это и не мудрено при той степени ненависти, которую они возбуждали у рабочих. Для своей охраны они содержали особых телохранителей, так называемых «кочи».
Однако главным назначением «кочи» была расправа с непокорными на промыслах. Тут уж они не стеснялись применять оружие. Подобную перспективу приходилось брать в расчет и Ворошилову.
Большевистский комитет направил его на ответственный и сложный участок — в нефтяной район Биби-Эйбат. Устроившись под чужой фамилией работать котельщиком на заводе фирмы «Олеум», Ворошилов начинает вновь свою революционную деятельность. Большевики на Биби-Эйбате имели твердую опору — летом 1907 года тут действовали 15 большевистских ячеек, насчитывавших 175 членов партии. По тем временам масштабы гигантские. Правда, в конце года часть большевиков была арестована, но с приездом Ворошилова дело оживилось. Были восстановлены связи, стали регулярно собираться ячейки, а в кружках изучали программу партии. Словом, чувствовалась опытная рука партийного организатора из Луганска. Вскоре Ворошилов становится секретарем Союза нефтепромышленных рабочих — самой влиятельной организации бакинских трудящихся.
Одним из основных вопросов, волновавших социал-демократов Баку в начале 1908 года, была подготовка совещания с нефтепромышленниками и выборы Совета уполномоченных для ведения переговоров с ними. В ходе этой важнейшей кампании большевикам приходилось преодолевать сопротивление меньшевиков. В Баку их тогда набралось немало: М. Н. Лурье (Ю. Ларин), С. Вайнштейн (Секерин), Б. Гинзбург (Кольцов), С. Цедербаум (Ежов), П. Мельситов-Вольский. Присланные в Баку меньшевистским руководством, они пытались захватить ведущие позиции как в партийных организациях, так и в профсоюзах. Острые схватки, которые вели с ними в Баку большевики, были частью общепартийной борьбы против ликвидаторства, за сохранение и укрепление боевой революционной марксистской партии. Лидерство в Баку меньшевикам захватить не удалось.