Но это не сломило волю большевиков к борьбе. Опираясь на передовых рабочих, они восстанавливали свои организации и продолжали революционную работу в массах. В годы войны партийные организации, группы и кружки, по далеко не полным данным, в различное время действовали более чем в 200 городах России. В центре партийной работы в стране стояли Русское бюро ЦК РСДРП, Петербургский и Московский комитеты, которые систематически поддерживали связь с В. И. Лениным и ЦК партии, находившимися за границей. Активное участие в восстановлении и укреплении большевистских организаций на местах принимали большевистские депутаты IV Государственной думы, в том числе и депутаты рабочих Екатеринославской и Харьковской губерний Г. И. Петровский и М. К. Муранов. До своего ареста 2 ноября 1914 г. они объехали ряд городов, где помогли восстановить партийные комитеты и наладить их работу, выступали на рабочих собраниях, разъясняя ленинскую оценку войны. Так, М. К. Муранов в августе 1914 г. в Харькове выступил перед большевиками с докладом о деятельности фракции в IV Государственной думе, решительно разоблачал империалистический характер войны.
В конце 1914 — начале 1915 г. были восстановлены Екатеринославский, Киевский и Харьковский комитеты РСДРП, во второй половине 1915 г. начали работу Макеевский и Луганский комитеты. Совместно с местными большевиками в восстановлении и укреплении партийных организаций на Украине активное участие принимали высланные из Петрограда, Москвы и других городов центра России большевики Я. И. Базанов, С. Ф. Буздалин, Э. И. Квиринг, В. В. Шмидт и другие, а также большевики, прибывшие вместе с эвакуированными предприятиями из Прибалтики и Польши, — К. И. Киркиж, А. П. Люль, С. И. Покко и др.
Одним из первых на Украине уже в октябре 1914 г. был восстановлен Харьковский комитет РСДРП. Харьковским большевикам большую помощь оказывали работник Русского бюро ЦК, путиловец Г. М. Шкапин, а также А. И. Ионов и А. Ф. Ткаченко и другие петроградские большевики, высланные из столицы за революционную работу. Осенью 1914 г. Харьковская партийная организация наладила связь с Петербургским комитетом РСДРП, издала несколько листовок. Деятельность большевиков города активизировалась в первой половине 1915 г. В конце мая состоялось собрание большевиков в с. Бабай, близ Харькова. Для дальнейшей активизации работы оно избрало временное бюро для восстановления разгромленного комитета РСДРП. При его помощи был создан городской комитет, куда вошли Г. П. Баглаенко, Я. И. Базанов, М. Е. Ляхин, А. В. Медведев, М. В. Скобеева. Новоизбранный комитет сумел оживить деятельность организации, ее численность стала возрастать. Уже в начале августа на паровозостроительном заводе, в железнодорожных мастерских, на заводах Гельферих-Саде, Мельгозе, Шиманского, Алексеева-Трепке, на городской электростанции, среди портных, приказчиков, студентов и лиц, высланных в административном порядке из других пролетарских центров, работало 12 партийных групп. Это констатировало и собрание представителей всех партийных групп города, состоявшееся в начале августа. Собрание избрало новый комитет РСДРП в составе Я. И. Базанова, А. В. Емельянова (Сурика), М. Е. Ляхина, А. В. Медведева и др. Осенью в организацию влилась большевистская группа эвакуированного из Риги завода «Всеобщая компания электричества» (ВЭЙ). Она насчитывала около 30 членов, среди которых были К. И. Киркиж, А. П. Люль, К. У. Медутис, С. И. Покко и др. В Харьков прибыли большевики-рабочие заводов «Герлях и Пульст» и Лейтнера, а также эвакуированные из Прибалтики. Это положительно отразилось на росте рядов Харьковской организации. Если в сентябре ее численность не превышала 70 человек, то к концу 1915 г. в организации работало около 100, а осенью 1916 г. — 120 человек. В городе действовали три районных партийных комитета — Петинский, Ивановский и Городской.
В ноябре 1915 г. в Харькове состоялась нелегальная городская партийная конференция. В ее резолюциях подчеркивалась необходимость укрепления нелегальных организаций РСДРП и усиления их массово-политической работы, налаживания связи с центральными органами. Она высказалась за скорейшее создание III, Коммунистического Интернационала. Конференция избрала общегородской комитет (А. В. Емельянов (Сурик), М. Е. Ляхин, А. В. Медведев, С. И. Покко, М. В. Скобеева и др.).