В условиях жестокого колониального режима легальная деятельность индийских коммунистов была крайне затруднена. В 1922–1923 гг. власти организовали так называемые Пешаварские процессы над возвратившимися в Индию мухаджирами, принимавшими участие в работе эмигрантских революционных центров. В 1924 г. в Канпуре прошел первый процесс коммунистов, на котором к тюремному заключению были приговорены руководители марксистских групп Ш. Данге, Музаф-фар Ахмад, Ш. Усмани и др. Индийским коммунистам предъявлялось обвинение в действиях как «большевистским агентам». Несмотря на репрессии, английской секретной службе не удалось подавить коммунистическое движение в стране: в 1924–1925 гг. марксистские группы, напротив, усилили свою активность.
В сентябре 1924 г. канпурский журналист Сатья Бхакта объявил о создании легальной «Индийской коммунистической партии». Поскольку партия, как это подчеркивалось в заявлении ее руководителей, не была связана с Коминтерном и другими зарубежными революционными центрами, власти терпимо отнеслись к факту ее создания. Хотя основанная Сатья Бхактой партия и не стала притягательным центром для индийских коммунистов, он продолжал подготовку к объединению отдельных групп индийских марксистов. Был создан Оргкомитет по подготовке объединительной конференции во главе с левым конгрессистом Хозратом Мохани. В результате в Канпуре с 28 по 30 декабря 1925 г. была проведена под председательством мадрасского коммуниста М. Сингаравеллу Четтиара первая конференция индийских коммунистов, на которой было принято решение об образовании Коммунистической партии Индии с центрам в Бомбее. В избранный Центральный Исполком, секретарями которого стали Дж. Бегерхотта и С. В. Гхате, вошли представители всех основных коммунистических групп в Индии.
Внутри компартии развернулась борьба по вопросу ее отношений с Коминтерном. Сатья Бхакта выступал за то, чтобы Компартия Индии сохранила свой «национальный характер» и не устанавливала каких-либо связей с Коминтерном. На второй конференции компартии, происходившей в Калькутте в 1926 г., эта точка зрения не была поддержана большинством делегатов, и Сатья Бхакта, выйдя из партии, основал «Национальную компартию Индии» — по существу организацию революционных демократов.
Хотя Компартия Индии, в целях сохранения возможностей легальной работы, и не стала в этот период секцией Коминтерна, ее связи с международным революционным движением укреплялись. Этому способствовали контакты с Коммунистической партией Великобритании, которой по решению Исполкома Коминтерна было поручено вести работу с индийскими коммунистами. В 1925–1928 гг. Индию посетили делегации английских коммунистов. Компартия Индии нацеливалась на создание массовой революционной организации и создание антиимпериалистического блока.
Находившаяся в эмиграции группа индийских коммунистов во главе с М. Н. Роем стала с 1924 г. функционировать как Заграничное бюро КПИ, что было отражено в Уставе партии, принятом на третьей конференции в 1927 г. в Бомбее.
Образование Компартии Индии означало новый этап в коммунистическом движении в стране, совпавший с оживлением экономической борьбы рабочего класса и развертыванием деятельности профсоюзов.
Спад массовой антиимпериалистической борьбы, наступивший в 1922 г., сказался на рабочем движении. В последующие годы сократилось как количество стачек, так и численность участвовавших в них рабочих. В то же время сами забастовки стали лучше организованными, более длительными и упорными. Особенно остро забастовочная борьба развернулась в 1924 и 1925 гг., когда было соответственно потеряно 8,7 и 12,5 млн. рабочих дней (против 3,9 млн. в 1922 г., 1 млн. в 1926 г. и 2 млн. в 1927 г.). Стачки, как правило, носили оборонительный характер. Они были направлены против сокращения заработной платы, удлинения рабочего дня и т. д. Наиболее крупными выступлениями рабочего класса в 1924 и 1925 гг. были всеобщие стачки бомбейских текстильщиков, а в 1926 и 1927 гг. забастовки железнодорожников. В эти годы бомбейский пролетариат стал авангардом рабочего движения Индии.
В условиях наступления предпринимателей и поддерживавшей их колониальной администрации, принявшей в 1926 г. специальный Закон о профсоюзах, устанавливавший правительственный контроль над деятельностью рабочих организаций, значительная часть стачек закончилась поражением рабочих. Это во многом объяснялось национал-реформистским руководством профсоюзами.
За годы, прошедшие после спада революционного подъема 1918–1922 гг., наблюдался рост профсоюзов, укрепление их организации. Правда, расширение профсоюзного движения происходило главным образом за счет служащих и промышленных рабочих Бомбея. В 1926 г. в Индии насчитывалось около 200 профсоюзов, объединявших около 300 тыс. человек. Из них 57 союзов с общим числом членов 125 тыс. входило во Всеиндийский конгресс профсоюзов (ВИКП).