В 1923 г. КПК решила создать революционный единый фронт и помочь Сунь Ятсену реорганизовать Гоминьдан. В течение ряда последующих лет Коминтерн делал главную ставку не на КПК, а на Гоминьдан, представитель которого Чан Кайши во время визита с делегацией в Советскую Россию выступил с левых позиций на заседании Президиума Исполкома Коминтерна, что вызвало одобрение и доверие у руководства Коминтерна.
По приглашению Сунь Ятсена и правительства революционного Гоминьдана СССР в апреле 1924 года направил для создания военной школы делегацию под руководством генерала Павла Павлова, куда входили 50 военных советников. Военная школа Вампу Вампу (Хуанпу) сыграла огромную роль в становлении новой китайской армии, поскольку давала не только военные, но и политические знания. КПК для работы в военной школе Хуанпу направила вернувшегося из Франции Чжоу Эньлая, который возглавил её политический отдел.
Однако после смерти Сунь Ятсена противоречия между КПК и Гоминьданом стали обостряться. 30 мая 1925 г. расправа над участниками демонстрации в Шанхае привела к тому, что КПК хотела выйти из Гоминьдана, однако это предложение Генерального секретаря Чэнь Дусю тогда не было поддержано ВКП (б) и Коминтерном.
Дальнейшие действия КПК определялись на основе резолюции Исполнительного Комитета Коминтерна (ИККИ) "По вопросу о положении в Китае" от 1926 года. В ней практически не учитывалась китайская специфика: наличием в стране огромных масс крестьянства и почти полное отсутствие рабочего класса. В этих условиях установки на завоевание гегемонии пролетариата, аграрную революцию и некапиталистическую перспективу развития Китая выглядели утопией.
В апреле 1927 г., после успеха Северного похода, новый глава Гоминьдана Чан Кайши совершил контрреволюционный переворот, организовав расправу над революционерами, в том числе — коммунистами. КПК ушла в подполье, где в апреле-мае 1927 г. состоялся её V съезд. В августе 1927 г. под руководством Чжоу Эньлая, Чжу Дэ, Хэ Луна, Е Тина и Лю Бочэна в Наньчане было организовано вооруженное восстание. КПК взяла курс на аграрную революцию и организацию новых вооруженных восстаний. В сентябре 1927 г. на границе провинций Хунань и Цзянси под руководством Мао Цзэдуна было организовано восстание “осеннего урожая” и сформирована Красная армия, которая создала там революционную базу Цзинганшань. Против этой базы Гоминьдан предпринял три военных похода.