В 1925 году Сунь Ятсен, один из первых демократических лидеров китайского народа, умер. Он завещал своим последователям по гоминьдану сохранять единство с коммунистической партией. Однако, как это часто бывало в истории, заветы лидера партии не были услышаны его последователями. Одним из таких последователей был Чан Кайши, который уже через год после смерти Сунь Ятсена удалил коммунистов от руководства в Гоминьдане. Тем не менее единство фронта все еще сохранялось. Мао продолжал участвовать и в работе организаций коммунистической партии, и в структурах Гоминьдана. В 1927 году он проводит исследование положения крестьян в его родной провинции Хунань и по итогам публикует обширный доклад. В этом докладе он неожиданно высоко оценивает роль крестьян в деле завершения революции. По его словам, 70 % успеха революции зависит от позиции крестьянства, поскольку успех революции в деревне очень важен для победы революции в стране в целом. Вскоре Мао становится членом исполкома Всекитайской крестьянской ассоциации. Эта организация была весьма близка Гоминьдану. В то время — а шел уже 1927 год — Мао продолжает оставаться горячим сторонником сотрудничества коммунистов с Гоминьданом и лично с Чан Кайши.
Но в том же 1927 году Чан Кайши совершает переворот в Шанхае, в результате которого захватывает власть в городе, попутно уничтожая значительную часть местных коммунистов. Спустя несколько месяцев Чан Кайши оформляет окончательный разрыв с коммунистами. Их представителей выдворяют из рядов партии Гоминьдан. Многие активисты коммунистической партии в провинциях подвергаются арестам и репрессиям. Вскоре коммунистам приходится приступить к формированию собственной армии для защиты своих интересов. Основой новой армии должны стать крестьяне.
Положение Мао в ту пору было достаточно шатким, поскольку из рядов Гоминьдана его исключили как коммуниста, а в рядах Коммунистической партии к нему также относились с недоверием как к бывшему стороннику сближения с гоминьдановцами и с Чан Кайши. Тем не менее ему поручили организацию крестьянских восстаний в провинции Хунань. Однако все попытки Мао поднять крестьян на борьбу под флагами Коммунистической партии оканчивались неудачей, а порой приводили к трагедиям и массовой гибели людей. Дело закончилось тем, что осенью 1927 года Мао с небольшой группой крестьян и беглых солдат армии Гоминьдана вынужден был прятаться в горах и вести почти разбойничью жизнь. Его отряд неминуемо должен был погибнуть, но зимой 1928 года на помощь пришел 10-тысячный и хорошо вооруженный отряд коммунистических войск под руководством Чжу Дэ. Впоследствии Чжу Дэ долгое время был соратником Мао и его заместителем на высшем государственном посту.
На основе отрядов Мао и Чжу Дэ формируется 4-й корпус Красной армии Китая. Вскоре на контролируемой войсками красных территории создается советская республика. Мао избирается секретарем Коммунистической партии в сформированной республике. Уже тогда он начинает борьбу за власть над всей партией. Для этого он формирует группу своих сторонников в рядах центрального комитета, которая начинает политическую борьбу против групп других потенциальных партийных лидеров, в том числе и против спасшего его Чжу Дэ.
Начав основание советской республики не с крупного города, а с деревенской провинции, Мао фактически выступил против принципов мирового коммунистического движения того времени. Дело в том, что пролетариат, который теоретики коммунизма считали основой любой революции, составлял в Китае не более 2 % от общего населения страны. Поэтому, сделав ставку на крестьянство, Мао не только учел специфику страны, но и внес свой вклад в теорию и практику мировых революций.
Борьба Мао Цзэдуна за партийную власть происходила на фоне агрессии Японии против Китая, начавшейся в 1931 году, а также так называемого «великого похода» Красной армии Китая на северо-запад страны. Помимо этого, не прекращалось противостояние республики Мао и Чжу Дэ с Гоминьданом.
Армия Чан Кайши предприняла несколько попыток уничтожить враждебную ей коммунистическую республику, но все они окончились неудачей. Во время одного из таких военных конфликтов войска Гоминьдана захватили и казнили жену Мао, Ян Кайхай. Очередная, пятая атака Гоминьдана в 1934 году привела к тому, что Мао со своими войсками и сторонниками, которых на тот момент насчитывалось всего 86 тысяч человек, вынужден был покинуть провинцию Хунань. Это было началом так называемого «великого похода», в ходе которого армия Мао Цзэдуна преодолела 12 тысяч километров и в конце концов оказалась на северо-западе Китая, в провинции Шаньси. К моменту окончания похода, в октябре 1935 года, сторонников Мао оставалось всего 4 тысячи, но тем не менее они представляли собой серьезную силу и смогли создать в Шаньси новую штаб-квартиру партии.