За два с половиной месяца, проведенные в Шаньси, коммунисты ни разу не приблизились к японцам ближе чем на триста пятьдесят километров. Зато они вступали в периодические мелкие стычки с гоминьдановцами. В узкой полосе вдоль реки экспедиция экспроприировала у землевладельцев около трехсот тысяч серебряных долларов и завербовала восемь тысяч новобранцев, половина которых были местными крестьянами, а другая половина состояла из военнопленных. Общая численность армии возросла до двадцати тысяч, то есть примерно до той же цифры, что была годом ранее. И все же она могла бы стать намного больше, если бы не раскол в руководстве партии. Ирония заключалась в том, что, пока КПК вела довольно успешные переговоры о создании единого фронта с Чжан Сюэляном, ее собственные вооруженные силы оставались крайне разобщенными. Большая часть Красной армии вместе с Чжан Готао находилась в Сычуани.
Однако первые признаки перемен чувствовались уже и там. В ходе политических конференций 4-й армии, прошедших в первые после разъединения недели, Чжан добивался «исключения» из партии Мао Цзэдуна, Чжоу Эньлая, Бо Гу и Чжан Вэньтяня. С его подачи избрали новый «Центральный Комитет, новое «Политбюро», а сам он стал «Генеральным секретарем». Руководству КПК в Шэньси направили требование «заменить фальшивое звание центра» на более скромное «северное бюро партии».
Мао же, напротив, действовал с величайшим благоразумием. Еще в Эцзе, на следующий день после раскола, он категорически воспротивился предложению исключить Чжан Готао из партии. Хотя принятая там резолюция и расценила поведение Чжана как «преступление против армии», обвинив его самого в «правом оппортунизме и склонности к милитаристским замашкам», опубликована она не была. По окончании Великого похода Мао стал председателем северо-западного бюро Военного совета (и одновременно секретарем ЦК по военным вопросам) — но никак не главой всего высшего военного органа. Даже после объявления Чжаном о разрыве Мао в течение целого месяца не предпринимает никаких мер и только в январе 1935 года согласился предать гласности официальный партийный документ. Раскол был признан фактом.
К этому времени звезда Чжан Готао уже клонилась к закату. В самом начале южной кампании 4-я армия смогла достичь весомых успехов, однако зимой войска Чан Кайши перешли в контрнаступление, и части Чжана вынуждены были сдавать свои позиции. Пока Мао находился в «восточной экспедиции», его соперник успел потерпеть два сокрушительных поражения. С плодородной равнины в окрестностях Чэнду 4-я армия оказалась вытесненной в граничившие с Тибетом пустынные районы провинции Сычуань.
В мае, когда Мао возвратился в Ваяобу, он предпринял новые усилия для того, чтобы вернуть заблудшую овцу в стадо, и пообещал забыть прошлые распри — при единственном условии: вместе со своими людьми Чжан Готао должен будет прийти на север, в Шэньси. «Между вами, товарищ Чжан, и вашими братьями здесь нет никаких политических или стратегических разногласий, — увещевала раскольника телеграмма Политбюро, — мы не видим необходимости вступать в дискуссию о делах минувших дней. Наша задача — объединиться в борьбе против Чан Кайши и японских оккупантов».
Вскоре в армию Чжан Готао влились войска Жэнь Биши и Хэ Луна, вместе пришедшие в западную Хунань годом ранее. В результате военная мощь Чжана усилилась, но снизился его политический авторитет. Давление, ставившее целью вынудить упрямца двинуться на север, возрастало, и в начале июля объединенные силы все же тронулись в поход по болотам и топям — тем же маршрутом, что шла в Шэньси 1-я армия Мао, с такими же ужасающими потерями. В октябре 1936 года их-встретили части под командованием Пэн Дэхуая, углубившиеся на территорию Ганьсу едва ли не до Ланьчжоу. Но на этом игра со смертью еще не закончилась. Захватив все паромные переправы, войска Чан Кайши остановили двадцатитысячный костяк 4-й армии на западном берегу Хуанхэ. Чжан Готао как Верховный политкомиссар принял почти самоубийственное решение двигаться по узкому коридору через Ганьсу, где мусульманская конница разбила отряды красноармейцев в прах. Жалкие остатки с огромным трудом добрались до Шэньси спустя год. Самую большую группу уцелевших в бойне — около четырехсот человек — привел Ли Сяньнянь.
Через месяц после того как был отдан гибельный для армии приказ, 6 декабря 1936 года, Чжан Готао и Чжу Дэ прибыли в штаб-квартиру Политбюро в северных районах Шэньси, чтобы отпраздновать восстановленное единство. На следующий день Мао назначили Председателем Военного совета; заместителями его стали Чжан Готао и Чжоу Эньлай.