Тем временем политическая ситуация в Китае, казалось, стабилизировалась. Зимой 1912/13 года в стране прошли выборы в новый законодательный орган — парламент. Полную победу над более чем тремястами партиями одержала новая партия Сунь Ятсена, которую он, готовясь к выборам, основал 25 августа 1912 года на базе «Объединенного союза» путем его объединения с четырьмя другими организациями. Новая партия получила название Гоминьдан (ГМД, Националистическая партия). В палате представителей (нижней палате парламента) она получила 269 мест из 596 (то есть 45 процентов), в Сенате же (высшей палате) — 123 из 274 (44,8 процента).
В марте Чан вместе с Ечэн приехал в Шанхай, откуда собирался отплыть в Европу. Но тут произошло событие, резко изменившее его планы. Вечером 20 марта на железнодорожном вокзале в Шанхае двумя пулями был тяжело ранен Сун Цзяожэнь, глава гоминьдановской фракции в парламенте. Он собирался выехать в Пекин, чтобы занять пост премьер-министра. Через два дня он умер в больнице. А еще через два дня полиция нашла убийцу. И тот оказался связан с действующим премьером, одним из наиболее доверенных лиц Юань Шикая. О какой же учебе в Германии теперь могла идти речь? Сунь лично приказал Чэнь Цимэю, дуду Шанхая, задержать Чан Кайши в городе, убедив его отказаться от поездки в Европу. Военные кадры Суню сейчас были особенно нужны. Чан передал Чэню три тысячи китайских долларов, которые планировал потратить на учебу в Германии, и стал ждать развития событий.
Потрясенные гоминьдановцы напрямую обвиняли генерала Юаня в организации преступления. А тот и не думал оправдываться. Он действительно не желал делить власть ни с Сунь Ятсеном, ни с Сун Цзяожэнем и, заручившись поддержкой западных держав, предоставивших ему огромный заём — более чем в 25 миллионов фунтов стерлингов (около 100 миллионов американских долларов), — вскоре стал открыто готовиться к гражданской войне. По его приказу началась переброска бэйянских войск в стратегически важные центры страны. Более того, он сместил рад губернаторов — сторонников Гоминьдана.
Сунь решил устроить вторую революцию — на этот раз против Юаня. 12 июля 1913 года в провинции Цзянси вспыхнуло антиюаныпикаевское восстание под руководством гоминьдановского губернатора Ли Лецзюня, вслед за чем Цзянси провозгласила независимость. После этого независимость объявили гоминьдановские дуду Нанкина, Аньхуэя, Хунани, Фуцзяни и Чжэцзяна. Против Юаня выступил и военный губернатор Гуандуна, один из близких соратников Сунь Ятсена — Чэнь Цзюнмин, тоже заявивший о независимости. В начале же августа началось восстание в Чунцине (провинция Сычуань).
Разумеется, под руководством «кровного брата» Чана, дуду Чэня, восстал и Шанхай, объявивший о независимости 18 июля. И Чан принял в восстании самое активное участие. Именно он разработал план нападения на шанхайский арсенал, находившийся под контролем верных Юаню войск. И трижды — 22, 28 и 29 июля — атаковал его во главе гоминьдановских отрядов численностью в два батальона. Но у него ничего не вышло. Его войска подверглись массированному артобстрелу со стоявших на рейде Шанхая юаныпикаевских кораблей. Против Чана, как он позже с горечью вспоминал, выступили и «империалисты с территории сеттльмента», а также «компрадоры, тухао и лешэнь», так что он вынужден был отступить. Город захватили войска Юаня.
Вместе с «выдающимся человеком», «цикадой» Чжаном, Чан отплыл вверх по реке Янцзы в Нанкин, чтобы там продолжить борьбу, но и в этом городе силы революционеров были на исходе. Верные президенту войска подавили все восстания. «Вторая революция» потерпела поражение.
Через три месяца, 4 ноября 1913 года, Юань Шикай объявил Гоминьдан вне закона, после чего разогнал парламент. Сунь Ятсен, Чэнь Цимэй, Чан Кайши и многие другие борцы с диктатурой вынуждены были вновь бежать в Японию. Чэнь Цимэй констатировал: «Во время Синьхайской революции у нас почти не было оружия, нас насчитывалось несколько сотен, но, когда в Учане прозвучал призыв, вся страна пришла в движение. Это потому, что у нас был дух революционной партии. Во время же битвы в год гуйчоу (1913 год) хотя мы и контролировали несколько провинций и имели армию в сто тысяч человек, но бандитские армии превзошли нас числом, и мы потерпели поражение. Это потому, что мы утратили дух революционной партии».
Прибыв в Токио, Сунь и другие гоминьдановцы начали возрождать именно такую революционную партию, о которой вспоминал Чэнь. Сунь так и назвал ее: Чжунго гэмин-дан (Китайская революционная партия). Он объявил о ее создании 8 июля 1914 года на собрании более четырехсот своих сторонников, призвав их к подготовке «третьей революции». В отличие от парламентского Гоминьдана, который Сунь теперь считал «полностью обанкротившимся» из-за того, что тот чересчур сильно напоминал «политическую партию западного типа», новая организация строилась на принципах жесткого централизма и конспирации. Ее члены были обязаны подчиняться строжайшей дисциплине и свято хранить партийные секреты. Чан Кайши вступил в нее сто вторым членом.