當(dāng)年8月13日，在北伐于淮河流域進(jìn)展不利，政府在上海的集款遇到困難之后，蔣介石辭去了他的總司令職位。1927年7月，張宗昌奪回徐州，孫傳芳發(fā)動進(jìn)攻以重占長江下游。在國民黨內(nèi)部，蔣受到廣西派李宗仁和白崇禧的反對，這些人沒有拒絕他1927年8月12日向軍委提出的辭職。Wilbur，TheNationalistRevolution，p 682。他在家鄉(xiāng)溪口待了一段時間，于1927年9月途經(jīng)上海準(zhǔn)備去日本作戰(zhàn)略性流亡。當(dāng)戴笠得知他的老上司在法租界時，便去敲蔣的大門，自愿為他當(dāng)保鏢。蔣介石顯然沒有認(rèn)出他過去的學(xué)生，所以戴笠得自我介紹說：我原是黃埔的學(xué)生，現(xiàn)在來照顧校長的安全。章微寒：《戴笠與“軍統(tǒng)局”》，第82頁。這之后不久，蔣于9月28日去了日本。他在那里既說服了宋夫人讓他娶她的女兒，又與日本首相田中義一達(dá)成協(xié)議，后者同意幫助他與共產(chǎn)黨作戰(zhàn)，但同時敦促蔣集中其勢力于長江以南，而把北方讓給張作霖和他急躁的日本專家們。當(dāng)時，反日游行示威在張作霖謹(jǐn)慎的默許下舉行，而南京政府也正在大聲抗議紐約花旗銀行和摩根公司給由日本人經(jīng)營的南滿鐵路公司貸款3，000萬美元一事。McCormack，ChangTsolininNortheastChina，pp 239—241。

與此同時，蔣在軍隊的主要勁敵唐生智在其他將軍們的脅迫下流亡日本。汪精衛(wèi)企圖在廣州召開第四屆中央執(zhí)行委員會全會。失敗后，汪答應(yīng)與蔣介石在上海會面，并討論有關(guān)和解的可能性。在李濟(jì)深被趕出城，張發(fā)奎與陳公博等汪精衛(wèi)的其他擁護(hù)者們自立政府以后，汪精衛(wèi)在11月7日采取了“護(hù)黨救國”的行動，鞏固了他的地位。章微寒：《戴笠與龐大的軍統(tǒng)組織》，第280頁。但他在全國的影響卻削弱了，因為黨內(nèi)如胡漢民和吳稚暉這類元老對他表示鄙視。自然，蔣介石的地位就相應(yīng)地增強(qiáng)了。11月下旬，國民黨領(lǐng)導(dǎo)們在蔣位于法租界的公館里舉行會談。盡管會談在1927年12月10日以了無結(jié)果而休會，但汪精衛(wèi)被迫邀請蔣介石重新?lián)慰偹玖畹穆毼弧勔唤Y(jié)束，廣州公社便在12月11日爆發(fā)了起義，結(jié)果是汪精衛(wèi)丟失了在廣東的基地，而蔣介石則于1928年1月4日回到南京，開始重建他的軍事聯(lián)盟。5天以后他重獲原來在國民黨政府中的最高統(tǒng)帥地位。Wilbur，TheNationalistRevolution，pp 686—696。

在蔣介石再次成為總司令，并由宋子文任財政部長以后，蔣顯然想要利用這個新機(jī)會，盡可能地來鏟除他在國民黨內(nèi)的敵人，并重組某些省一級的黨委。1928年2月2日，在沒有共產(chǎn)黨和汪精衛(wèi)的支持者參加的情況下，國民黨執(zhí)行委員會第二屆會議在南京召開。會議接受了蔣介石的提議，決定所有的宣傳均以孫中山“全國重建計劃”（這是在孫受到共產(chǎn)黨影響之前提出的）為基礎(chǔ)，以全國和解及雙方合作的精神來取代階級斗爭的意識形態(tài)，在地方黨組織解散之后重新登記黨員，撤銷在北伐中為統(tǒng)一戰(zhàn)線而負(fù)責(zé)動員群眾的各個部門（農(nóng)民、婦女、青年、商人等）。新國民黨只建立了三個部門：組織、宣傳和黨訓(xùn)。軍委將由蔣介石委員長直接領(lǐng)導(dǎo)，而在軍隊內(nèi)部將重新組織一個政治訓(xùn)練部，由戴笠的老資助人和朋友戴季陶領(lǐng)導(dǎo)。Wilbur，TheNationalistRevolution，pp 697—699。