青幫兩大首腦杜月笙、黃金榮“基于政治理由”和共產(chǎn)黨、國民黨都保持密切關(guān)系。根據(jù)陳立夫的說法，杜月笙和上?？偣?huì)（Shanghai Federation of Trade Unions）負(fù)責(zé)人汪壽華有直接接觸；汪是青幫人，也是中共黨員。由于這層關(guān)系，中共中央不認(rèn)為強(qiáng)大的青幫是個(gè)迫在眉睫的威脅?？墒?，青幫大佬楊虎早年和蔣一起參與革命，現(xiàn)在擔(dān)任清黨委員會(huì)和杜月笙主要接觸人。清黨委員會(huì)同意給杜六十萬（中國）銀元成立“中華共進(jìn)會(huì)”之類的武裝暴徒組織，協(xié)助執(zhí)行青幫被賦予的任務(wù)。蔣在出城前也任命楊虎為上海衛(wèi)戍司令。

同一天，奉系軍閥張作霖的警察沖入北京的蘇聯(lián)大使館，逮捕蘇聯(lián)外交官和中共黨員，并載走好幾卡車的文件，這些“可靠證據(jù)證明莫斯科通過其特務(wù)鮑羅廷控制中共”。張作霖下令勒殺在使館里抓到的李大釗和其他十九名中共黨員。但是，雙方其實(shí)都一樣殘酷和爾虞我詐。湊巧，斯大林不知北京這頭發(fā)生的事，在莫斯科對(duì)三千名黨工干部演講，表示“當(dāng)（國民黨）右派已經(jīng)沒有用處，蔣介石將像檸檬一樣被擠干后丟掉”。

歷時(shí)二十二年之久的國共內(nèi)戰(zhàn)于一九二七年四月十二日清晨在上海展開。前一天晚上，青幫杜月笙邀請(qǐng)共產(chǎn)黨籍的工會(huì)首腦汪壽華到家里談話。杜勸汪退出共產(chǎn)黨，加入國民黨。汪拒絕。當(dāng)他告辭后，兩名刺客開槍撂倒他。過了午夜，白崇禧的第七集團(tuán)軍部隊(duì)于上海接管親共的總工會(huì)辦公室，不聽話的人就地格殺，青幫組織的共進(jìn)會(huì)武裝人員在若干地方攻打工人糾察隊(duì)，殺了數(shù)十人。周恩來等人又被捕，送到白崇禧總部。周是中共在上海的高級(jí)領(lǐng)導(dǎo)人，但白釋放了他，很可能是經(jīng)蔣核準(zhǔn)或直接下令。

青幫人馬揪出躲起來的中共黨員，據(jù)說殺了好幾百人，另有幾千人逃跑。第七集團(tuán)軍部隊(duì)也開槍驅(qū)散一群示威民眾，又打死了好幾十人。廣州、桂林、寧波、廈門等地，亦紛起響應(yīng)清共。數(shù)十年后，陳立夫說：“這是一種殘忍的方法去消滅內(nèi)部敵人。我必須承認(rèn)許多無辜的人被殺了?！睋?jù)陳的說法，一萬六千名共產(chǎn)黨員“投靠到我們這一邊”。蔣日記里沒提清共，但是他在四月十四日寫說，“余決心暫取守勢(shì)，鞏固江南，以運(yùn)用時(shí)局之變化也”。武漢領(lǐng)導(dǎo)人為示報(bào)復(fù)，殺了八名抵抗共產(chǎn)黨主宰武漢的工會(huì)領(lǐng)袖。長沙方面，與外國往來的三四十名生意人也被共產(chǎn)黨人槍決。

四月十八日，蔣在南京另立國民黨政府，推舉胡漢民為主席。胡在廖仲愷遇刺后被迫下臺(tái)，最近才從蘇聯(lián)回國。胡漢民和汪精衛(wèi)一樣，自命比蔣高明，把蔣當(dāng)成鄉(xiāng)氣十足的后生小子?？v使如此，胡以國民政府名義嘉許蔣的忠誠和勇氣，并下令逮捕鮑羅廷和陳獨(dú)秀、毛澤東、周恩來等二百名中共黨員。另一方面，武漢的中執(zhí)會(huì)以汪精衛(wèi)為主席，指控蔣介石犯了十二項(xiàng)罪名，如“屠殺人民，鎮(zhèn)壓黨”，并革除蔣一切職務(wù)，懸賞二十五萬兩銀子活捉蔣，若是殺了他也有十萬兩銀子的賞金。

沒有跡象顯示蔣在發(fā)動(dòng)清黨以前有考慮到一九二五年十一月即在莫斯科念書的兒子的命運(yùn)。蔣經(jīng)國已經(jīng)成為狂熱支持托洛茨基激進(jìn)路線的青年，當(dāng)清黨消息傳到莫斯科時(shí)，他既震驚又生氣。次日，他公開譴責(zé)父親是“叛徒、兇手”。固然國民黨官方的解釋是經(jīng)國被迫發(fā)表此一聲明，但蔣介石可能都懷疑這是實(shí)情。他這個(gè)充滿理想主義的兒子還要滯居蘇聯(lián)十年，留蘇期間他一直自視為真實(shí)的馬列主義信徒，而他的父親由于清共，乃是中國人民的叛徒。