上海市人民代表會籌備委員會亦同時向全市發(fā)布命令：“我上海市全體市民：北伐軍將到上海，我市民急當(dāng)起來，響應(yīng)北伐軍，消滅軍閥殘余勢力，建立民眾政權(quán)——國民政府指揮下之民選市政府。茲由本會全體常務(wù)委員會會議決定3月21日正午12時起，各界市民一致動作，宣布總同盟罷工、罷市、罷課，專特飛報，仰我全體市民一體遵照執(zhí)行，不得遲延，此令。”上?？偣l(fā)布了“各業(yè)工人行動起來”行動綱領(lǐng)?？傊笓]部設(shè)在寶山路橫浜橋南商務(wù)職工醫(yī)院內(nèi)。

3月21日正午12時，停泊江中的輪船和全市的工廠，同時拉響汽笛，幾十只系有鈴當(dāng)?shù)镍澴?，在各區(qū)騰空起飛。上海八十萬市民總同盟罷工、罷市、罷課開始了！“一切工廠、商店、學(xué)校、輪船、火車和市內(nèi)的一切電車、汽車、電報和電話都中斷了……整個租界立即陷入死一般的寂靜，租界內(nèi)的工人群眾和一部分店員均于一個小時前涌入華界，華界上的馬路和廣場都成為群眾的集合地點”。

由于上海已籠罩著改朝換代的空氣，許多廠主、店主都主動關(guān)門停業(yè)，因此，罷工人數(shù)較前兩次大增。下午1時半左右，南市區(qū)打響了起義的第一槍。激烈的巷戰(zhàn)爆發(fā)了。工人糾察隊以小南門救火會鐘聲為號，分三路包圍淞滬警察廳，攻打第二區(qū)警察署和沉香閣路警察二區(qū)一分署，攻占南區(qū)街分署和鐵路南站等。下午3時，各路工人糾察隊、自衛(wèi)團(tuán)、海軍起義人員在江南造船廠及高昌廟兵工廠前會師，包圍駐廠的直魯軍，迫其全部繳械投降。

而閘北的直魯聯(lián)軍抵抗最頑強，出動大炮和裝甲車，入夜仍然戰(zhàn)況激烈，槍聲通宵不止。陳獨秀擔(dān)心起義再次失利，在深夜時曾下令閘北的武裝工人撤到大場，以避免不必要的犧牲。但他的命令沒有被執(zhí)行。

3月22日天亮以后，工人糾察隊向北洋軍的最后據(jù)點北車站勇猛進(jìn)攻。附近居民都把家中的棉被、麻袋、磚石、木板送給工人糾察隊架設(shè)障礙物。各路隊伍十幾萬人，有如浪奔潮涌，把車站團(tuán)團(tuán)圍住，經(jīng)過兩天一夜的血戰(zhàn)，暴動工人完全占領(lǐng)北站。

當(dāng)天，上海市民代表會議召開，宣布上海特別市臨時政府成立，由鈕永建、虞洽卿和上海商業(yè)儲蓄銀行總經(jīng)理陳光甫、上海商業(yè)儲蓄銀行董事王曉籟等19人，擔(dān)任臨時市政府委員（其中共產(chǎn)黨員九人，工人代表一人，國民黨及紳商代表共九人）。會議制定了《市政府組織條例（草案）》，規(guī)定全市最高權(quán)力機關(guān)為上海特別市市民代表會議，代表會議產(chǎn)生的政府隸屬于國民政府。以淞滬商埠公署原管區(qū)域及原有租界為范圍，上海特別市暫分為八個區(qū)。23日，推鈕永建、白崇禧、楊杏佛、王曉籟、汪壽華五人為市臨時政府常委。25日，武漢國民政府正式批準(zhǔn)任命。

對上海工人來說，占領(lǐng)上海，只完成了一半任務(wù)，另一半是建立工人政府，這個任務(wù)落空了。武漢急急忙忙批準(zhǔn)新政府成立，其動機與遷都武漢一樣，是想搶在蔣介石之前，造成一個既成事實，把他的去路堵上，逼他就范。至于這個政府是工人當(dāng)家，還是商人當(dāng)家，都不要緊，只要它擁護(hù)武漢政府就行。

遠(yuǎn)東局預(yù)料，“在國民革命軍抵達(dá)上海后，在這里必然會形成實際上兩個政權(quán)的局面”，他們認(rèn)為，“除了人民代表會議，不提供，至少形式上不提供建立第二政權(quán)的機會要有利的多”。 蔣介石要來，也只能納入人民代表會議。但這又是一廂情愿，蔣介石要在上海另立一個政府，根本無須別人提供機會，憑他手里的槍桿子就可以。

3月21日，白崇禧驅(qū)師入城，兵不血刃，進(jìn)駐上海華界。第一師薛岳駐守閘北，他的立場頗為左傾，對工人十分友好，上海一度成為赤旗飄揚的天下。3月23日，上海召開二十萬人歡迎國民革命軍大會。會場上，大人們揮舞旗幟高唱：

打倒列強！打倒列強！

除軍閥！除軍閥！

國民革命成功！國民革命成功！

齊歡唱！齊歡唱！

小孩子們則蹦蹦跳跳，跟在大人的后面唱：

大餅油條！大餅油條！

脆麻花！脆麻花！

兩只銅板一枚！兩只銅板一枚！

刮刮叫！刮刮叫！

“革命是被壓迫者和被剝削者的盛大節(jié)日?！边@句話，他們今天算是親身體會到了。同一天，南京的北軍主動撤走，東路軍第六軍與第二軍第四師同樣不費一槍一彈，施施然進(jìn)駐南京。當(dāng)時東路軍一位軍人自豪地寫道：“革命軍在一般人民心目中的聲光與欽仰，簡直不可以形容，尤其是第一軍。當(dāng)時所謂五皮主義——大約是皮包、皮帶、皮靴、皮鞭、皮綁腿。青年軍人更是一般美麗女孩子們追求的對象。”

然而，處在權(quán)力高層的人們，感受就完全不同了。3月28日，李宗仁到了上海，他所目睹：“全市群眾運動悉為共產(chǎn)黨所操縱。工會擁有武裝糾察隊千余人，終日游行示威，全市騷然，稍不如意，便聚眾要挾，動輒數(shù)萬人，情勢洶洶，不可終日?！边@種場景，令李宗仁大感震駭，蔣介石也“認(rèn)為上海情形已無法收拾”，面色沮喪地連呼：“我不干了，我不干了?！?/p>