8月1日凌晨，南昌起義爆發(fā)了。

劉伯承協(xié)助起義代總指揮賀龍指揮第二十軍攻占南昌舊藩臺衙門，消滅了駐在該地的國民黨第五方面軍總指揮部及其下屬部隊(duì)。

同時，劉伯承與代前敵總指揮葉挺指揮的第十一軍第二十四師等一起，完成了預(yù)定的殲敵任務(wù)，上午6時取得了南昌起義的勝利。

上午9時，在原江西省政府西花廳召開國民黨各省黨部及特別市黨部、海外黨部代表聯(lián)席會議，到會代表40余人。

劉伯承和李嘉仲以四川代表的資格出席。

會上選舉了革命委員會，下設(shè)多種機(jī)關(guān)，劉伯承擔(dān)任參謀團(tuán)團(tuán)長。

關(guān)于參謀團(tuán)組建過程，周恩來后來回憶：“參謀團(tuán)當(dāng)時沒有人任主任。

后來我就指定劉伯承同志來做參謀長，他起初謙虛，不肯答應(yīng)，后來我說一定要你來做，他才擔(dān)任參謀長職務(wù)?！?/p>

參謀團(tuán)的成員有周恩來、賀龍、葉挺、蔡廷鍇等。

革命委員會成立后，中共前敵委員會變成了革委會的黨團(tuán)，很少開會，在連日行軍作戰(zhàn)的征途中，參謀團(tuán)實(shí)際上成了起義軍的領(lǐng)導(dǎo)中樞。

劉伯承具有謙虛的品性，政治水平高，軍事業(yè)務(wù)熟練，在他的努力下，臨時組成的參謀團(tuán)，起到了良好作用。

當(dāng)然，這與周恩來知人善任的領(lǐng)導(dǎo)才干是分不開的。

在參謀團(tuán)的經(jīng)歷，也為劉伯承以后擔(dān)任中國工農(nóng)紅軍總參謀長打下了牢固的基礎(chǔ)。

當(dāng)晚，周恩來主持參謀團(tuán)委員會議。

根據(jù)中共中央關(guān)于立即南下的預(yù)定方針，討論行軍路線問題。

劉伯承參與擬定起義軍撤離南昌、進(jìn)軍廣東東江地區(qū)的行動計劃和開進(jìn)路線。

第二天，中共前委對起義軍初步整編，決定仍沿用國民革命軍第二方面軍名義，下轄三個軍，革命委員會任命劉伯承為參謀團(tuán)參謀長。

按兵力計算有16個團(tuán)，共20500人。

可是8月4日，當(dāng)起義軍開始分批離南昌向臨川(撫州)進(jìn)發(fā)的第二天，在左翼行進(jìn)的蔡廷鍇所率的第十一軍第十師(4500人)在進(jìn)賢脫逃，經(jīng)余江折往浙江。

進(jìn)軍廣東東江，有兩條平行的路線，劉伯承根據(jù)周恩來的意見，不主張走大路(經(jīng)吉安、贛州、韶關(guān)、廣州進(jìn)入惠州地區(qū))，他認(rèn)為應(yīng)該走小路去東江：“吉安、贛州等地對起義軍直接構(gòu)成威脅的敵軍達(dá)4萬，而起義軍兵力僅有2萬，發(fā)生對抗難操勝算；臨川、會昌路上僅有近3000弱敵，容易對付，即使敵人從他處調(diào)兵過來，山間行軍困難，可以各個擊破他?！?/p>

前委接受了這個建議，起義軍開始遠(yuǎn)距離的南下進(jìn)軍。

劉伯承的主要任務(wù)是協(xié)助三位軍長指揮作戰(zhàn)。

29日至30日，起義軍攻克會昌城，取得了南進(jìn)途中重大勝利。

9月6日，起義軍隊(duì)到達(dá)福建長汀，19日占領(lǐng)了大埔、松口、三河壩地區(qū)。

然后，起義領(lǐng)導(dǎo)機(jī)關(guān)決定分兵，由朱德率第九軍教育團(tuán)和第二十五師留守三河壩，對付從廣東梅縣向起義軍進(jìn)攻的敵軍。

總指揮部率主力繼續(xù)向潮州、汕頭進(jìn)發(fā)，23日、24日兩日起義軍分別占領(lǐng)了上述兩地。

而后，進(jìn)行了第二次分兵，潮、汕由第二十軍第三師兩個團(tuán)和政治保衛(wèi)處警衛(wèi)團(tuán)留守，參謀團(tuán)率第一師、第二師不足6000人向西奪取惠州。

9月26日至10月1日，疲憊不堪、人員彈藥得不到補(bǔ)充的起義軍，在揭陽縣白石、湯坑、關(guān)埠作戰(zhàn)失利，主帥周恩來得瘧疾仍在普寧縣流沙主持緊急會議，宣布不再使用國民黨革命委員會的名義，打出蘇維埃的旗幟，實(shí)行土地革命，要總結(jié)南昌起義失敗的經(jīng)驗(yàn)教訓(xùn)，武裝人員盡量向海陸豐撤退，其余人員分別由海口撤退，轉(zhuǎn)香港或上海。

劉伯承、周恩來等都分散躲藏到附近漁民家中，選擇時機(jī)相繼離去。

劉伯承、惲代英、吳玉章等人先乘船到了香港，同中共廣東省委取得了聯(lián)系。