孫中山離開(kāi)廣東前，曾到大埔縣三河壩視察粵軍，又在汕頭的粵軍司令部同陳炯明等討論了軍事工作，促使粵軍早日入閩。旋即經(jīng)臺(tái)灣、日本，前往上海。在長(zhǎng)達(dá)兩年多的時(shí)間里，他在十分困難的情況下工作著，并準(zhǔn)備開(kāi)展新的斗爭(zhēng)，以捍衛(wèi)迭遭踐踏毀棄的共和國(guó)。他集中精力從事著述，力求“以主義普及國(guó)民”。他回顧了走過(guò)的戰(zhàn)斗道路，希望從中獲致裨益于當(dāng)前斗爭(zhēng)的經(jīng)驗(yàn)與教訓(xùn)。在《孫文學(xué)說(shuō)》的《自序》中，他承認(rèn)多年的革命活動(dòng)歸于失?。?ldquo;夫去一滿洲之專制，轉(zhuǎn)生出無(wú)數(shù)強(qiáng)盜之專制；其為毒之烈，較前尤甚。”《國(guó)父墨寶》，第7~19頁(yè)，北京北方雜志社1948年版。所以如此，“實(shí)多以思想錯(cuò)誤而懈志也”。他批評(píng)了表現(xiàn)為“知易行難”觀念的因循茍且的陋習(xí)時(shí)，強(qiáng)調(diào)了實(shí)踐的廣泛可能性——“知難行易”。世界和中國(guó)發(fā)生的重大歷史事件，促使他思考和探索。孫中山同列寧領(lǐng)導(dǎo)的蘇維埃國(guó)家建立了直接的聯(lián)系，他收到了外交人民委員齊契林的復(fù)函。1919年爆發(fā)的“五四”運(yùn)動(dòng)，給孫中山以很大的啟示和激勵(lì)：“一般愛(ài)國(guó)青年無(wú)不以革新思想為將來(lái)革新事業(yè)之準(zhǔn)備，于是蓬蓬勃勃，發(fā)抒言論，國(guó)內(nèi)各界輿論，一致同倡，各種新出版物為熱心青年所舉辦者，紛紛應(yīng)時(shí)而生，揚(yáng)葩吐艷，各極其致，社會(huì)遂蒙絕大之影響，雖以頑劣之偽政府，猶且不敢攖其鋒。此種新文化運(yùn)動(dòng)，在我國(guó)今日誠(chéng)思想界空前之大變動(dòng)。”《總理全集》第3集，第343~348頁(yè)。其次，“整頓黨務(wù)”也是孫中山的主要活動(dòng)內(nèi)容。1919年10月，正式宣布將中華革命黨改組為中國(guó)國(guó)民黨，所以加上“中國(guó)”兩字，以表示區(qū)別于1912年組建的國(guó)民黨。公布了新的規(guī)約，“以鞏固共和，實(shí)行三民主義”為宗旨?？偛糠衷O(shè)總務(wù)、黨務(wù)、財(cái)政三部，孫中山以總理身份指定居正、謝持和廖仲愷為主任。在此前后，孫中山反復(fù)闡述了革命政黨的重要作用，批判了辛亥革命后一度流行的“革命軍起，革命黨消”的論調(diào)：“革命未成功時(shí)，要以黨為生命。革命成功后，仍絕對(duì)用黨來(lái)維持。所以辦黨比無(wú)論何事都要重要。”《總理全集》下冊(cè)，《演講》丙，第10~11頁(yè)。他還強(qiáng)調(diào)必須以三民主義為政綱，因?yàn)樗?guī)定的任務(wù)都未實(shí)現(xiàn)。以為“民族主義可以不要”的觀點(diǎn)是錯(cuò)誤的，帝國(guó)主義至今還在“壓制中國(guó)人”，“我們還是三民主義，缺一不可”《中國(guó)國(guó)民黨本部通信》第60期。。反對(duì)北洋軍閥的斗爭(zhēng)從未停頓，孫中山不斷地促成四川、湖南、福建等地的革命黨人的團(tuán)結(jié)與奮斗，同時(shí)，集中精力于驅(qū)除桂系軍閥的策劃。他聯(lián)絡(luò)唐繼堯、劉顯世和其他反桂力量，更主要的是敦促駐閩粵軍回師廣東，以便“撲滅桂賊”和“統(tǒng)一南方”，然后“出師北上”。陳炯明遲疑不決，只是在桂軍三路進(jìn)迫下才出師討桂。由于群眾支持和其他反桂武裝力量的配合，粵軍進(jìn)展順利，1920年10月攻克廣州，桂系殘部逃回廣西。

在新的形勢(shì)下，孫中山于11月由滬赴穗。他抵達(dá)廣州后立即重組軍政府，繼續(xù)履行職務(wù)。但他已意識(shí)到軍政府不能適應(yīng)形勢(shì)的要求，應(yīng)當(dāng)建立正式政府。孫中山在1921年元旦舉行的南京臨時(shí)政府成立紀(jì)念會(huì)上明確指出：“此次軍府回粵，其責(zé)任固在繼續(xù)護(hù)法。但余觀察現(xiàn)在大勢(shì)，護(hù)法斷斷不能解決根本問(wèn)題。”因?yàn)?ldquo;護(hù)法不過(guò)矯正北政府之非法行為，即達(dá)目的，于中華民國(guó)亦無(wú)若何裨益。況護(hù)法乃國(guó)內(nèi)一部分問(wèn)題，對(duì)內(nèi)仍承認(rèn)北京政府為中央政府，對(duì)外亦不發(fā)生國(guó)際之地位之效力”。所以，“廣東此時(shí)實(shí)有建立正式政府之必要”。上?！睹駠?guó)日?qǐng)?bào)》1921年1月11日。盡管陳炯明等不表贊成，但孫中山的正確主張得到了大多數(shù)人的支持。4月，國(guó)會(huì)非常會(huì)議選舉孫中山為非常大總統(tǒng)，通過(guò)《中華民國(guó)政府組織大綱》。孫中山于5月5日就職，并組建了民國(guó)政府。