事實(shí)上，他此階段中的地位是很不鞏固的。雖然在汪精衛(wèi)出國時，蔣總統(tǒng)曾經(jīng)行使國民黨的最高權(quán)力，但他的崇高地位，尚未得到老一輩同志所承認(rèn)。他仍被認(rèn)為軍事的，而非政治的人物。于是隨著七月間他所遭遇的軍事慘敗，他的整個地位更不穩(wěn)了。他的對手人物如汪精衛(wèi)、李宗仁、唐生智、馮玉祥、孫科、胡漢民、許崇智等無不自認(rèn)為革命運(yùn)動中注定的最后領(lǐng)袖。

自蔣介石第一次下野后，他漸漸明白了一點(diǎn)：在“老一輩同志”眼中，“他仍被認(rèn)為軍事的，而非政治的人物”。在國民黨內(nèi)，這種“不滿”和“不服”，是他被逼下野的一個核心所在。當(dāng)時，持這種看法的人不僅在國民黨內(nèi)，甚至日本人也如此視蔣。這年10月，蔣介石下野赴日時曾感慨道，“到東京后，感想不佳，舊人仍以亡命視余，對國人之欺辱，令人憤慨。”

第一次下野前，蔣介石無論在黨內(nèi)還是在國內(nèi)政壇上，都只是一顆新星，從軍力、財(cái)力，到人力儲備方面，都存在著巨大的不足，尚無力全面抗衡黨內(nèi)反對派。而此前蔣又過于張揚(yáng)，沒有很好地?cái)[正自己的位置，因此引起眾多的不滿，所以被逼下野?？梢哉f這次下野是他三次下野中最無奈的一次。

正是基于這樣的認(rèn)識，當(dāng)1928年1月他復(fù)任總司令之初，不得不將北伐軍分為四個集團(tuán)軍，分別以蔣介石、馮玉祥、閻錫山、李宗仁分任這四個集團(tuán)軍總司令。二次北伐成功后，除上述四個軍事集團(tuán)外，加上廣州的李濟(jì)深、東北的張學(xué)良集團(tuán)，可謂六大諸侯并存，而各省的小諸侯更是多如牛毛。此時南京中央政府的實(shí)際控制范圍，只能集中在長江下游幾省而已，因此中央政府不得不分設(shè)開封（馮玉祥）、太原（閻錫山）、武漢（李宗仁）、廣州（李濟(jì)深）四個政治分會，并任命張學(xué)良為東北保安司令。

從1929年蔣桂戰(zhàn)爭開始，到1930年中原大戰(zhàn)結(jié)束，蔣介石在黨內(nèi)胡漢民的支持下，為了實(shí)現(xiàn)真正的統(tǒng)一，與上述四個政治分會領(lǐng)袖分別展開內(nèi)戰(zhàn)，并最終贏得勝利。盡管蔣介石在軍事上獲得了空前的勝利，但并沒有徹底改變他在國民黨內(nèi)的地位。1931年因與胡漢民約法之爭，再度引起黨內(nèi)分裂。

上述四大軍事集團(tuán)雖然在中原大戰(zhàn)中暫時認(rèn)輸，但其實(shí)力并沒有全部瓦解。胡漢民被扣引起的黨內(nèi)分裂，導(dǎo)致黨內(nèi)外反蔣勢力空前團(tuán)結(jié)，從而形成寧粵對峙的新局面。在九一八事變前一年，由于有張學(xué)良的支持，蔣介石贏得了中原大戰(zhàn)。寧粵對峙初期，張學(xué)良仍站在蔣介石的一邊，蔣還有繼續(xù)與粵方周旋的資本。隨著九一八事變的爆發(fā)，首當(dāng)其充遭到打擊的就是張學(xué)良集團(tuán)。與此同時，面對外辱，國民黨不得不由對立走向和解。蔣介石再次被迫下野，以此換得黨內(nèi)統(tǒng)一，一致對外。

第二次下野時的蔣介石，雖然在黨內(nèi)的地位并未徹底改變，但所處的環(huán)境與實(shí)力發(fā)生了巨變。從1928年1月復(fù)職，到1931年12第二次下野，在這四年期間他牢牢控制著中央政府，無論軍力和財(cái)力都發(fā)生了質(zhì)變。首先，他透過黃埔軍校師學(xué)，源源不斷地輸入到收編的各類雜牌軍中，并逐步訓(xùn)練成為蔣所用的部隊(duì)。例如，原福建周蔭人部曹萬順投入北伐陣營后，被任命為第17軍軍長。1928年底，國軍實(shí)行編遣，蔣介石將隸屬于第一集團(tuán)軍的該軍整編為第11師，最初仍以曹萬順為師長，同時任命嫡系陳誠為副師長。半年后蔣就將曹調(diào)走而升陳誠為11師師長，一年后11師擴(kuò)編為第18軍，仍由陳誠任軍長。此后羅卓英、黃維接任軍長，成為蔣介石的五大王牌軍之一，也造就了陳誠的“土木系”。 蔣介石就是這樣逐步擴(kuò)大自己的嫡系部隊(duì)。而第一次下野前完全聽命于他的軍隊(duì)只有他的第1軍，且軍長何應(yīng)欽還時常不聽從指揮。一旦馮玉祥表示服從武漢中央時，蔣介石就失去了抗衡的實(shí)力。但到1931年后，他通過中原大戰(zhàn)，已經(jīng)有了以一抵四的實(shí)力。