然而，隨著時間的推移，馮玉祥卻越來越清醒地看到，自己似乎陷進了一座深不見底的泥潭，而且越陷越深，更不知何日能夠解脫。彷徨迷惘的他，分別與李宗仁、閻錫山、張學良多方聯(lián)絡，推動了一次又一次反對蔣介石獨裁政權(quán)的活動，直至發(fā)動數(shù)十萬兵力參與的“中原大戰(zhàn)”。戰(zhàn)爭的結(jié)局，卻完全出乎馮玉祥和他的支持者的預料。蔣介石運用重金收買和軍事打擊的雙重手段，分化瓦解匆忙結(jié)合的反蔣勢力，使整個局勢急轉(zhuǎn)而下，最終站穩(wěn)了腳跟。而馮玉祥苦心經(jīng)營二十幾年的西北軍，幾乎全部潰散，大部被蔣介石所收編。

生活道路上的坎坷與挫折，并沒有徹底擊垮馮玉祥，而1931年“九一八”事變的發(fā)生，更使他重新振奮起精神。馮玉祥堅決反對不抵抗政策，于當年10月21日發(fā)表馬電，提出13項抗日主張。12月，在國民黨四屆一中全會上，馮玉祥被選為國民政府委員。1932年初，他又被任命為內(nèi)務部長。馮玉祥利用各種機會，大聲疾呼抗日救國，反對對外妥協(xié)。

1933年春，已經(jīng)侵占我東三省的日本侵略者，又將魔爪伸向了華北。馮玉祥義憤填膺，毅然從泰山趕往張家口，在中國共產(chǎn)黨人的幫助下，集合舊部，組織起察哈爾抗日同盟軍，于5月26日就任抗日同盟軍總司令。原西北軍驍將方振武、吉鴻昌等積極輔佐馮玉祥，察哈爾抗日同盟軍很快發(fā)展到8萬余人。同盟軍連克康保、寶昌、沽源三城，而其收復察哈爾東北重鎮(zhèn)多倫一役，更是聲震中外，舉國歡騰。然而，察哈爾抗日同盟軍的發(fā)展，不但未能得到南京政府的支持，反而為當時的當權(quán)者所極力打壓和限制。馮玉祥不得不再一次銜恨隱退泰山。

經(jīng)歷過種種艱難曲折之后，他認準了一條理，要想在這個世界上不走錯道路，就必須認認真真地尋求真理。在泰山，他過的是讀書生活。馮玉祥聘請李達、鄧初民、陳豹隱、范明樞等著名學者，為他講授辯證唯物主義、政治學原理、國際政治、中國社會問題，全面提升自己的政治素養(yǎng)。在他身邊的工作人員中，有日后的北京大學教授吳組緗、中華書局編審楊伯峻、中國駐聯(lián)合國安理會常任代表賴亞力、新中國外交部禮賓司長王倬如等一大批頗有來歷的人。

這期間的馮玉祥，表面上看是隱居山林，淡泊名利，別無所求，實際上，他無時無刻不在關(guān)注國內(nèi)外的時局變化，通過刻苦的學習和鉆研中，總結(jié)以往的生活經(jīng)歷，追求更高的精神境界，企盼著為自己的國家和民族貢獻力量。

周恩來曾經(jīng)這樣描述過馮玉祥將軍的不平常的經(jīng)歷：“馮玉祥先生從一個典型的舊軍人，轉(zhuǎn)變成一個民主的軍人。他經(jīng)過曲折的道路，最后走向了新民主主義的中國?！?/p>

應該說，泰山的讀書生活，是馮玉祥將軍思想升騰的極為重要的階段。