根據(jù)毛澤東在華北開(kāi)展游擊戰(zhàn)爭(zhēng)的指示，9月30日，聶榮臻和林彪致電毛澤東等：建議由一一五師直屬隊(duì)率領(lǐng)部分兵力到阜平地區(qū)創(chuàng)建抗日根據(jù)地。

10月20日，毛澤東致電周恩來(lái)等指出：敵占太原后，戰(zhàn)局將起極大極快之變化，擬作以下部署：留一一五師獨(dú)立團(tuán)在恒山、五臺(tái)山地區(qū)堅(jiān)持游擊戰(zhàn)爭(zhēng)，一一五師主力轉(zhuǎn)移到汾河以西呂梁山脈；總部轉(zhuǎn)移至孝義、靈石地區(qū)。

據(jù)此，八路軍總部當(dāng)即決定，聶榮臻留守五臺(tái)山地區(qū)，創(chuàng)建晉察冀抗日根據(jù)地。

聶榮臻擔(dān)負(fù)這一重任是由朱德、彭德懷、任弼時(shí)等當(dāng)面告訴他的。

多年來(lái)，他一直在黨中央和毛澤東身邊工作。

這次要孤懸敵后，獨(dú)當(dāng)一面了。

聶榮臻知道任重如山，非同一般。

留給他的部隊(duì)，只有師獨(dú)立團(tuán)、騎兵營(yíng)、八路軍總部特務(wù)團(tuán)一部，加上各地方工作團(tuán)，也不過(guò)3000人。

在晉、察、冀三省交界這樣一個(gè)廣闊的地區(qū)，面對(duì)四周強(qiáng)大的敵人，這點(diǎn)力量是很單薄的。

必須使部隊(duì)有一個(gè)很大的發(fā)展才行。

而要擴(kuò)大部隊(duì)打開(kāi)局面，最主要的問(wèn)題是缺乏干部。

第二天，他來(lái)到總部，希望幫助解決干部奇缺的問(wèn)題。

總部當(dāng)即決定，將唐延杰、舒同、王宗槐留在晉察冀軍區(qū)。

在此前后，一一五師政治部主任羅榮桓對(duì)聶榮臻非常支持，挑選了一些人留下來(lái)。

像搞后勤工作的查國(guó)楨，搞衛(wèi)生工作的葉青山；政治部留下了潘自力、余光文；司令部留下了劉彬、黃鵬、劉顯宜、路遐、李廷贊等。

人數(shù)雖少，但一個(gè)個(gè)都很得力。

羅榮桓還留下了師隨營(yíng)學(xué)校。

師教導(dǎo)大隊(duì)隊(duì)長(zhǎng)孫毅自告奮勇要求留下辦學(xué)，培養(yǎng)干部。

聶榮臻對(duì)這一切深感滿意。

從此，聶榮臻和留下的人員被隔絕在敵后。

深秋時(shí)節(jié)來(lái)臨，五臺(tái)山區(qū)有時(shí)細(xì)雨霏霏，有時(shí)大雪紛飛，天氣一天冷似一天，花草枯萎，樹(shù)木凋零。

聶榮臻和他的戰(zhàn)友們幾乎天天研究，在艱難處境中，究竟應(yīng)該怎樣開(kāi)展工作。

他們圍著火盆，面對(duì)地圖，商談著創(chuàng)建晉察冀抗日根據(jù)地的各種問(wèn)題。

聶榮臻認(rèn)為，兵力太少，這是最大的問(wèn)題。

他說(shuō)：“要?jiǎng)?chuàng)建根據(jù)地，必須首先發(fā)展武裝。

沒(méi)有武裝，一切都談不上?！?/p>

物資奇缺是晉察冀面臨的又一大困難。

他說(shuō)：“我們經(jīng)過(guò)市鎮(zhèn)，市鎮(zhèn)是蕭條的，走過(guò)縣城，縣城是空虛的，留下的多是些老頭老太太。

但是，要解決物資方面的困難，需要發(fā)動(dòng)群眾；要補(bǔ)充兵員，擴(kuò)大武裝，也離不開(kāi)群眾。

所以，如何發(fā)動(dòng)群眾，就成為我們創(chuàng)建根據(jù)地成敗的關(guān)鍵?！?/p>

經(jīng)過(guò)討論，大家認(rèn)識(shí)統(tǒng)一了，創(chuàng)建根據(jù)地的關(guān)鍵是要擴(kuò)大武裝和發(fā)動(dòng)群眾。

1937年11月7日，晉察冀軍區(qū)在五臺(tái)縣石咀的普濟(jì)寺宣告成立，聶榮臻任司令員兼政委，唐延杰任參謀長(zhǎng)，舒同任政治部主任，查國(guó)楨任供給部長(zhǎng)，葉青山任衛(wèi)生部長(zhǎng)。

11月13日，經(jīng)八路軍總部批準(zhǔn)，聶榮臻發(fā)布了成立4個(gè)軍分區(qū)的命令：第一軍分區(qū)，司令員楊成武，政治委員鄧華；第二軍分區(qū)，司令員兼政治委員趙爾陸；第三軍分區(qū)，司令員兼政治委員王平(后陳漫遠(yuǎn)為司令員)；第四軍分區(qū)，司令員周建屏，政委劉道生。

11月8日，太原失守后，中央北方局派了大批知識(shí)分子來(lái)到五臺(tái)山，其中有參加革命較早而年僅25歲的黃敬、鄧拓等。

聶榮臻熱烈歡迎他們，說(shuō)：“毛主席告訴我們?nèi)A北以國(guó)民黨為主體的正規(guī)戰(zhàn)爭(zhēng)已告結(jié)束，以八路軍為主體的游擊戰(zhàn)爭(zhēng)轉(zhuǎn)入了主導(dǎo)地位。

敵后的斗爭(zhēng)將是長(zhǎng)期的、艱苦的，要有啃樹(shù)皮吃野菜的決心，你們得有這個(gè)思想準(zhǔn)備喲!”才華橫溢的鄧拓告訴聶榮臻，他來(lái)五臺(tái)山之前，已經(jīng)學(xué)會(huì)了識(shí)別和采集多種野菜，為的是日后困難時(shí)能借以充饑。