1953年1月，在聶榮臻出席的第十次軍委例會上，討論了軍隊實行軍銜制、薪金制、制定兵役法等問題。

隨后聶榮臻即擔任編制委員會、軍銜委員會、兵役法起草委員會的主任。

他組織總參謀部的有關同志編寫這3方面的文件，數(shù)易其稿，終于獲得批準。

1955年，我軍實行了軍銜制、薪金制和義務兵役制。

前述幾項制度的實施和逐步完善，使我軍在正規(guī)化、現(xiàn)代化道路上邁出了極為重要的幾步。

部隊編制方面，由于戰(zhàn)爭年代各大戰(zhàn)略區(qū)的情況不同，所以有許多不統(tǒng)一的地方。

1950年5月，聶榮臻在全軍參謀會議上總結報告中說，部隊編制上步兵今后要以師為基本單位，直接受大軍區(qū)供應、指揮，取消兵團和野戰(zhàn)軍機構。

武器裝備方面要以師為單位，逐步統(tǒng)一槍、炮口徑，以便組織彈藥的生產和供應。

1951年4月，他在主持全軍研究編制裝備的會議上講話提出：軍隊編制應由“三三制”(即每軍3個師，每師3個團，每團3個營，每營3個連)改為“四四制”，以加強炮兵；裝備要大部改成蘇式的，因美式裝備彈藥消耗大，無法補充；連隊要配重機槍。

同年7月，他又在有朱德以及軍兵種領導出席的討論軍隊編制問題的會議上說，軍隊新的編制，已經(jīng)討論過3次，大家基本上是滿意的。

朝鮮戰(zhàn)爭的經(jīng)驗證明，以我們現(xiàn)有的裝備是不能徹底打敗美帝國主義的。

我們提出現(xiàn)代化的口號，其物質基礎是新的裝備。

搞新裝備是困難的，但困難必須克服。

有了新的裝備，部隊的編制還要與之相適應，否則新裝備也發(fā)揮不了作用。

正當我軍在正規(guī)化、現(xiàn)代化道路上起步邁進的時候，1950年6月，朝鮮戰(zhàn)爭爆發(fā)了，戰(zhàn)火很快燃燒到了我國東北邊境地區(qū)。

中共中央和毛澤東主席，以大無畏的氣魄和膽識，決定派中國人民志愿軍入朝，抗擊美國侵略軍。

抗美援朝戰(zhàn)爭中，聶榮臻為貫徹中央軍委和毛澤東的作戰(zhàn)指揮意圖，保障前線勝利，竭盡心力。

早在1950年7月上旬，為預作防范，聶榮臻兩次出席周恩來召開的中央軍委會議。

7月15日，軍委發(fā)布了《關于保衛(wèi)東北邊防的決定》。

據(jù)此，聶榮臻迅速著手組建東北邊防軍。

到9月下旬，東北邊防軍由中南軍區(qū)第十三兵團下轄4個軍，配屬3個炮兵師共20萬人組成，并部署到了東北邊防地區(qū)。

這為志愿軍第一次戰(zhàn)役獲得勝利奠定了基礎。

8月1日，東北軍區(qū)請示，可否派部分高炮部隊到朝鮮一側布防，以保護鴨綠江大橋。

8月2日，聶榮臻向毛澤東、周恩來報告：“經(jīng)研究后，感到還是派出為好……因為鴨綠江的橋梁對我來說是必須保護的?！?/p>

4日，毛澤東批準了這個報告。

此后，經(jīng)征得朝方同意，我軍對大橋進行了嚴密保護。

抗美援朝戰(zhàn)爭中，大橋始終未被炸斷過，這對保障戰(zhàn)爭勝利起了重要作用。

8月下旬，聶榮臻認為，中國被卷入朝鮮戰(zhàn)爭的可能性越來越大，光靠第十三兵團是遠遠不夠的，他建議命第九、第十九兵團到山海關內地區(qū)集結，做好支援東北邊防軍的準備。

毛澤東批準了這個建議。

這對兩個兵團日后及時入朝參戰(zhàn)，起了重要作用。

9月15日，美國侵略軍在仁川登陸，接著大舉北進，迅即向中國邊境迫近。

我們雖預有準備，但對是否出兵朝鮮，黨內還是有不同意見的。

中共中央、毛澤東思之再三，最后才下了入朝參戰(zhàn)的決心。

在10月上旬聶榮臻列席的中央政治局會議上，才作出了最后決定。

10月8日，毛澤東正式發(fā)布了《給中國人民志愿軍的命令》。

隨即我志愿軍入朝參戰(zhàn)。

激烈緊張的抗美援朝戰(zhàn)爭，使極為繁忙的聶榮臻更加緊張。