10月8日導彈研究院成立，下面設立了10個研究室。

1958年6月10日，中共中央通知，為了加強黨的一元化領導，決定成立直屬中央政治局的科學小組，聶榮臻為組長。

聶榮臻在工作實踐中感到，要統(tǒng)一領導光有黨內措施還不夠，必須在行政上也采取有力措施。

為此，3個月后，他向彭德懷匯報：鑒于國防尖端科研工作已經(jīng)在軍隊和地方的研究機構、院校、工業(yè)部門廣泛展開，單靠航委領導，已難以勝任，建議在航委的基礎上，充實力量，改組為統(tǒng)一領導國防科研工作的行政領導機構。

彭德懷表示贊成，要聶榮臻代軍委起草向中央的報告。

在聶榮臻起草的報告中說：“國防科學技術的研究已經(jīng)掀起了一個高潮，并且獲得了一定的成就。

但是也出現(xiàn)了一些問題：有些相同的項目，幾個單位都在設計和試制；各研究機構之間互通情報交流經(jīng)驗不夠；試制趕不上設計；設計、試制和使用單位之間缺乏必要的聯(lián)系等。”

為了發(fā)揮各方面的積極因素，統(tǒng)一組織力量，把研究設計、試制和使用三方面緊密結合起來，加強組織領導、規(guī)劃協(xié)調，并進行監(jiān)督檢查，“建議把原國防部航空業(yè)委員會的工作范圍加以擴大，改為國防部國防科學技術委員會(簡稱國防科委)，在軍委、中央科學小組領導下工作?！?/p>

10月16日，中央批準了軍委的報告。

國防科委以聶榮臻為主任，陳賡為副主任，以后又增加了劉亞樓、張愛萍、萬毅為副主任。

國防科委在中共中央、國務院、中央軍委領導下，對國防科技工作負全面領導責任。

在導彈研究機構建設方面，到1957年，聶榮臻曾先后18次召集各有關方面負責人開會，商討為五院繼續(xù)選調科技骨干、黨政骨干、大學畢業(yè)生。

到1961年，五院不僅已有數(shù)以百計的科學家和研究骨干，還有大中專畢業(yè)生數(shù)千人，轉業(yè)復員軍人數(shù)千人。

這支隊伍為五院建設奠定了最重要的基礎。

五院下設第一、第二分院。

1961年成立第三分院。

1964年成立第四分院。

這4個分院，分別從事各型導彈的研制工作。

原子能研究方面，組建機構和組織隊伍的工作，開始主要是由薄一波為主任的國務院第三辦公室負責的，聶榮臻作為原子能三人領導小組的成員之一，參與了領導。

首先，1956年，在他參與領導起草的12年科學規(guī)劃中，把原子能研究列為第一項重點任務；同期，由他主持制定的12年國防科研規(guī)劃，提出了原子能在軍事方面應用的具體目標：原子彈的研究與和平利用原子能研究相結合；原子彈縮小體積，應用于導彈、炮彈、魚雷作彈頭；研制應用于潛艇、遠程轟炸機的反應堆；研制可用于軍隊的小型原子能發(fā)電站。

1956年11月，由宋任窮任部長的原子能工業(yè)部(當時稱三機部，1958年改稱二機部)成立，聶榮臻積極支持中國科學院物理研究所參與三機部的原子能研究工作。

1956年、1957年，聶榮臻確定在哈爾濱軍事工程學院設立原子彈、導彈專業(yè)，以后報經(jīng)軍委批準，擴大成系，為“兩彈”研究培養(yǎng)人才。

1958年1月，中央批準在中國西北地區(qū)建立7個原子能工廠和設計所，急需大批人才。

聶榮臻請有關方面積極為原子能工業(yè)部選調了一批急需的人才，從而加快了原子彈的研制進程。

1958年6月18日，聶榮臻召集蘇振華、羅舜初、張勁夫、劉杰、錢學森、王諍、萬毅、安東等開會，討論研制導彈核潛艇的問題。

他在會上確定：由海軍、一機部、二機部、五院共同提出研制核潛艇的具體方案，由航委抓總協(xié)調。

方案很快提出來了，聶榮臻認為可行，即轉報中央。

8月，中央批準了這個方案。

聶榮臻對核潛艇的研制工作，始終關懷鼓勵。