籌備建立共產(chǎn)黨的事宜正在緊張地進(jìn)行，張國(guó)燾在為陳獨(dú)秀分擔(dān)工作的同時(shí)，也有機(jī)會(huì)了解到陳獨(dú)秀的建黨思想，并有足夠的時(shí)間與陳獨(dú)秀探討當(dāng)前局勢(shì)、三民主義、社會(huì)革命、共產(chǎn)主義運(yùn)動(dòng)，以及建黨的諸多問(wèn)題。

陳獨(dú)秀在許多問(wèn)題上的見(jiàn)解都使他受益匪淺，又親眼見(jiàn)到、親身參與建黨活動(dòng)，使他無(wú)論從感性認(rèn)識(shí)還是從理論認(rèn)識(shí)上，都有了一個(gè)大的飛躍。

8月，上海共產(chǎn)黨小組正式成立，機(jī)關(guān)刊物為《共產(chǎn)黨》，這是中國(guó)第一個(gè)共產(chǎn)黨小組。9月，張國(guó)燾興致勃勃返回北京。此時(shí)皖系軍閥在直皖大戰(zhàn)中失敗，北京政權(quán)被直系曹錕、奉系張作霖聯(lián)合控制，形勢(shì)已趨穩(wěn)定。張國(guó)燾重返校園后，首先去紅樓李大釗在圖書(shū)館的辦公室，向李大釗介紹了上海共產(chǎn)黨小組成立的詳情，并說(shuō)：

“陳獨(dú)秀先生讓我轉(zhuǎn)告您，希望您能在北京盡快成立共產(chǎn)黨小組?！?/p>

“好，我已經(jīng)有個(gè)初步考慮。”

此時(shí)李大釗已經(jīng)收到陳獨(dú)秀的來(lái)信，請(qǐng)他在北京成立共產(chǎn)黨小組，以南北呼應(yīng)

“我們就依照上海共產(chǎn)黨小組的模式，在北京也建立一個(gè)同樣的共產(chǎn)黨小組。”

隨后，李大釗將自己的決定告知張申府，邀請(qǐng)他參與發(fā)起建立共產(chǎn)黨小組。張國(guó)燾則聯(lián)系了羅章龍、劉仁靜兩名同學(xué)參加進(jìn)來(lái)。

9月中旬，北京共產(chǎn)黨小組在李大釗的圖書(shū)館主任辦公室召開(kāi)第一次會(huì)議，張國(guó)燾、張申府、劉靜仁、羅章龍與無(wú)政府主義者黃凌霜、陳德榮等共九人到場(chǎng)，與李大釗共同商議發(fā)起北京共產(chǎn)黨小組的相關(guān)問(wèn)題。

張國(guó)燾向大家介紹了上海共產(chǎn)黨小組的詳細(xì)情況，會(huì)議最終商定了工作如何進(jìn)行和分配，其中李大釗負(fù)責(zé)聯(lián)絡(luò)工作，張國(guó)燾擔(dān)任工人運(yùn)動(dòng)的發(fā)動(dòng)工作，黃凌霜、陳德榮負(fù)責(zé)創(chuàng)辦《勞動(dòng)音周刊》的編輯與發(fā)行工作，羅章龍、劉仁靜負(fù)責(zé)組織社會(huì)主義青年團(tuán)。