當天中午，在鷂兒胡同偵緝處，張國燾腳戴9斤重鐵鐐接受野蠻拷問。軍警令他跪在一堆布滿倒刺的鐵鏈子上，并對他進行杠壓子、鞭打等種種酷刑，企圖從他身上打開一起爆炸案的突破口。

原來在前不久的5月15日，外交總長顧維鈞家中收到一個禮盒，顧家仆人打開后，發(fā)現(xiàn)里面竟是一枚炸彈，并很快爆炸。偵緝隊首先懷疑是共產黨所為，而張國燾等人則成為重要懷疑對象。

但無論怎樣用刑，張國燾都咬緊牙關，絕不承認與炸彈案有關，也不承認與共產黨的關系。上?！渡陥蟆吩趫蟮乐蟹Q：“據(jù)偵緝隊中傳出的消息，連日對張等嚴訊，惟未得口供?！?/p>

5月25日下午，張國燾被移送到京師警察廳，繼續(xù)接受審訊。此時，飽經嚴刑拷打的張國燾內心已充滿絕望與恐懼，心理防線正在逐步崩潰。

晚上10點左右，就在張國燾強忍劇痛艱難入睡之際，牢房門口突然出現(xiàn)幾個武裝警察，不由分說便將張國燾架出牢房，帶到警察廳的大堂內，問官簡單問了一句：

“你就是張國燾嗎？”

“是，我就是?！?/p>

張國燾話音剛落，立刻有十幾名警察圍上來，將他架到停在門口的卡車上。轉瞬之間，卡車呼嘯而去，駛向茫茫夜色。張國燾陡然生出一種不祥之感：這不是驗明正身嗎？難道他們要乘著黑夜將我綁赴刑場槍斃？

在張國燾的一陣陣驚懼之中，卡車停在警備司令部門口，這里是專門承辦革命黨人重大案件的場所，里面的刑罰手段慘不忍睹。在這里，張國燾最終承受不住嚴刑拷打，不僅招供自己是全國鐵路總工會干事、共產黨員，并供出了在京的共產黨員名單，包括李大釗等人。

張國燾招供后，待遇隨之好轉，先是從條件惡劣的牢房被移到看守人員的住處，隨之有了較其他犯人相對的自由。

9月，第二次直奉戰(zhàn)爭爆發(fā)；10月22日，直軍第三軍司令馮玉祥戰(zhàn)場倒戈，班師回京發(fā)動北京政變，囚禁賄選總統(tǒng)曹錕。10月25日，張國燾與妻子楊子烈以及其他被抓捕的全國鐵路總工會負責人被釋放。

5個月的獄中生活磨掉了張國燾勇往直前的銳氣，也磨掉了他做人處世的直率與棱角。同時，他的思想也在悄然轉變，他已不像以前那樣迷信革命，轉而認為革命是非常手段，并不能解決眾多社會問題，而且革命還會產生一些不良的副產品。

11月10日，孫中山發(fā)表北上宣言，在中共北京區(qū)委掀起軒然大波，北京區(qū)委領導人趙世炎認為孫中山北上實質是與軍閥尋求妥協(xié)，表示堅決反對。張國燾卻與趙世炎針鋒相對，表示堅決擁護孫中山北上。

不久，中央下達指示，要求北京區(qū)委歡迎孫中山北上，張國燾此次正確估計了中央的態(tài)度，為自己扳回聲望，重新獲得中央信任。

在1925年1月召開的中共四大上，張國燾雖然沒有出席大會，但由于他擔任全國鐵路總工會總干事期間以及出獄后的不錯表現(xiàn)，重新當選為中央執(zhí)行委員、中央局委員，兼任中共中央職工運動委員會主任，終于回歸中共中央。

離開中央近兩年，張國燾終于走出政治命運的低谷，于3月16日抵達上海就職，與妻子楊子烈住在中共中央指定的閘北寶興里住宅中。

這是一幢兩上兩下的住宅樓，樓上前房住著劉少奇與他的新婚妻子，張國燾夫婦到達后，住進了樓上的正廂房。這幢樓同時也是中共中央職工運動委員會的辦事處，辦公場所就設在樓下，鄧中夏等人有時在那里下榻。

張國燾抵達上海當天，陳獨秀趕來看望張國燾夫婦。由于張國燾隱瞞了獄中變節(jié)一事。

張國燾上任后，集中精力從事工人運動。五卅慘案發(fā)生后，上海在6月1日開始了反對帝國主義的總罷工、總罷市、總罷課，并很快成立了上海市總工會，五卅運動很快席卷全國。在整個運動中，張國燾與蔡和森、李立三等人始終堅守在領導崗位上。