10月，劇聯(lián)黨團書記于伶在光華大學(xué)找到在那里掛名讀書的胡喬木，約他去見周揚。周揚同胡喬木談話，說明文總發(fā)生的變故，急需重組領(lǐng)導(dǎo)班子，要胡喬木擔(dān)任文總書記，把左翼各聯(lián)盟的工作抓起來。周揚還向胡喬木介紹了鄧潔。這樣，文總黨團新班子建立起來，由胡喬木任書記，鄧潔、王翰為委員。這是文總黨團的最后一屆班子，工作了將近半年。這時，錢俊瑞也從社聯(lián)編輯部調(diào)來文總工作。在此之前，1935年9月，胡喬木按周揚的意見介紹錢入黨。錢俊瑞后來擔(dān)任在上海的全國各界救國會黨團書記。

按胡喬木的想法，文總黨團書記應(yīng)該由王翰擔(dān)任，一是王翰參加革命早、入黨也早，二是對上海情況熟。但周揚用了胡喬木，他看重胡喬木的文化修養(yǎng)和才能。除了前面已經(jīng)說過的王作民的介紹和讀到胡喬木寫給妹妹的信留下了好印象之外，胡喬木到上海不久曾給周揚寫過一封信，談對曹禺的看法，認(rèn)為像這樣的作家可以吸收到左聯(lián)中來。周揚即寫了一篇論曹禺的文章，給予較高的評價。從這件事，周揚覺得胡喬木有眼光。文總書記陳處泰被捕，周揚很自然地想到用胡喬木。

胡喬木擔(dān)任文總黨團書記期間，主要同社聯(lián)、左聯(lián)、教聯(lián)、語聯(lián)等發(fā)生關(guān)系。社聯(lián)人數(shù)最多，同社研（全稱是社會科學(xué)研究會）合并后，有二三百人。胡喬木同社聯(lián)的關(guān)系最密切。波蘭人柴門霍夫創(chuàng)造的世界語和發(fā)動的世界語運動是國際性的，語聯(lián)和國際語聯(lián)有通訊往來。胡喬木直接領(lǐng)導(dǎo)過語聯(lián)，他能夠閱讀世界語的出版物。語聯(lián)的主要領(lǐng)導(dǎo)成員葉籟士、胡繩等成為胡喬木畢生交往的朋友。胡喬木與其他左翼文化組織則沒有什么接觸，他回憶說：“1935年下半年，我參加文總的領(lǐng)導(dǎo)工作時，從來沒有人和我談過電影、戲劇、音樂、美術(shù)方面的工作。音樂、美術(shù)方面的左翼組織情況，不但我不知道，恐怕鄧潔、王翰都不知道?！薄翱隙ㄓ羞^左翼的新聞記者聯(lián)盟，但我參加文總工作時，沒有接觸，也沒有人向我介紹過記聯(lián)的關(guān)系?！?/p>

胡喬木擔(dān)任文總黨團書記后，在白色恐怖籠罩的上海，堅持開展工作和斗爭，大有“在泥濘中打滾，在荊棘中潛行”的精神。

事實上，胡喬木也曾多次遇到危險。在上海的生活也是十分節(jié)儉，相當(dāng)艱苦的。胡喬木后來回憶說：

當(dāng)時我們搞文總工作的，從早到晚都忙于接頭、開會，衣食住行的條件很差。我也覺得奇怪，當(dāng)時怎么沒被敵人抓住。我那時只有二十四五歲，沒有什么社會經(jīng)驗；吃飯和人力車夫坐在一起。早飯就是買個粢飯團，一路走，一路吃。照說有經(jīng)驗的偵探是很容易盯上我們的。

胡喬木在文總的工作是有成績的。當(dāng)時發(fā)表的一個文件上說：黨團書記的被捕雖然“暫時減弱了正常的領(lǐng)導(dǎo)和密切的聯(lián)系”，但是，“在各聯(lián)，及參加群眾斗爭的群眾積極擁護下，改組了新的常委會，接受了廣大群眾和全體同志的信賴?！薄巴怂I(lǐng)導(dǎo)的各聯(lián)，除少數(shù)較弱的沖破不了當(dāng)前的困難，頗有每況愈下的趨勢而外，其他大多數(shù)尚能獨立活動，擴大了本身的組織，并且培養(yǎng)了提供到文總方面來，用以補充與整理各聯(lián)的許多新干部。這種不倦的努力及其可觀的成績，是值得注意的。”

除了整理、擴大組織，領(lǐng)導(dǎo)各聯(lián)繼續(xù)開展獨立活動之外，胡喬木這時做的一項主要工作是貫徹共產(chǎn)國際七大精神，為實行左翼文化運動方向的轉(zhuǎn)變，領(lǐng)導(dǎo)制定文總和各聯(lián)的新綱領(lǐng)。