1927年秋季開學，江蘇省立第八中學與江蘇省立第五師范合并為省立揚州中學。當時，揚州中學高中是文理分科的，胡喬木選的是理科。編在普通高中一年級乙班。他在同班同學中間留下很好的印象。六七十年后，老同學樂怡然回憶當時的情景和印象說：“在班上他的年齡最小，但顯得比大他兩三歲的同學要成熟得多。他溫文爾雅，沉默寡言，學習努力，成績優(yōu)良，又謙遜有禮，追求進步，深得老師們的喜愛和同學們的欽佩，常被推舉作為本班代表和學?；蛲獍啻蚪坏馈！?/p>

高中三年，胡喬木雖然讀的是理科，但對文學的興趣有增無減。他在自傳中說：“以后第八中學改組為揚州中學，我仍在該校讀書。我對于文學仍舊繼續(xù)鉆研，但閱讀范圍是更廣泛了。那時我入了理科，因此對自然科學也下了些工夫，但是對正課卻不甚熱心?！?/p>

那時，揚州中學有個好的做法，在教室一角放置一個書柜，從校圖書館借一些書來，供同學自由取閱，稱為圖書角。胡喬木自覺地擔當班上圖書角管理員的角色。圖書角存書一百多本，大部分是文學名著，也有少量自然科學和社會科學方面的書。過一段時間到圖書館選書、換書，是胡喬木非常樂意做的一件事。

胡喬木在高中階段閱讀了大量世界文學名著，從古典主義、浪漫主義、自然主義、批判現(xiàn)實主義到現(xiàn)代主義直到社會主義現(xiàn)實主義的作家作品，可說是兼容并蓄，無所不讀，而且有頗為深刻的見解。

寒假、暑假期間，他常把《中國青年》《創(chuàng)造月刊》和一些文學作品如《三個叛逆的女性》《桃色的云》《托爾斯泰短篇小說集》等帶回家里，給兩個妹妹看。他對中國古典詩詞的喜愛有增無減。他挑選了一百首古詩，工楷抄寫，要兩個妹妹熟讀。他還收集了一些民間歌謠，讓她們背誦。他期望她們能同自己一樣，關(guān)心人民的疾苦，有較高的文化素養(yǎng)。有一年暑假，胡喬木還給小妹文新和她的同學袁玉清講解唐朝詩人李商隱的幾首“無題”詩（“相見時難別亦難”“錦瑟無端五十弦”等）。這些隱晦深奧、別有寄托的詩篇，經(jīng)胡喬木一講，顯得精致雋永，情意深長。

胡喬木還是課外文藝活動的熱心參加者，在課外活動組織，如文藝、詩歌、戲劇、音樂等研究會里，他不是主要負責人便是積極分子。

1929年，胡喬木已經(jīng)讀高三了，家鄉(xiāng)遭遇水災。父親在城里續(xù)修鹽城縣志，沒有什么收入，地租又收不上來。家里經(jīng)濟拮據(jù)，實在無法同時供給達新、鼎新、穗新、文新兄妹四個讀書。這時，大哥達新在交通大學讀土木工程快要畢業(yè)，父親決定保證重點，專供達新讀完大學，鼎新和兩個讀中學的妹妹暫時休學。

揚州中學的老師和同學得知胡鼎新即將休學，都很同情，找校長想辦法。校長周厚樞，教高三化學。他很幫忙，讓胡喬木在學校半工半讀——替他批改同級學生的化學實驗報告，給一些津貼。這樣，胡喬木得以繼續(xù)在揚中的學業(yè)。

胡喬木節(jié)儉，所得報酬除支付學費和生活開銷之外還有節(jié)余。他用積攢下來的錢支持已經(jīng)休學的妹妹文新，另一個妹妹穗新也得到半工半讀的機會，文新在哥姐的支持下也復學了。

胡喬木家有詩教，進揚州中學讀書不久，就因擅長詩文而得到“神童”的美譽。在高中時，有一次語文作業(yè)是自由命題，不限文體。這種方式給了胡喬木這樣的學生施展才華的機會。胡喬木寫了一首五言古詩。人稱“淮南才子”的語文教師張煦侯老先生一字一韻未改，拿到班上一邊朗誦，一邊擊節(jié)贊賞，并對這首詩的“夏木變凝碧，秋蟲鳴繁鐘”一聯(lián)加了“二句入古”的批語。