張升字伯高，祖先定州人，后來遷徙到平州。升幼年時機警聰敏超過一般人。長大努力學(xué)習，擅長文辭。至元二十九年(1292)授將仕郎、翰林國史院編修官，參預(yù)修纂《世祖實錄》，升應(yīng)奉翰林文字，不久升修撰、太常博士。成宗駕崩，大臣議論徽號，合祭宗廟，升說：“從前規(guī)定凡在宗廟有祭祀，一定要寫嗣皇帝的名字，現(xiàn)在寫什么？”議論才終止。

　　武宗即位，親自祭祀禮節(jié)時，升據(jù)經(jīng)引古，參酌時宜回答，受到帝的稱贊，并采納了他的意見。至大初，改太常寺為太常禮儀院，升為判官。以后，調(diào)任汝寧知府。有一百姓告發(fā)，有一捆書信寄放在他家中，時隔三年取出一看，內(nèi)有禁書一編，記有他本鄉(xiāng)大家姓名，升要屬吏快把這書燒毀，并說：“胡話誣陷民眾，暫且免罪不說?！蓖壍墓倮艉芎ε?，朝廷知道后，認為升放走了違法作亂的人，派人了解情況，卻始終查不出什么來，于是斥責他擅自焚書，升說：“這事情好像是違法作亂，但我為郡守，是父母官，現(xiàn)在斥責誣告，免去冤獄，即使判我重罪也不躲避?！庇谑菉Z他兩個月的俸祿。后來任江西行省左右司郎中，升紹興路總管。

　　在大德、至大年間，江浙遭重災(zāi)，流行瘟疫，百姓死亡幾乎過半，賦稅鹽稅責令里胥代納。升將此地情形如實報告行省，予以豁免。后歷任湖北道廉訪使、江南行臺治書侍御史。召為參議中書省事，又改樞密院判官，不久又恢復(fù)中書參議。

　　至治二年(1322)出任河?xùn)|道廉訪使，還未啟程，又任命治書侍御史。第二年，任淮西道廉訪使。泰定二年(1325)任陜西行省參知政事，加中奉大夫，不久升遼東道廉訪使。永平大水，民眾多困厄，升請求發(fā)海道糧十八萬石、鈔五萬緡，賑救災(zāi)民，減免這年的賦稅，得到朝廷同意，很多民眾得以活命。第二年，任侍御史。

　　天歷初，出任山東道廉訪使，當時有警報，當?shù)毓俑埱蠹庸坛浅貋矸纻洌f“：百姓依靠我們而生，加固城池，興師動眾，這是拋棄百姓?！边^了一年，任太禧院副使，并兼奉贊神殿的事務(wù)，授職河南省左丞，又升淮西道廉訪使。這時升已年六十九，上書辭官退隱。至順二年(1331)又起用為集賢侍講學(xué)士，受到文宗關(guān)懷。

　　元統(tǒng)元年(1333)順帝即位，召集五六十歲老臣，詢問治國之道，升條陳應(yīng)該先做的十件事。不久兼經(jīng)筵官，考試進士，命升讀卷，事后，升請求探望祖先的墳?zāi)?。帝賜金織花紋袍子，使他榮耀還鄉(xiāng)。第二年，以奎章閣大學(xué)士、資善大夫、知經(jīng)筵事召回，賜好酒一尊，催促就職，升以病辭職，帝看不可勉強，才同意。不久命本郡每月給原俸祿的一半。至正元年(1341)卒，享年八十一歲。贈資德大夫、河南等處行中書省左丞，謚號文憲。