洪遵字景嚴(yán)，洪皓的次子。在兒時(shí)就端正莊重如同成年人。隨從老師學(xué)習(xí)文化，不因?yàn)樘鞎r(shí)寒暑而中止。父親滯留北方沙漠，母親去世，洪遵孺慕敬愛(ài)母親，抱母號(hào)哭。安葬之后，兄弟便住在廟中學(xué)習(xí)文化，夜枕書(shū)籍不解衣安寢。由于父親之故被蔭補(bǔ)為承務(wù)郎，同兄長(zhǎng)洪適同時(shí)參加博學(xué)宏詞科考試，中首名，被賜為進(jìn)士出身。高宗因洪皓出使遠(yuǎn)方，擢升他為秘書(shū)省正字。宋建立以來(lái)，考中博學(xué)宏詞科便入館任職，從洪遵開(kāi)始。宰相秦檜兒子秦火喜任長(zhǎng)官，談笑之間提拔罷免官屬，洪遵恬然自處不肯依附他，因此兩年沒(méi)有升遷。

　　洪皓南歸，同朝廷議論不同，被逐出朝廷。洪遵于是請(qǐng)求外任，任常、婺、越三州通判。紹興二十五年(1155)，湯思退推薦他，又入朝任正字。八月，兼權(quán)直學(xué)士院。湯鵬舉任御史臺(tái)長(zhǎng)官，秘密推薦洪遵為御史。正當(dāng)要下令時(shí)父親去世消息傳來(lái)。二十八年(1158)，免除服喪，奉詔入對(duì)，極力陳述父親冤枉，說(shuō)“：先父與龔?fù)鯄弁瑫r(shí)出使，龔?fù)鯄凼窃趧⒃ナ窒鲁鋈喂俾?，因?yàn)樗烈鈿⒑Ρ俦粍⒃フD殺，而秦檜追贈(zèng)他節(jié)旄，擢用他的兒子。先父拒絕金朝的任命，滯留十五年才得以歸來(lái)，反而被流放到南方嶺外，臣兄弟也被屏棄在外。秦檜不分忠逆竟到了這種地步?！备咦谠敿?xì)地告訴了他洪皓被誹謗的情況，并且說(shuō)：“你再次進(jìn)入三館，曾主持詔令，今天讓你修起居注?！庇谑侨蚊麨槠鹁由崛?。

　　洪遵上奏請(qǐng)求將經(jīng)筵官的任免和封章進(jìn)對(duì)、宴會(huì)賜予、講讀問(wèn)答等事，匯編成一書(shū)，名字叫作《邇英記注》。此后乾道年間又有《祥曦殿記注》，實(shí)際上是從洪遵開(kāi)始的。又乘當(dāng)面問(wèn)對(duì)之機(jī)，論述鑄錢(qián)的利害得失，皇帝嘉獎(jiǎng)采納了他的意見(jiàn)。遷任起居郎兼樞密院都承旨。原來(lái)的制度，修注官、經(jīng)筵官允許留身奏事，而近來(lái)沒(méi)有這樣的事例。洪遵上奏請(qǐng)求恢復(fù)舊制，并說(shuō)起居注已有十五年沒(méi)有修撰，請(qǐng)求除現(xiàn)修月進(jìn)外，每月帶修，皇帝都聽(tīng)從了他。

　　紹興二十九年(1159)，任中書(shū)舍人。殿前偏將輔逵轉(zhuǎn)任防御使，王綱轉(zhuǎn)任團(tuán)練使，洪遵說(shuō)：“近來(lái)規(guī)定管軍官十年才能一遷，現(xiàn)在兩人任期不滿(mǎn)，怎么能得此官職？”當(dāng)時(shí)勛臣子孫大都超越等級(jí)位居臺(tái)省，洪遵極力論說(shuō)請(qǐng)求明令禁止。高宗說(shuō)“：正立法，從今以后功臣子孫可以序遷至侍從，并令久任在京宮觀?！焙樽裾f(shuō)“：侍從，是朝廷高級(jí)官職，如不是磨勘階官，怎么有遷序之制？”回家后又上奏說(shuō)“：今內(nèi)外將領(lǐng)不少于二十人，如果用序遷，不出十年，宮廷次對(duì)的官職都能得到。太祖開(kāi)國(guó)功臣子孫官職不過(guò)各司，只有曹彬的兒子曹琮、曹瑋由于自己奮斗得到功名，于是成為節(jié)度使，當(dāng)初沒(méi)有聽(tīng)說(shuō)有遞遷侍從的例子。今天詔旨一下，使肅穆清閑顯要的機(jī)構(gòu)都充滿(mǎn)將帥子孫，不是昭示天下的好辦法，希望收回前面的詔令?！庇终f(shuō)：“瑞昌、興國(guó)之間茶商失業(yè)，聚集為盜賊。希望張貼布告曉諭他們，允許他們悔過(guò)自新，愿意充軍的填刺充軍，愿意種田的放歸?！被实鄱紲?zhǔn)許了他的奏議。

　　議論者要恢復(fù)鄱陽(yáng)永平、永豐兩監(jiān)鼓鑄，詔令給、舍等有關(guān)部門(mén)商議，洪遵說(shuō)“：唐代有鼓鑄使，本朝有時(shí)以漕臣兼領(lǐng)，有時(shí)分道設(shè)使，由三司管理。自南渡以后，設(shè)置都大提點(diǎn)，官屬太多，動(dòng)輒為害州縣。中間急忙廢罷，又沒(méi)有一定之規(guī)，當(dāng)初委托轉(zhuǎn)運(yùn)使，又委托提刑，又委托郡守管理，號(hào)令不一，鼓鑄日益減少。我私下認(rèn)為以恢復(fù)鼓監(jiān)為便?！?br />
　　紹興三十年(1160)正月，任吏部侍郎。過(guò)去選官到府曹改秩，官吏依靠手中權(quán)力買(mǎi)賣(mài)官職，絲毫不中意，必然巧生各種關(guān)節(jié)阻礙，必須賄賂得到滿(mǎn)足為止。洪遵明確約定，如果大體上沒(méi)有缺點(diǎn)，應(yīng)先行后審，薦員也應(yīng)有定額，而舉薦的人卻賣(mài)權(quán)弄奸，巧為周章，有的同時(shí)一章而分為兩牘，有的應(yīng)當(dāng)推薦五人而動(dòng)輒超越十人，有的應(yīng)當(dāng)舉薦為職官而詭任京官，有的身系常調(diào)而妄稱(chēng)職司，有的東西分曹而交錯(cuò)攙補(bǔ)，有的已被復(fù)奪而指稱(chēng)事故，件析枚數(shù)，請(qǐng)求凡像這樣的一律彈劾。舊制，官員退休保任子弟授予官職，隨所在地區(qū)審查后即授予官職。這時(shí)，聽(tīng)從言者請(qǐng)求，必令到原籍州縣審核奏請(qǐng)。洪遵說(shuō)“：士大夫有到粵、蜀任官，數(shù)千里外，不幸死去。臨終辭去官職，家屬返回故里已十分艱難，現(xiàn)在又因此齟齬，反復(fù)拖延，是公開(kāi)給惡吏提供方便。”于是停止仍依舊制。

　　平江、湖、秀三州發(fā)生水災(zāi)，沒(méi)辦法交納秋賦，有關(guān)部門(mén)下令交納小麥。洪遵說(shuō)“：麥價(jià)不在半價(jià)之下，民眾如此困苦，怎么能以夏稅當(dāng)作秋稅，將一衍生為二，使他們背井離鄉(xiāng)流落溝壑之中呢？希望酌量取其一半，而遭水災(zāi)的全部免除?！苯鸪瘉?lái)索取絳陽(yáng)郭小的、安化劉孝恭等二百家，洪遵以為蜀朝的李特事件可作為借鑒，希望以根集不足為由，拖延時(shí)間回報(bào)金朝。遷任翰林學(xué)士兼吏部尚書(shū)。王澈彈劾湯思退罷相位時(shí)，洪遵草擬的制詞中沒(méi)有貶語(yǔ)，汪澈以此上奏。洪遵于是請(qǐng)求解除職務(wù)，以徽猷閣直學(xué)士的身份提舉太平興國(guó)宮。

　　紹興三十一年(1161)，金主完顏亮命令尚書(shū)蘇保衡從海路窺視兩浙，朝廷命浙西總管李寶率兵抵御。李寶駐兵平江，守將李翊同李寶素來(lái)不和，朝廷議論因洪遵曾經(jīng)推薦李寶，于是命令洪遵知平江。等到李寶率領(lǐng)水軍直搗膠西，凡是物資糧餉、器械、舟船等都是洪遵供應(yīng)，李寶戰(zhàn)勝歸來(lái)，洪遵給予的幫助最多。高宗到金陵，禁衛(wèi)士兵索求無(wú)厭，其他州郡隨時(shí)供給也不滿(mǎn)足。到達(dá)吳郡，士兵相互警告說(shuō)：“洪內(nèi)翰在此，你不能像過(guò)去那樣?！痹瓉?lái)，朝廷顧忌商船被金軍得到，全部拘留到官府，以后沒(méi)有歸還，沿海州縣巨艦全部集中以及召募的水手、民兵，都羈留不得離開(kāi)。洪遵通過(guò)面奏論說(shuō)，將船只交還商人，水手聽(tīng)其自便，吳郡人都感激他。

　　孝宗即位后，拜洪遵為翰林學(xué)士承旨兼侍讀。詔問(wèn)宰執(zhí)、侍從、臺(tái)諫說(shuō)“：敵人前來(lái)索要舊禮，聽(tīng)從它則不忍屈服，不聽(tīng)從則邊患不已。中原歸順的人源源不斷地前來(lái)，接納他們則東南地區(qū)財(cái)力不能補(bǔ)給，拒絕他們又?jǐn)嘟^他們向化歸順的希望。應(yīng)當(dāng)討論做出決定上報(bào)?！焙樽裢o事中金安節(jié)、中書(shū)舍人唐文若、超居郎周必大共同提出一項(xiàng)建議，大概是說(shuō)：“不應(yīng)當(dāng)直接拒絕他們，也不能立即屈從答應(yīng)，應(yīng)當(dāng)送給他們金繒數(shù)目如同以前一樣，或者允許歸還侵地如海、泗之類(lèi)，那么金也可以此為借口前來(lái)商議了。”

　　主持隆興元年(1163)貢舉考試，任同知樞密院事。壽康殿長(zhǎng)出十二枝金芝，同列官員議上表祝賀，洪遵引用李文靖上奏災(zāi)異的故事勸止他們。推薦眉山的李燾、永嘉的鄭伯熊和林光朝，還沒(méi)有來(lái)得及任用，恰逢湯思退任左相，而右相張浚被罷免，御史周..論說(shuō)洪遵越級(jí)升遷，上奏彈劾，孝宗急忙徙任他官。洪遵不安于新職，連續(xù)上章請(qǐng)求免職，最后同御史一同去職。這年七月，洪遵以端明殿學(xué)士的身份提舉太平興國(guó)宮。

　　乾道六年(1170)，洪遵起知信州。徙知太平州。前任知州周..因?yàn)樵?jīng)彈劾洪遵，聽(tīng)說(shuō)洪遵前來(lái)，不待交付印符就騎馬離開(kāi)。洪遵追趕十里為他送行，噓寒問(wèn)暖如同平時(shí)，說(shuō)：“你是按職行事，我有什么埋怨？”聽(tīng)說(shuō)的人都認(rèn)為洪遵品德十分高尚。圩田毀壞，民眾失業(yè)，洪遵召集民眾修筑圩田共萬(wàn)余。當(dāng)時(shí)正值隆冬，洪遵親自深入到民眾間，載著酒飯親自慰問(wèn)，恩意傾盡，民眾忘記勞苦。轉(zhuǎn)運(yùn)使張松嫉妒他的功勞，妄奏圩田沒(méi)有毀壞，民眾也沒(méi)有遷徙，而是洪遵強(qiáng)迫圩戶(hù)修筑，并裁減募工錢(qián)米的一半。洪遵接連上章抗?fàn)?，甚至?qǐng)求派大臣前來(lái)核查按視。于是將作少監(jiān)馬希言、監(jiān)察御史陳舉善遵命前來(lái)核查，他們同洪遵十分親近，廢黜張松之言，圩田遂成，共四百五十五處。張松沒(méi)有地方發(fā)泄怨憤，就另外修治溧水永豐圩，前來(lái)征調(diào)勞力、大米、樹(shù)木，數(shù)目很大。洪遵說(shuō)“：本郡正當(dāng)歉收之時(shí)，正應(yīng)賑恤流離的民眾，勸分乞糴，如同自割股肉以充饑，自己都不夠吃，哪里還能讓他人吃飽呢？”堅(jiān)持不從。

　　楚地大旱，旁縣賑濟(jì)的人沒(méi)有及早考慮，措施失當(dāng)，有的得到米而沒(méi)辦法煮熟，有的全家饑餓而賑米不足。洪遵派出官員，隨遠(yuǎn)近老壯的不同分別供給糧食，免除租稅的十分之九，又從江西買(mǎi)進(jìn)糧食，得以活命的數(shù)以萬(wàn)計(jì)。戍兵乘饑荒盜竊，結(jié)成團(tuán)伙在外剽奪，洪遵將他們?nèi)烤胁稓w還其軍中。因此遭遇大災(zāi)荒而境內(nèi)安然如故。轉(zhuǎn)知建康府、江東安撫使兼行宮留守。孝宗曉諭當(dāng)制舍人范成大，褒獎(jiǎng)他的政績(jī)，準(zhǔn)許他入朝覲見(jiàn)。

　　當(dāng)時(shí)虞允文當(dāng)政，有北伐的志向。先調(diào)侍衛(wèi)馬軍出屯，其中在建康府的有五軍，全部攜帶家屬，計(jì)劃修筑營(yíng)寨，差不多有萬(wàn)灶。張松無(wú)能被罷免，特令洪遵同宰執(zhí)到選德殿奏事。洪遵上奏外官不敢尾隨兩府之后，希望等班退之后別引，皇帝不許。進(jìn)資政殿學(xué)士后遣行。到建康即張貼布告，民眾苗米只能交納正品而不能交納次品，聽(tīng)任民眾自己持斛丈量，主持谷倉(cāng)的人不能輕重其手。遍行郊野測(cè)量立營(yíng)扎寨之處，尋求不妨礙民居、不夷平冢墓的地方，經(jīng)過(guò)一年才找到。有一營(yíng)卒醉酒，妄言動(dòng)眾，將他斬首，在集市上分尸，全軍無(wú)人敢于喧嘩。有人白天入旗亭拿刀毀棄壚墓，械送獄中，快馬上奏沒(méi)有回報(bào)，統(tǒng)帥害怕遭到譴責(zé)，請(qǐng)求自己處治。孝宗大怒，罷免統(tǒng)帥，洪遵也被牽連貶去兩秩。不久，五座營(yíng)寨建成，復(fù)任原官，仍任資政殿學(xué)士。淳熙元年(1174)，提舉洞霄宮。十一月，去世，時(shí)年五十五歲，謚號(hào)“文安”。