到十月份，曾國藩離開京城，以后就沒再回來，一個月后，曾國藩接下總督大印，先處理刺馬案，把刺客張文祥稍加審訊后就定下死罪。第二年夏天，曾國藩到各地視察，游玩各處名勝。太平天國被平定后，國家興盛，人民安居樂業(yè)，曾國藩看到秦淮一帶，許多游船，音樂聲不絕，他滿意地說：“我這輩子又看見太平盛世，真是高興啊。”到了十二月份，他進入總督府辦公，就是原先洪秀全的宮殿所在。

曾國藩再次來到江南，任期不長。在1872年春節(jié)時他暈倒過一次。幾天后，蘇賡堂河帥來了，曾國藩出去迎接，在轎子里讀經(jīng)書，突然用手指向隨從，說不清話了?；厝ズ笞约簩懭沼洠?/p>

余病患不能用心。昔道光二十六七年間，每思作詩文，則身上癬疾大作，徹夜不能成寐。近年或欲作文，亦覺心中恍惚，不能自主。故眩暈?zāi)考哺物L(fēng)等癥，皆心肝血虛之所致也。不能溘先朝露，速歸于盡。又不能振作精神，稍治應(yīng)盡之職事。茍活人間，慚悚何極？

第二天又寫：

予精神散漫已久。凡遇應(yīng)了結(jié)之件，久不能完，應(yīng)收拾之件，久不能檢。如敗葉滿山，全無歸宿。通籍三十余年，官至極品，而學(xué)業(yè)一無所成，德行一無可許。老大徒傷，不勝悚惶慚赧。

到了第二天，看一個奏章，他又暈倒一次，然后囑咐大兒子曾紀(jì)澤，給他辦喪事要按照過去的規(guī)矩，不要辦道場。第二天他又看鄉(xiāng)試中的一篇文章，下午到花園里面游玩，突然感覺不舒服，被抬到屋子里，坐著去世，享年62歲。當(dāng)時記載，都說南京城中的百姓，在聽到曾去世的消息后都哭了。又說他死的時候，有很大的星星在城樓上隕落，朝廷上下知道后，都感到很難過，文武百官三天不上朝。太后下令，追述他的忠誠和做出的貢獻，在每個省都建立祠堂祭祀他，來表達朝廷上下對于他的感情。