在曾國藩至誠感化下，1864年，李世忠逐漸將軍隊裁減，最后辭職回家。在回家定居的問題上，曾國藩也非常殷勤地為他考慮。像李世忠這樣的人，得勢時飛揚跋扈，目空一切，不給自己留后路，因此得罪不少人，很多人想報復(fù)是正常的事情。為了不讓這樣的事情發(fā)生，曾國藩給他出主意，尋找好的地方。教育他回到家鄉(xiāng)固始，要待人謙和，看輕財產(chǎn)，施舍窮人，以期收回惡名，同時他又給當(dāng)?shù)毓賳T寫信，告諭鄉(xiāng)民，盡除前隙。通過這種真誠的方式，李世忠得到了教育，逐漸改變了自己，他主動捐款一大筆錢給曾國藩做軍餉，而且回到了固始老家，做起了富翁。然而，對于這樣的人，朝廷是不敢信任的，對其監(jiān)視一直沒有放松，一些不利于李世忠的報告不斷送達(dá)天庭。有人上奏李世忠修筑堡寨，私藏炮械；又有人上奏說李世忠招集黨羽，私買火藥。意思很明顯，就是說李世忠有謀反的跡象。在處理這個問題上，曾國藩在奏折中表明了自己的態(tài)度。他認(rèn)為：

李世忠從前不法各事，舉世皆知，神人共憤，既為眾怒所集，一經(jīng)顛蹶，人人欲得而甘心殺之，誠不為過。惟朝廷寬大之仁，業(yè)已十有馀年，凡在降眾無不許其自新，李世忠則曾任實缺提督，幫辦軍務(wù)，歲終有福字之賜，寄諭有獎之詞，在降將中尤屬格外優(yōu)厚，目前如無叛逆實據(jù)，自不便遽加極刑。尋降迭次諭旨，亦飭令切實查明，總以有無叛跡實據(jù)為斷。河南撫臣李鶴年復(fù)奏所指擅殺平民，私鑄小錢，及捻黨窮蹙奔投，以圖生路各節(jié)，均為前事之所有，不知近數(shù)年來究竟有無其事。多筑圩寨，則宜查其是否新添。藏蓄洋炮，則宜查其是否新置。勾結(jié)黨羽，則宜查其來往之人物色如何，風(fēng)影如何。務(wù)須嚴(yán)密訪查，參互錯綜，始能得其情實。

他堅持以誠為本、實事求是的原則，派專人前往秘密查訪，了解情況，一一核對，為李世忠澄清了事實，解除了朝廷的疑惑。