等到了咸豐帝的時候，他也想到了這個辦法。其實朝廷對團練還是心存顧忌，因為團練就和地方割據(jù)軍隊性質(zhì)差不多，歷朝歷代對于武將擁有自己的軍隊都是防著，生怕做大了威脅到自己的統(tǒng)治，所以清政府也不想讓地方勢力膨脹。

但顧忌歸顧忌，畢竟現(xiàn)在火燒眉毛了，除了發(fā)展地方武裝，好像還真沒有別的好辦法。咸豐二年，皇帝下旨兩湖地區(qū)發(fā)展團練，目的直指太平軍。而組織團練的人都是在籍或者丁憂在家的官員，就是讓他們在自己家鄉(xiāng)利用各種關(guān)系組織起武裝力量，曾國藩勢必在這個范圍內(nèi)。咸豐二年十一月，咸豐帝給湖南巡撫張亮基頒了一道圣諭，要求在家丁憂的曾國藩出任湖南團練大臣，幫助湖南政府剿滅太平軍，這是咸豐帝任命的第二位團練大臣。當時冊封的團練大臣除了曾國藩，前前后后一共任命了四十五個大臣，山東、江蘇等地都有。張亮基立即將上級的命令傳達給了曾國藩本人。

在得知這個消息后，曾國藩心中充滿了矛盾。形勢對于朝廷極為不利，作為國家的高級官員，曾國藩應當擔負起拯救國家于危難的責任。但憑借曾國藩一個人的力量能不能做到這一點，他心中沒有底，更別說幾成把握了。他在猶豫，但有人著急讓他出山，好友吳敏樹寫信給曾國藩力勸他馬上行動。郭嵩燾還親自到他家里勸說。

在經(jīng)過激烈的思想斗爭之后，曾國藩還是選擇勇敢地站出來，做了一回墨绖從戎，就是守孝未結(jié)束就帶兵打仗。對于這位理學大師來說還有什么比盡忠二字更重要的嗎？曾國藩給咸豐帝寫了謝恩折，并闡述了自己對于團練的想法：“臣擬現(xiàn)在訓練章程宜參訪前明戚繼光，近人傳鼐成法；但求其精，不求其多；但求有濟，不求速效，誠能實力操練，于土匪足資繳捕，即于省城防守亦不無裨益?！霸鴩獪蕚浞滦堇^光的練兵之法，打造一支精銳的部隊。折子送到咸豐帝那里，咸豐帝一如既往地簽了三個字：“知道了?！钡还芑实凼窃趺聪氲?，曾國藩決定按照自己的想法去做。