咸豐二年年底，曾國藩風(fēng)塵仆仆地趕到了長沙。當(dāng)時張亮基已經(jīng)招募了部分湘勇，而且湖南各地自行招募的湘勇也陸續(xù)集中到長沙。這些地方武裝中有一個人帶領(lǐng)的隊伍不得不提，這人就是羅澤南。羅澤南，字仲岳，號羅山，和曾國藩是同鄉(xiāng)。此人是當(dāng)時湖南屈指可數(shù)的人物，是一位理學(xué)大家。他和曾國藩是兒女親家，曾中藩的弟弟曾國華、曾國荃都是羅澤南的學(xué)生，羅澤南的學(xué)生遍布湖南，他的威望使不少學(xué)生投入曾國藩門下成為湘軍的骨干，如李續(xù)賓、李續(xù)宜等人。而羅澤南的作用既是為湘軍打下了良好的前期組建的基礎(chǔ)，又為后來湘軍的發(fā)展做出了重要貢獻。

在建設(shè)湘軍的最初階段，羅澤南帶來的千余名湘勇成為湘軍最早的班底，也是曾國藩最為倚仗的“嫡系”。怎么建立一支訓(xùn)練有素的軍隊是擺在曾國藩面前的一個難題。對此曾國藩早就胸有成竹，別忘了他在兵部干過侍郎，對于八旗、綠營的種種弊端十分清楚。對挑選士兵他有自己的標(biāo)準(zhǔn)，就是那些在深山里的農(nóng)民兄弟們。

這些人樸實本分，說得難聽一些就是有點兒傻，但就是這種“傻”，對血親的認(rèn)同感很強，為了自己的同鄉(xiāng)可以犧牲生命。這就把曾國藩認(rèn)為軍隊最大的弊病—“敗不相救”解決了。而有三類人，曾國藩是絕不會用的。一是逃兵，二是街頭的小混混，三是曾經(jīng)為官府做事的人。曾國藩認(rèn)為這三類人油滑有余、誠實不足。在這樣的指導(dǎo)思想下，湘軍成立之初就嚴(yán)格抓住了士兵成分這個關(guān)鍵，奠定了以親情、友情、鄉(xiāng)情為核心的軍隊基礎(chǔ)，得以成為戰(zhàn)斗力驚人的湘軍。

在組建部隊的同時，曾國藩對整個湖南的形勢有了一個比較清晰的認(rèn)識。太平軍此時已通過湖南向長江下游挺進，湖南暫時還是安全的，去主動找太平軍的事兒，那是不可能的，辦團練的主要目的是自保。湖南是個多會黨的地方，因為山多河密，所以造成了反清勢力遍布湖南，比如說天地會、串子會、紅黑會等。在太平軍襲擊湖南期間，很大一部分的會黨人員加入了太平軍，跟隨他們東進。曾國藩現(xiàn)在的想法就是先穩(wěn)定湖南的局面，想穩(wěn)定局面就要從解決這些不安分的人下手，可這些人并不好對付，如果好對付早就解決了。