1861年下半年，太平軍在浙東、浙西戰(zhàn)場連獲大捷，直逼杭州、上海。

上海受到太平軍威脅，士紳們驚恐萬分，一邊迅速成立“中外會防局”，以期依賴洋人武力保衛(wèi)上海；一邊又選出士紳代表、前清名臣錢寶琛(浙江巡撫)的兒子錢鼎銘，帶著募集的20萬兩白銀，雇用了幾艘外國輪船，率人前往安慶，向曾國藩求援。

曾國藩認(rèn)識到上海對兵餉的重要性，但是眼前自己駐扎在安慶的湘軍要對付南京的太平軍老巢，無力派兵去上海。曾國藩首先派弟弟曾國荃東援上海，但此時(shí)的曾國荃正一門心思為進(jìn)攻南京、立頭等功而積極備戰(zhàn)，哪有工夫去管這種閑事，所以對曾國藩的指示一拖再拖。

叫不動自己弟弟，曾國藩只好將東援上海的任務(wù)交給手下陳士杰，這個陳士杰倒是立刻行動起來，在家鄉(xiāng)招募了上萬兵勇積極訓(xùn)練，可是只擺架勢，沒有行動。這下曾國藩急了，朝廷可是一個勁兒地下旨催他啊。找來陳士杰一問，敢情這是個貪生怕死的主兒，真是太不靠譜了。結(jié)果曾國藩找了一圈，還是李鴻章比較可靠，老師話一出口，李鴻章立刻躍躍欲試，把活兒接了下來。

其實(shí)李鴻章心里的算盤打得好著呢。自從在老家安徽打了幾次勝仗后，他雖然晉升為四品官，但進(jìn)入曾國藩幕府后，這一官職便成了虛銜，根本沒有行使四品官實(shí)權(quán)、獨(dú)立帶兵打仗的機(jī)會。而且，曾國藩的湘軍大營中人才濟(jì)濟(jì)，他很難等到獨(dú)當(dāng)一面的機(jī)遇。所以一直以來李鴻章都在期盼著能有一個自己做主、建功立業(yè)的機(jī)會。這一次簡直就是“天上掉餡餅”，李鴻章當(dāng)然不能錯過。

但此時(shí)的李鴻章還是“光桿司令”一個，兵還得回老家合肥現(xiàn)招。這時(shí)候當(dāng)年辦團(tuán)練的經(jīng)歷就派上用場了。

李鴻章和弟弟李鶴章兵分兩路，一邊去尋找當(dāng)年解散的團(tuán)勇，一邊聯(lián)絡(luò)起當(dāng)?shù)赜忻膱F(tuán)練頭子張樹聲。說起這個山大王張樹聲，他父親和李鴻章的父親是在辦團(tuán)練時(shí)結(jié)交的好兄弟，所以李鴻章和張樹聲很容易就攀上了“世交”的關(guān)系。

張樹聲又把自己手下的大將劉銘傳等叫來一起給李鴻章干活。除此之外，李鴻章還把自己的學(xué)生劉秉璋也拉來入伙，這個人本來就對太平軍恨之入骨，加上又很崇拜李鴻章，所以李鴻章一召喚，他就欣然加入淮軍，后來不僅成為李鴻章的心腹大將，還與李結(jié)為兒女親家。

通過東拉西扯的人脈網(wǎng)，不到兩個月李鴻章就在合肥召集了兩萬多人的鄉(xiāng)勇，速度之快真是讓曾老師都望塵莫及了。不過要求那個階段的李鴻章做到“又快又好”實(shí)在是太難為他了，所以當(dāng)時(shí)招募出來的軍隊(duì)，簡直有些“四不像”。從外形來看，這些兵高矮長短，參差不齊；從服裝來看，他們沒有統(tǒng)一制式的軍服，隨便身著自己的衣服，五顏六色，有的還破爛不堪；從軍人素質(zhì)來看，他們根本不會隊(duì)列，甚至連排隊(duì)都不會。如果說這支軍隊(duì)還有那么一點(diǎn)統(tǒng)一的標(biāo)志，那就是大家頭上都扎著一條毛巾。

就在李鴻章緊鑼密鼓地招募江淮鄉(xiāng)勇的時(shí)候，朝廷方面也有了新動向。由于遲遲等不來援軍，他們打算求洋人幫忙鎮(zhèn)壓太平軍。當(dāng)時(shí)上海有一支華爾領(lǐng)導(dǎo)的“洋槍隊(duì)”，由于經(jīng)常在和太平軍的作戰(zhàn)中取勝，又被人們稱為“常勝軍”。曾國藩對朝廷這種“借夷助剿”的做法很不贊同，認(rèn)為只是治標(biāo)不治本，而且若是讓洋槍隊(duì)發(fā)展壯大插手中國事務(wù)過多，很可能將來“尾大不掉”。于是曾國藩催促李鴻章盡快出發(fā)去援助上海。此時(shí)李鴻章的淮軍粗略分成五個營，也來不及進(jìn)行系統(tǒng)訓(xùn)練，基本裝備和訓(xùn)練方式完全是照搬湘軍的模式，以刀、矛、小槍為主要兵器。