隋末，天下大亂，李勣投身瓦崗寨，迅速脫穎而出，與單雄信并肩成為翟讓的左膀右臂。李勣文武雙全，翟讓多納其策。

生存與發(fā)展

瓦崗寨起義之后，最大挑戰(zhàn)在于如何更好地生存與發(fā)展。首先是到那里弄糧的問題。再有，起義的農民軍分散在河北、河南、山東等地，彼此缺乏聯(lián)系，難以協(xié)調作戰(zhàn)，不能形成強大的威懾力量。而大隋帝國中央力量還極強大，完全可將義軍逐一擊破。這時，初上瓦崗的李勣向翟讓提出自己的建議：

今此土地是公及績鄉(xiāng)壤，人多相識，不宜自相侵掠。且宋、鄭兩地，地管御河，商旅往還，船乘不絕，就彼邀截，足以自相資助。

這一建議包涵了三層意思：

第一，東郡，即瓦崗山所在地，是翟讓、李勣故鄉(xiāng)，人多相識，地主、貧民“不宜自相侵擾”。即是不要再本鄉(xiāng)本土打家劫舍，或許財物。這點直指義軍的致命弱點，中國兩千多年的封建史，起義軍更如過江之鯽數不勝數，為什么成功的僅僅只有秦末的劉邦、隋末的瓦崗寨，和元末的朱元璋，關鍵就在于那些失敗的義軍在起義后，有了一定勢力便為所欲為，搶劫鄉(xiāng)里，連春秋戰(zhàn)國時期的大盜盜跖還知道跑到千里之外搶劫，可是那些義軍連“兔子不吃窩邊草”的道理都不明白，民心已失，等到朝廷的軍隊到來，民眾還不簞壺盛漿以迎王師?。∷哉f起義造反這東西，你一定要堅持一點，就是我就是正義之師，哪怕這僅僅是個口號，你也要震天動地地去喊，這點水泊梁山做得就很好，一面杏黃大旗高高飄揚，上書著“替天行道”四個大字，可是這并不妨礙梁山好漢們打祝家莊、曾頭市、大梁府等地時一村一村的屠，一城一城的殺。有時候口號和作為是兩碼事，口號只是在你成功后給在你腳下匍匐的史官看的，讓他們好好美化美化自己。所以李勣才提出不能搶自己地盤上的東西，何況這地方也并不富庶。但是，瓦崗軍上上下下都要吃飯啊，你不去搶指望什么養(yǎng)活老婆孩子啊，這幫義軍大多都是些無賴，你不發(fā)錢激起兵變，都不用隋朝滅你，自個就把自個收拾了。后世的大太監(jiān)劉瑾怎么死的，死就死在外地的兵變演化出的蝴蝶效應上了。不過李勣早為瓦崗軍想好了出路。

第二，鄰近的宋、鄭兩地也不要搶。

第三，只搶劫行駛于宋、鄭兩郡界內之御河（通濟渠）的船只：就是搶官家的東西。一來官家的東西有質有量，搶一次就可支撐好幾個月；二來，煬帝正忙著打高麗，運河船只往來不息，隨時都可去搶；三來，搶掠的都是所謂民脂民膏，搶完雖落入自己腰包，卻也有殺富濟貧的味道，還可展現瓦崗寨是替天為民的正義之師：又有實惠又得名聲。

翟讓很爽快地批準了李勣這一建議。自此，瓦崗軍供應充足，武器精良，還有余力時常接濟一下周邊百姓，在普通百姓心中地位越來越高，來投奔的人也越來越多，很快便發(fā)展為萬余人。