歸降竇建德的李勣，其實(shí)內(nèi)心中并不愿意留在竇建德身邊。李勣幾次都想逃走，可是又怕危及父親的安危，所以，一直舉棋不定。最后，實(shí)在憋不住的李勣將這些心思告訴給郭孝恪，找這個(gè)老部下商議應(yīng)該怎么做。郭孝恪就說：“現(xiàn)在我們剛剛投靠竇建德，稍有舉動(dòng)可能就會(huì)被他盯上，不如我們先立點(diǎn)功勞給竇建德，等他對(duì)我們徹底放心，再考慮如何逃走”。李勣聽從了郭孝恪的意見，不過如何才能取得竇建德信任呢？只有通過戰(zhàn)爭(zhēng)勝利，才能贏得竇建德的信任，可是唐的地盤是不能打的，那只有去打王世充的鄭，反正竇建德和王世充已經(jīng)破臉。再者，攻打王世充還可以加深竇建德和王世充之間的矛盾，有利于李唐將來各個(gè)擊破。

當(dāng)年十一月，李勣主動(dòng)出擊，把王世充剛得不久的獲嘉（今河南獲嘉）攻下，繳獲大量的物資，李勣把物資連同俘虜?shù)娜藛T獻(xiàn)給竇建德。竇建德十分高興，日漸信任李勣。接著，李勣又攻下新鄉(xiāng)（今河南新鄉(xiāng)），生擒守將劉黑闥獻(xiàn)予竇建德。至此竇建德認(rèn)為李勣是真心歸順自己了。

得到竇建德信任，李勣向竇建德建議：曹（今山東曹縣西南）、戴（今山東成武）二州，戶口充實(shí)，宜攻取之。這建議是絕對(duì)可行的，因?yàn)樵?jīng)有個(gè)叫曹操的人，就這么做過，最后天下三分，他占其二，孫劉共其一。竇建德聽完這個(gè)計(jì)劃，對(duì)李勣的看法深表贊同，為了表示對(duì)這件事的重視，竇建德深為贊同，決定親征。竇建德先命他大舅子曹旦率軍五萬南渡黃河，又令李勣率精兵三千與之會(huì)合成先頭部隊(duì)。

聽說竇建德要親征的李勣，內(nèi)心十分高興，原本李勣只是想竇建德隨便派個(gè)人來，李勣等那人來后，便將那人殺掉，得到整只部隊(duì)的控制權(quán)隨后殺回關(guān)中。沒想到竇建德親自出征，李勣便計(jì)劃趁夜襲營(yíng)，殺掉竇建德，并將自己的父親解救出來。可就在竇建德要出征時(shí)，他老婆曹皇后要生孩子了。南征計(jì)劃隨即擱淺，李勣計(jì)劃被迫落空。

竇建德的大舅子曹旦。領(lǐng)兵到河南后，橫征暴斂，大肆敲詐勒索。引起很大不滿，很多歸順竇建德的義軍也怨聲載道。李勣果斷抓住這一點(diǎn)，積極聯(lián)絡(luò)這些義軍首腦，約定時(shí)間一同舉事。

原歸順瓦崗軍現(xiàn)依附于竇建德的義軍頭領(lǐng)李文相，與李勣為圖謀曹旦。他未曾告知李勣，自己先動(dòng)手，殺了曹旦的若干部將，僅有一個(gè)獸醫(yī)幸免于難，立刻去見曹旦稟告此事。曹旦大驚，立即加強(qiáng)戒備。

李文相舉事之后，才命人前去通知李勣。當(dāng)時(shí)，李勣的大營(yíng)與曹旦駐軍的營(yíng)地相距很近。郭孝恪勸李勣立刻動(dòng)手，出兵奇襲曹旦，將他殺掉?？墒抢顒捱€沒動(dòng)手，就聽說曹旦已經(jīng)有所防備。李勣見事情敗露，即刻和郭孝恪率幾十騎逃離大營(yíng)，直奔長(zhǎng)安。李文相后來被竇建德大軍征討，失敗被殺。

竇建德的手下群情激憤，要求殺李勣父親徐蓋，懲戒李勣。竇建德說：“李勣是李唐大臣，不忘本朝，他父親有什么罪？”就沒有殺李勣的父親，可是這件事在后世稱為攻擊李勣的一個(gè)把柄。尤其是理學(xué)昌盛的宋明之時(shí)，李勣不顧自己父親的行為，更被人罵“禽獸”，因?yàn)樵谒蚊骼韺W(xué)家眼里李勣不能事孝于親就不能事忠于君。自古說忠孝不能兩全，可到國(guó)家安危存亡之時(shí)，理學(xué)家要求先忠后孝，一到太平之時(shí)，理學(xué)家要求先孝后忠，或者是忠孝兩全。嘴長(zhǎng)他們臉上，而且他們又手握筆桿子，自然都是他們的理。我們平心去看這件事，在國(guó)家危難的時(shí)候，必須有舍棄，舍小家保大家這在亂世中，是一個(gè)司空見慣的命題和內(nèi)容，只是后來的理學(xué)家們大驚小怪而已。理學(xué)家們強(qiáng)調(diào)所謂的“氣節(jié)”，可是沒氣節(jié)的往往又是這幫人。平日里日賦萬言，一到關(guān)鍵時(shí)刻卻說“長(zhǎng)江水冷，不適跳江?！边@樣的理學(xué)家才是無忠無孝之人，說李勣不孝，他們也配？