下了洛陽一座孤城；從現在形勢來看很難再堅守多長時間了；大功馬上就要告成；你們為什麼又要放棄無功而返呢？”
在太宗皇帝的堅持下；眾將表示隨他決戰到底。
此次決戰；太宗皇帝總是身先士卒；有一次；他帶五百騎兵巡視前方地形；結果被敵人騎兵包圍。敵將單雄信挺槊直取太宗皇帝；尉遲敬德躍馬而出；將單雄信刺落馬下；掩護太宗皇帝突出了重圍。
此後；便是有名的虎牢之戰。在王世充被圍將敗的緊要關頭；河北的竇建德領兵十萬；號稱三十萬；為救王世充而大舉南下。當時竇建德自稱夏王；佔據河北和山東。他開始也不願意相救；坐觀龍虎相鬥。後來看到王世充處於下風即將被殲；便聽從了部下劉彬的建議；出兵相救；以免在王世充滅亡之後；自己也一樣力單勢孤；難逃厄運。
竇建德開始時寫信給太宗皇帝；要他退到潼關；講和修好。太宗皇帝斷然拒絕；開始部署如何對付竇建德。
太宗皇帝的部下分為兩派意見；以薛收為主的一派認為；王世充現在只缺糧草；萬一得到接濟；戰爭的勝敗就很難預料了。應該在圍困洛陽的同時；由太宗皇帝親自領精銳騎兵搶佔虎牢關。在擊敗竇建德之後；王世充也就不攻自破了。
但是；屈突通等將領卻反對；他們認為虎牢關會腹背受敵；應該先退守新安；再尋機而戰。
太宗皇帝最後決定道：“王世充糧草已將用盡；內外離心；我們就應當坐收餘利；不必勞師動眾攻擊。而竇建德則將士驕橫兵卒懶惰；我們必須進佔虎牢；扼守險要之地。竇建德如果要和我交鋒決戰；一定能一戰取勝；如果他們畏縮不戰；那麼王世充十日之內必然潰敗。假若現在不速戰速決；讓竇建德佔據虎牢；那剛歸降的各城就又無法守衛；我軍就很難再有現在的良機取勝了。”
太宗皇帝最終還是採納了薛收的意見；他命令屈突通和齊王李元吉繼續圍困洛陽；自己則率領精銳騎兵三千五百火速奔襲虎牢；歷史上有名的虎牢之戰正式開始了。
太宗皇帝領兵到達了虎牢關；親自東進二十里偵察敵情；竇建德無法進軍；只好就地築壘固守。此後；竇建德軍隊幾次作戰失利；將士思歸心理日益加重；軍心開始渙散；而運糧道又遭到了突襲；大將張青也被俘。這時；部下建議；渡河攻打懷州；再向西穿越太行山；趁虛攻佔上黨；然後再南下；佔據河東的廣大地區；不但能佔疆土補充兵力；還能威脅關中；從而迫使唐軍退兵自救；洛陽之圍不攻自破。但竇建德一心想找唐軍決戰；根本聽不進；反而說這是書生之見。
五月；太宗皇帝渡河；在黃河北岸牧馬；並留下戰馬千匹；給竇建德一種糧草已盡的假象；他本人則在晚上返回虎牢。
竇建德果然中計；覺得有機可乘；他全軍出動；排兵二十里擊鼓而進；想用氣勢嚇倒唐軍。
太宗皇帝登高觀望；然後對部將說：“竇建德過險關鼓譟而進；這是毫無紀律；臨城而列陣；是在輕視我軍。我們如果按兵不動；他們的勇氣必然漸漸衰退；列陣久了將士就會飢餓疲勞；不攻自退；等那時我們再乘勢追擊；將戰無不勝。”
果然不出所料；到了中午；竇建德的軍隊因為沒有開戰；士卒又飢又渴；開始爭著喝水；很多人坐在地上；沒有了開始時的陣形；一副敗相。
（）
太宗皇帝看時機已到；便下令攻擊；此前已將戰馬悄悄趕回；軍令一下；全軍以排山倒海之勢衝向敵軍；竇建德大敗；自己也中了槍傷；後退途中被唐軍俘虜。
竇建德一敗；洛陽的王世充成了驚弓之鳥；想突圍又遭到眾將的反對；只好開城投降。
竇建德被押送到長安之後；李淵將他處死；結果使他的部將又起兵叛亂；劉黑闥恢復了竇建德原有的地區；