馬王儒信勸他自己作冢宰，執掌軍務，以奪李密之權，沒有野心的翟讓不從。翟讓的哥哥翟弘當時為柱國、滎陽公，為人粗愚，此時也說：“天子止可自作，安得與人？汝若不能作，我當為之”。翟讓大笑，不以為意，李密得知後卻很不高興。翟讓又對左長史房彥藻說：“君前破汝南，大得寶貨。獨與魏公，全不與我。魏公我之所立，事未可知”。房彥藻心中害怕，便告訴了李密。這就不免引起李密左右的疑懼，房彥藻和左司馬鄭頲就勸李密說：“讓貪愎不仁，有無君之心，宜早圖之。”李密表示：“今安危未定，遽相誅殺，何以示遠！”鄭頲又說：“毒蛇螫手，壯士解腕。所全者大故也。彼先得志，悔無所及”。在李密一派人的一再慫恿與勸說下，猶豫的李密終於同意採取行動。
大業十三年十月十一日，李密置酒宴請翟讓，翟讓與翟弘及翟弘子翟摩侯前去赴宴。李密與翟讓、翟弘、裴仁基、郝孝德共坐，單雄信等皆立侍。此時房彥藻、鄭頲往來檢校，李密說：“今日與達官飲，不須多人，左右止留數人給使而已。”李密的部下按計劃都退下。但翟讓的部下並未離開。這時房彥藻對李密說：“今方為樂，天時甚寒，司徒左右，請給酒食。”李密便說：“聽司徒進止。”沒有戒備的翟讓覺得有理。便讓部下退出去喝酒。這樣翟讓的部下便被輕而易舉的引開，只剩下李密、翟讓和侍衛蔡建德三人。此時李密拿出良弓，請翟讓試射。翟讓剛剛拉滿弓，蔡建德突然舉刀從後面砍殺翟讓。翟讓大吼一聲。倒在床前。隨即李密部下又將翟弘、翟摩侯王儒信等殺死。徐世勣見狀倉皇走出，被守門的兵士砍傷了脖子，受重傷。多虧王伯當喝住兵士，才救回徐世勣。單雄信叩頭求活，被李密釋放。其餘隨從人員一時驚擾，不知所措。李密出來大聲說：“與君等同起義兵，本除暴亂。司徒專行暴虐，陵辱群僚，無覆上下，今所誅止其一家，諸君無預也。”然後李密又親自為徐世勣裹傷。此時翟讓部眾都想散去，李密使單雄信前往宣慰，又單騎入營中加以安撫。令徐世勣、單雄信、王伯當分領其眾。這樣，瓦崗軍混亂的形勢得到穩定。
翟讓作為瓦崗軍的前首領，帶領瓦崗軍上下從大業七年就開始造反，在瓦崗軍上下有著根深蒂固的領袖權威。而李密作為一個外來人員，從加入瓦崗到殺翟讓時間滿打滿算也就一年的時間，作為瓦崗的首領時間更是短的沒話說。然而李密為了自己對瓦崗的全面掌控，神差鬼使的發動“政變”來謀殺掉前首領翟讓。這場瓦崗軍的內部“政變”是瓦崗軍新老勢力矛盾逐漸尖銳化的必然發展，但是它發生的時間來的太快，使得瓦崗軍上下都沒有接受的心理準備。因此在李密殺掉翟讓，株連了瓦崗軍的基本骨幹，接著又收買單雄信、王伯當等人，安撫了徐世勣等將領後，瓦崗軍上下從此互相猜疑、離心離德，這為李密後來的失敗種下了惡果。
十二月二十四日，王世充部有投降李密的，李密問：“世充軍中何所為？”軍士曰：“比見益募兵，再饗將士，不知其故。”從軍士的口是李密得知王世充部糧草供應緊張，便對裴仁基說：“吾幾落奴度中，光祿知之乎？吾久不出兵，世充芻糧將竭，求戰不得，故募兵饗士，欲乘月晦以襲倉城耳，宜速備之”。。於是命平原公郝孝德、琅邪公王伯當、齊郡公孟讓率所部埋伏倉城附近以待王世充。王世充部果然來夜襲倉城，結果中了瓦崗軍埋伏，大敗而逃。隋軍驍將費青奴被瓦崗軍斬殺，士卒戰溺死者千餘人。
大業十四年（618）正月，王世充得到7萬援軍的補充後，在洛水之北進攻李密部，又被打敗，於是，兵屯鞏縣之北。正月十五日，王世充命令諸軍建造浮橋，伺機大舉反攻瓦崗軍。由於缺乏統一指揮，形成橋先造成的部隊先進攻、前後動作不一的局面。虎賁郎將王辯攻破瓦崗軍外柵，李密營中驚擾亂作一團將要敗潰。王世充卻不曉