等劉粲把自家人全部殺乾淨了，就輪到他自己了。
靳準發動政變，亂軍攻入皇城。劉粲在這個時候竟然喊出，快叫靳準救我！
靳準來了，當然不是救他命的，而是要他命的。
劉粲明白過來以後，跪倒在靳準腳下乞求活命。靳準把劉粲的罪狀一一數出，然後當場將他誅殺。他命令除去自己的兩個女兒外，凡是劉家人，無論老幼一律殺死。除了徵北將軍劉雅一人逃出外，劉氏剩下的三百餘口全都被斬於東市。靳準又挖掘劉淵和劉聰墳墓，砍下劉聰的人頭，焚燒皇家祭廟。《晉書?劉粲載記》形容當時慘景：&ldo;鬼大哭，聲聞百里。&rdo;
靳準自稱大將軍，但他只是稱王（號&ldo;漢天王&rdo;）卻沒有稱帝。更出人意料的是，他奉東晉為主，說：&ldo;自古無胡人為天子者，今當將傳國璽送還晉家。&rdo;遂派使臣先到滎陽，告知李矩說他已經為晉朝復仇，屠滅劉族，很快就將率兵帶著二帝的梓棺回到南方。
李矩立即馳報建康，司馬睿派太常韓胤等去平陽，迎還二帝的梓棺。韓胤剛到了黃河南岸，正準備渡河，聽說劉曜和石勒已經率大軍攻入山西，直奔平陽，知道大戰在即，只好返回。
劉雅逃到長安。劉曜聽說平陽劉氏全部被誅，自己的母親和兄弟也沒能倖免，當即發兵，以劉雅為先鋒，殺向平陽。走到半路，眾人都勸劉曜稱帝。要說靳準還真為劉曜辦了一件大好事。本來劉曜與劉聰只是族兄弟，血緣差得很遠，再怎麼輪也輪不上他當皇帝。可是靳準把劉氏皇族一口氣全部殺光了，一個都沒給剩下，劉曜就名正言順地成為漢國的合法繼承人。
劉曜赤壁稱帝，改元光初，然後帶大軍來到粟邑縣（今陝西臨潼縣東北三十四里），陳兵於石勒準控制地區的邊界。
這時石勒也以張敬為先鋒，率五萬士兵，來到襄陵（今山西臨汾南部襄汾境內），這個地方距離平陽（今山西臨汾堯都區）相當近。
靳準率軍去攻石勒，石勒堅守不出。先鋒張敬道：&ldo;您不至於怕靳準怕成這樣吧。咱們大老遠來不就是為了攻打靳準麼？&rdo;
論起打仗來，石勒當然是專家，他笑道：&ldo;等劉雅帶兵來了，靳準一定退軍。到時我再出兵，必敗靳準。&rdo;
果然不久劉雅來到，靳準退兵。石勒率兵掩殺，靳準大敗，丟了幾千人馬逃回城中。
靳準見劉聰和石勒會兵一處來徵討自己，知道肯定打不過人家，便打算想個辦法先使一方退兵，再回過頭來專心對付另一方。因為自己和劉氏有深仇大恨，去讓劉曜退兵可能難度係數要高一些，只能去拉攏石勒了。於是派侍中卜泰出城，將皇帝的車駕、服飾、御用之物全部送給石勒，意思是尊石勒為主。石勒大怒道：&ldo;這是靳準的離間之計，欲陷我於不義！&rdo;當即命人綁了卜泰，將卜泰連同皇帝的車駕、服飾、御用之物一股腦兒全送給了劉曜。
劉曜卻是另一番舉動，他親自為卜泰解縛，和顏悅色地對卜泰說：&ldo;先皇帝的確有不對的地方，靳準幹得好啊，他其實是個大忠臣。他做的事當年商朝的伊尹和漢朝的霍光這兩位賢臣也都做過。而且他又使朕得以登帝位，是大功一件啊。如果能早點迎朕入城，朕一定要任命他高官。你趕緊回城，向靳準轉達朕的意思。&rdo;
卜泰回去後把劉曜的原話轉告給靳準。靳準因為殺了劉曜的母親和兄弟，很是猶豫，既知道自己打不過人家，這樣拖下去不是個辦法；也擔心獻城後劉曜翻臉，到時候自己悔之晚矣。正在進退兩難的時候，堂弟靳康坐不住了。他與左、右車騎將軍喬泰、王騰合謀，發動政變殺死靳準，推靳明為領導，再次派遣卜泰出城，將傳國玉璽獻給劉曜。劉曜非常