這時山東青州又有王彌和其堂弟王桑，還有陽平縣劉靈等人，趁著苟晞和石勒交戰也積聚力量，招了數萬兵馬分別造起反來，欲割據山東。司馬越急忙升了苟晞的官，拜他為徵東大將軍，封東平郡公，帶重兵前去徵討。司馬越也親自帶兵從河南許昌移兵到山東省西南的鄄城參加徵討，與苟晞互為聲援。
苟晞和弟弟苟純去打王彌，王彌屢戰屢敗，一路後退，在山東沂蒙山區和苟純捉迷藏。王彌很是辛苦，非常洩氣，卻又想不出好辦法，手下謀士曹嶷道：&ldo;苟晞這個人很厲害，兵力也比咱們多。要想開啟局面，不如避開他，去偷襲洛陽。&rdo;
王彌大惑不解：&ldo;你不是和我開玩笑吧？我要是從山裡鑽出來，苟晞一定會追在我的屁股後面打。從這裡到洛陽有上千裡，沿途又要攻城奪地，前後受擊，不是自取死路麼？&rdo;
曹嶷道：&ldo;司馬越把所有的兵力分成兩路，一路交給苟晞，另一路由他帶到了鄄城。因此從魯西到許昌再到洛陽，一路空虛，只有些老弱殘兵把守城池，只要咱們騙過苟晞，跑得夠快，不怕洛陽拿不下來。&rdo;
曹嶷出的這個主意相當精妙，王彌連稱佩服，立刻整軍帶五萬人馬穿上官軍的衣服向許昌而去，留下曹嶷帶一千人馬繼續跟苟晞捉迷藏。曹嶷命多做草人，穿上軍服，插在山上，竟把苟晞給騙過去了。
王彌詐稱官軍回都，奪了許昌重地，而其餘小城基本無兵把守，所以王彌一路暢通，很快殺到洛陽城下。洛陽城還有一萬禁軍，勉強將城池守住。王彌攻了許多日，眼看就要攻下洛陽了，真是趕的早不如趕的巧，恰好涼州刺史張軌派督護北宮純帶一千多人來京城辦事。見王彌圍城，遂帶千名騎兵直殺過去。
這一千人雖然人數少，但十分勇猛，王彌的軍隊被這麼一衝，頓時大亂，沒了隊形。城裡的軍隊以為是大隊援兵到了，也開啟城門殺出來，兩面一攻，王彌潰敗，只帶了幾千兵馬北逃。王彌在黃河邊上看見劉靈也帶著幾百號準備渡河，過去一問，原來劉靈被司馬越殺敗，也是一路逃過來的。兩個難兄難弟一商量，還是投奔劉淵吧。
劉淵聽說兩個人來投，擺宴相迎。宴席上王彌說：&ldo;您已經稱王多年，一直割據一方，太可惜了。我看您不如稱帝，然後先西攻長安，再東取洛陽，最後南下統一全國。當年劉邦就是這麼幹的，您何不效仿呢？&rdo;
劉淵遂於漢元熙五年（308），即晉永嘉二年十月甲戌日，稱帝於蒲子城。命劉聰、王彌率眾三萬人守太行；石勒和劉靈率三萬人守山西。再於第二年正月遷都平陽（今山西臨汾西南）。西晉歷史在這個階段，基本上分為三個政權，西南為李雄，劉漢佔據除太原、上黨以外的山西全境，還有今天的內蒙中部和河北的一部分。其餘為西晉政權。而這一時期的主要事件，是劉漢和西晉爭奪天下。
石勒割據河北
洛陽之戰後，很多人對司馬越不滿，認為司馬越把所有的兵力調到山東，根本就沒把皇帝的安危當一回事。少帝司馬熾此時也在位一年了，手底下漸漸也有了些寵臣，這些大臣把司馬越的過失到處散佈，意在打擊司馬越的威信。司馬越在洛陽安插了不少密探，聽說這件事後帶兵來到洛陽，把少帝司馬熾身邊的心腹近臣中書監繆播、太僕卿繆胤、散騎常侍王延、尚書何綏、太史令高堂沖等十多個人全部殺死。少帝幹著急沒辦法，只能趁沒人的時候悄悄在後宮跟幾個心腹太監訴苦，一邊痛哭一邊大罵：&ldo;要說奸臣賊子，也不是哪個朝代都有。可為什麼偏偏輪到我呢？&rdo;
司馬越又將宮廷侍衛中所有不是自己提拔起來的武官全部罷免，然後留在洛陽，獨掌朝綱，從此徹底在精神上和權力上完全掌握了西晉。
有