段匹數千人馬自然寡不敵眾，大敗逃回薊城。劉琨的兒子劉群被俘。段末柸對劉群很不錯，不但用貴賓的禮節相待，而且說要任命劉琨為幽州刺史，逼著劉群寫下勸降父親的書信，派密使潛到薊城，請劉琨為內應，一齊對付段匹。
使者被段匹的巡兵捉住，搜出書信。劉琨本來帶兵據守在徵北城（今北京市大興縣境內），聽說段匹敗回，便來探望。一來就被段匹扣住，並拿出劉群的書信給他看。
段匹道：&ldo;劉兄如果想把小弟獻給段末，小弟願伏首就擒。&rdo;
劉琨大驚道：&ldo;我與你是同盟兄弟，其志在於恢復晉朝，一雪國恥。我怎麼會因為一個兒子的緣故就背叛國家，辜負朋友呢？&rdo;
段匹笑道：&ldo;我知道劉兄是光明磊落的人，其實並沒有懷疑你。&rdo;
段匹本要放劉琨回去，段匹的弟弟段叔軍道：&ldo;我們這片地方是漢夷混雜之處。晉人之所以不敢輕視我們，是因為我們段氏鮮卑團結而強大。現在我們骨肉不和，正是晉人起義的好時機。憑藉劉琨的威信，振臂一呼，萬人響應。如果放他回去，有人趁機擁劉琨起兵，那段氏之地當為晉人所有，我們將無存身之地。&rdo;
段匹是個軟耳根子，聽了這話便把劉琨軟禁起來，並派人去徵北城招降劉遵。劉遵守城不出，段匹率軍攻破徵北城，把劉遵擒回。
幽州別駕盧諶，是當年司馬穎手下重要謀士盧志的兒子。他原本是劉琨舊將，聽說劉琨被拘，便帶人潛入劉琨的院內，要救劉琨出城。
劉琨嘆道：&ldo;人誰能不死？我只恨下不能為國爭一方領土，上不得帶軍歸附晉土，國讎國恥不得洗雪！&rdo;說罷推辭不行，盧諶勸了幾回也勸不動。只見劉琨揮毫潑墨，寫下一首詩：
幄中有懸璧，本自荊山球。維彼太公望，昔是渭濱叟。
鄧生何感激？千里來相求。白登幸曲逆，鴻門賴留侯。
重耳憑五賢，小白相射鉤。能通二霸主，安問黨與仇？
中夜撫枕嘆，想與數子游。吾衰久矣夫！何其不夢周？
誰雲聖達節？知命故無憂。宣尼悲獲麟，西狩泣孔丘。
功業未及建，夕陽忽西流。時哉不我與，去矣如雲浮。
朱實隕勁風，繁英落數秋。狹路傾華蓋，駭駟摧雙。
何意百鍊剛，化為繞指柔？
這首《重贈盧諶》後來成為千古傳唱的名篇。此詩前面鋪敘歷史上賢人輔助聖君故事，暗比自己和盧諶、段匹共扶晉室，並說明自己一心為國，不計私怨。詩的後面寫功業未建而身被拘縶的痛苦，傾吐自己壯志未酬、時不我待的悵恨和悲哀。悲涼慷慨，千載之下，尚動人心魄。
盧諶懷揣此詩，大哭而去。數日後，段匹詐稱奉東晉天子密詔，殺劉琨及其子侄四人。劉琨死時，年僅四十八歲。
盧諶率劉琨餘部投奔遼西段末柸，奉劉群為主。幽州晉人有些南去投奔石勒，有些北去投奔劉群，段匹勢力大減。北邊有段末柸不斷進攻騷擾，西南兩方又有石勒大軍進逼，幽州的各個城池漸被段末柸和石勒蠶食。段末柸很快打到薊城，城下一戰，段匹大敗。劉群乘虛佔了薊城。段匹只好率段文鴦等親信部下領著殘兵，一直向南來到山東厭次（今山東惠民縣東），投靠了樂陵太守邵續。
漢國分裂
同在這一年，即建武二年（318），漢國也出事了。
劉聰把一切政務交給太子劉粲管理，自己安心享受人生，吃喝玩樂，好不自在。哪知道樂極生悲，有一天劉聰在後宮和劉氏家族的子弟喝酒，喝到深夜時，皆大醉，有人狂歌，有人沉睡。忽然燭臺被一陣風吹倒，先將幔帳引燃，又燒上房梁。侍衛、太