李淵造反並佔領了長安的訊息傳到江南的時候，隨楊廣一起到江南的關中驍果（親軍）就凌亂了，在關中的家人都在叛軍李淵手裡你說他們能不慌亂嗎。於是關中籍計程車兵開始私自出逃回關中，楊廣知道後派人抓到一個殺一個，希望抑制驍果們西歸的浪潮，但是越殺越多的人逃。於是小股的叛逃不成後，想回家計程車兵們就彙集在一起變成有組織有計劃的大規模叛逃
當時，武賁郎將司馬德戡統領驍勇果敢之士，駐紮在東城。聽到士兵想反叛西歸的風聲，不知真假，就派校尉元武達私下秘密詢問知情人，他自己也想和西歸的人一樣回關中。後司馬德戡又與關係友善的武賁郎將元禮、直閣裴虔通互相蠱惑煽動說：“聽說陛下想在丹陽築造宮殿，人人都謀劃著逃走。我想向陛下上言，恐怕還沒上言就被殺掉了。如今，知道而不進言，後來發生了事情當有滅族之罪，不知該怎麼辦才好？”裴虔通說“：主上實際上就是這樣。”司馬德戡又對二人說“：我聽說關中陷落，李孝常在華陰反叛。陛下把他的兩個弟弟囚禁起來，準備都殺掉。我們這些人的家屬都在西安，能沒有這種憂慮嗎？”裴虔通等人說“：正是恐怕家屬早晚被殺，卻又無計可施。”司馬德戡說：“驍勇果敢之士如果逃走，可和他們一起逃離。”裴虔通等人說：“就依公所說的這樣。”
因而互相傳遞訊息，招納引誘。又轉告內史舍人元敏、鷹揚郎將孟景、符璽郎牛方裕，直長許弘仁、薛世良、城門郎唐奉義、醫正張愷等人，日夜聚會賭博，結為生死之交。說話沒有什麼迴避，在聚會之中就商議反叛西逃之計，都互相贊同應允。當時，李質在宮禁中。令驍勇果敢之士守衛宮廷，宮中和外界交往通訊，謀劃更為急切。另外，趙行樞先前與宇文智及有交往。勳侍楊士覽，是宇文氏的外甥，二人一同把事情告訴宇文智及。宇文智及平常就狂妄悖逆。聽說後非常高興，就一同去見司馬德戡，約定三月十五日一同舉兵反叛，搶劫十二衛武的馬匹，掠奪居民的財物西歸。宇文智及卻說：“皇上雖然昏庸暴戾，但是威令尚行。如果你們逃跑，搞不好會跟竇賢（前面所講帶頭整編制逃跑的將領，後被楊廣派兵追上斬首）一樣，落個身首異處的下場。現在天滅隋朝，群雄並起，一起想叛變逃跑的已達數萬人。如果大家同心協力，共行大事，則帝業可成！”。司馬德戡等人想想認為言之有理，可造反是大事，總得有個帶頭大哥啊！幾個人一商量，決定擁戴宇文化及為起事的主帥。密謀妥當後，這幾個人才將陰謀告知宇文化及。
宇文化及是大將宇文述之子。他年少時不守法度，長安人稱他為“輕薄公子”。楊廣為太子時，他領禁軍，出入臥內，很受寵信。楊廣即位後，授他為太僕少卿，又以其弟宇文士及娶女兒南陽公主。宇文化及受寵驕橫，曾違禁與突厥交市，因宇文述及公主的緣故，才免一死。在大業十二年（616），深受楊廣信任的宇文述臨終前乞求楊廣看顧其子，宇文述死後，楊廣因其父宇文述的原因便授宇文化及為右屯衛將軍。大家之所以選擇宇文化及化及，首先就是考慮宇文化及時任右屯衛將軍，官職和威望都高於司馬德戡等人，其次宇文一家經過宇文述多年經營，朝中勢力不小。
宇文化及本駑鈍怯懦，能力低下，十足的公子哥，膽小怕事，一聽到這種弟弟和司馬德戡等人的謀逆大事時，嚇得臉色頓變，冷汗直流。在他們好長時間的勸說下才穩下心神，答應做叛軍首領。
大業十四年（618）三月初一，司馬德戡就想行動了，但擔心眾人不能一心，便生詭詐來威脅驍勇果敢之士，對許弘仁和張愷說：“你們都是良醫，受國家支使，說出話來迷惑眾人，眾人必定相信。你們可以進入備身府，告訴認識的人，說陛下聽說驍勇果敢之士準備反叛，釀造了很多毒酒，藉助宴會的機會，把驍勇果敢之士全都毒死，只把南方人留