他的裁軍計劃中桂系的軍隊不但不用裁撤，而且還可以擴編，理由嗎就是桂系人數最少。
看似一下子，蔣瑞元把馮玉祥和閻錫山都得罪了，同時桂系跟他有舊怨，這三個集團軍的勢力加起來是蔣瑞元的兩倍多，好像他的處境不是那麼的妙了，看樣子他裁撤雜牌軍閥，只保留自己的軍隊作為中央軍，以後實行獨裁的圖謀幾乎不可能實現了。
但這是蔣瑞元的高明之處，就跟他下野後一定能再次復出，而且權力更大的鐵律一樣，凡是武力反對他的都沒有好下場也是一個鐵律。
1927年，唐生智擁14個軍的雄厚兵力，轄湖南湖北富庶之地，跟他對立。當時北伐尚未結束，孫傳芳等軍閥仍然沒有消滅，唐生智的內訌很不得人心，但是其他各方也樂得他跟蔣瑞元鬥個不亦樂乎。當此時，蔣瑞元宣佈下野，滿足了唐生智的要求，這一下子陷執著用兵的唐生智於輿論上的下手。同時他的下野讓桂系馮系看到了希望，於是三方聯手滅掉了唐生智，收編了他手下的軍隊，在蔣瑞元的有意操作下，桂系收編的最多，最精銳，而且桂系得到了唐生智的兩湖地盤。
唐生智只不過是第一個，第二個輪到了桂系。雖然在裁軍會議上保護了桂系，看似桂系勢力最大，實力最強，地盤最廣。而蔣瑞元卻得罪了其他兩個集團軍，要是對桂系下手，似乎無法得到別人的幫助。但是這正是蔣瑞元的高明之處，他坐擁中央之名，要是在積極拉攏別人，難免被人猜疑，反而不好。於是乾脆擺出一副咄咄逼人的架勢，把所有人都得罪，不但如此，他還在其他人中製造不合。當馮玉祥的軍隊進入河北，正要攻佔京津的時候，他以北伐軍總司令的名義命令馮氏不許進入這兩個地方，改讓閻錫山接收。他給的原因是這裡有大量外國勢力，馮的脾氣直爽，軍隊的作風太過強悍，不適合跟外國人周旋，讓擅長權謀的閻錫山去處理更合適。這說的光明正大，馮不能拒絕，但是失去京津這兩個發達城市，自然心有怨言，不但怨恨蔣瑞元也怨恨閻錫山。他又允許打到這裡的桂系白崇禧部駐紮在山海關，白崇禧自然願意，因為一旦國府決定攻打東北的話，他們桂系將最有機會戰友富庶的東三省。
讓北方馮閻雙雄相互制衡，南方就剩了桂系跟自己抗衡，而桂系的勢力卻被南北分割起來。是到了收拾桂系的時候了，他依然不優先採取武力，先是指示名義上隸屬桂系的湖南軍閥何健去挑撥驕橫的桂系悍將夏威、陶宗澤等人從湖北攻擊長沙的湖南省主席魯滌平，然後罷免了魯，這就是有名的湘案。事件爆發後，李宗仁白崇禧當即請辭，但是蔣卻不允許。卻要求二人懲治手下的將領，兩人也不答應，於是蔣桂戰爭爆發了，此時是1929年4月初。
蔣又是大玩手腕，先是把桂系廣州勢力李濟深以和平協商的名義騙到南京軟禁起來，讓桂系廣東勢力群龍無首，又買通了把手武漢大門的桂系將領，放中央軍入湖北，接著是聯絡上次被自己打敗留洋的唐生智，讓他回國召集舊部。而唐的舊部大多被桂系收編，尤其是北方山海關的白崇禧部，三四個師中桂系嫡系只有兩三個旅，其餘全是唐生智舊部。白崇禧接到他的手下已經叛變的訊息，立即從天津出海逃到香港去了。李宗仁此時還被堵在上海，也聽說了蔣已經派出特務來刺殺他的訊息，也趕緊跑到了香港。桂系三大領袖，李宗仁白崇禧李濟深戰爭開始前就已經被逼著離開了軍隊。接著是唐生智指揮舊部跟桂系在兩湖打個你死我活，蔣帶大軍沒有遇到抵抗就開進湖北，桂系紛紛投降，收拾掉桂系這個北伐中的一大集團軍只用了不到一個月時間。讓想佔便宜的馮玉祥連機會都沒找到。
這時候蔣開始把目光對上了馮玉祥了。
收拾掉桂系一個月後，蔣介石藉口馮玉祥在河南破壞鐵路，開除了他一切職務，蔣馮戰爭爆發，此時是1929年5月