這時，庾亮又派人前來催促，並且在信中道：&ldo;你一再地拖延不來京城，難道想謀反麼？&rdo;
蘇峻早就憋著一口氣了，聽了此話，再也忍不住了，罵道：&ldo;好，你都說我謀反了，我到朝中還能有活路？以往國家危險的時候，多虧我出了大力氣，才換來今天國家的安定；現在，兔死狗烹，卸磨殺驢，卻要除掉我了。我就是死，臨死前也要把你殺掉！&rdo;遂於歷陽起兵，聲討庾亮。
豫州刺史祖約（祖逖的弟弟）也被庾亮穿過小鞋，得知蘇峻造反，也起兵響應，派大哥的兒子祖渙、女婿許柳率兩萬兵前往支援。蘇峻聽說後更堅定了反叛的決心，以韓晃、張健為前鋒，殺向京城。
司徒司馬陶迴向庾亮建議道：&ldo;您趕緊截斷阜陵通道，守住江西當利等險要的地方。使他不能襲擊京城的後方。雖然蘇峻兵精，但畢竟我們的軍隊比較多，據險而戰，必可勝他。&rdo;
庾亮並沒有聽從，而是嚴陣以待。哪知道蘇峻先佔了姑孰，把那裡的糧食等物資全部奪去，庾亮這才知道打仗並不是兩軍碰一塊兒廝殺就行了，原來還要涉及到各個險關把守，重要城市之間的互相支援，以及後勤供應等方面。於是才開始聽從軍事專家的意見命令左將軍司馬流率兵去守慈湖，派其弟庾翼去守衛石頭城。但已經晚了，司馬流剛趕到慈湖，大營還沒有紮好，大家正在做飯，韓晃突然殺到，司馬流大敗，亂軍中被殺。蘇峻遂與祖渙、許柳等合兵一處，向京城而來。
司馬陶回又建議道：&ldo;石頭城有重兵把守，地勢險要，蘇峻決不敢從這個地方過，一定是繞到南邊從小丹陽徒步而來，如果在那裡設下伏兵，一定可勝。&rdo;
庾亮道：&ldo;小丹陽南道狹險難行，蘇峻一定認為我設有埋伏，怎麼敢從那個地方過來？&rdo;又不聽從。其實庾亮埋伏一支軍隊，就算是沒等到蘇峻來，又能給自己造成多大損失呢？戰爭不是遊戲，成敗往往在於一念之間，只要有取勝的可能性都應當重視實行，庾亮隨隨便便就把這個機會放棄了，簡直太愚蠢了。
蘇峻料定庾亮不會在險道設伏，派人把船都開出來，大張旗鼓地向石頭城進發，揚言要進攻石頭城，其實每隻船上只有船伕一人，鼓手一名。而自己親率大軍，趁著夜色，人含枚馬勒口不舉火，摸黑從南道摸到京城之下。
庾亮聽說蘇峻帶兵來到京城，這才又一次後悔。
卞壼、郭默、趙胤帶兵出城與蘇峻交戰，但並不是蘇峻的對手，大敗而回。蘇峻遂率軍進攻青溪柵。青溪柵是南京城在青溪左岸沿河設有的類似籬笆的防禦設施。相當於一道城牆，攻破青溪柵便可入城。
卞壼拼命守在青溪柵，直打到晚上蘇峻也沒有攻下，正好西風颳起，蘇峻命人放火，結果風助火勢，燒入卞壼軍中，蘇峻趁勢攻入，卞壼被困不能衝出，力竭而亡。蘇峻勸卞壼的兩個兒子卞眕和卞盱投降，二人道：&ldo;父為忠臣，子為孝子，夫復何恨！&rdo;也都力戰而死。
亂兵攻入雲龍門，丹陽尹羊曼、黃門侍郎周導、廬江太守陶瞻全都戰死。庾亮在宣陽門拒守，很快也被亂軍攻破，庾亮只好與庾翼、郭默、趙胤、孔坦等出城，向西投奔潯陽溫嶠。
亂兵入城之後，到處搶劫，只要看到身穿軍服的，一律殺而不受降。看到女子，便扒光衣服強姦，許多女子沒有衣服，只能用茅草蓋住身體，連草都找不到的，便挖土蓋體。南京城內，哀號之聲，不絕於耳。
王導急忙命侍中褚翜抱了小成帝登上太極前殿。王導、光祿大夫陸曄、荀崧、尚書張闓、右衛將軍劉超、侍中鍾雅、褚翜等人帶著幾名不願逃走的禁軍侍衛把小皇帝圍在中間。不一會兒，亂兵殺入殿中，褚翜厲聲呵斥道：&ldo;讓蘇