第十二協統領），因此懷恨，久思報復。周東北人，騎兵第三營營長馬蕙田亦東北人，吳在延吉時，馬即跟隨吳，吳頗信任其人，故令其為衛隊長，狼子野心，吳不知也。十五日（公曆11月5日）周到石家莊，到後不謁見吳，即與馬蕙田等約集軍官開會，引誘軍官。何遂報告吳，吳說：“不要緊，衛隊長馬蕙田是靠得住的。”天黑時陳其採來，亦與周等開會。何又報告吳：“危險，要警惕！”吳態度仍安祥，說：“我有何懼。”不知彼等以銀三萬兩給馬，密令其行刺也。十六日夜十一點多鐘，吳正與參謀張世膺、副官周維楨，在車站辦公室批閱機密文牘，馬蕙田帶同參謀夏文榮、隊官吳雲章、排長苗得林等四人進見吳。客廳外是一個小院，馬說：“來向大帥賀喜”，打下千去，就從衣服下拉出一支槍來。吳一看不對，一手拉出槍，從視窗衝到小院裡，跳上牆。馬等連擊，吳腿中彈跌下回擊，馬等向外跑去，吳在後而追。走到牆外，伏兵起，頭部中彈倒地死，並喪其元。張世膺、周維楨同時殉難。
刺殺吳祿貞的主謀和兇手說法不一。據閻錫山回憶：
吳將軍返石家莊後，以車站票房為行轅，夜與其參謀周維楨、張世膺治軍書，忽有人入，以賀問晉巡撫為言，槍擊中吳要害，周、張兩參謀亦同遇難。時為九月十六日午夜，實乃十七日之早1時。晉軍先頭部隊第一營，由劉國盛率領，於斯時甫至，驚悉吳將軍被刺，且見石家莊秩序大亂，乃原車返晉，並拆毀鐵路十餘里，以斷追路。當時在吳部之同盟會盟友隨晉軍來歸者，有孔庚、王伯軒、倪普香、李敏之諸君，據他們說，吳將軍之死，乃清廷以2萬兩銀子買通其部下吳旅長鴻昌所圖，與一般所傳刺吳將軍者為周旅長符麟微有出入。
何遂在睡夢中被槍聲驚醒，出來一看，才發現吳祿貞、張世膺等被刺身死。當他明白髮生兵變之後，悲慟欲絕，就向山西民軍駐地跑去。後來又受到同盟會員倪德薰（普香）的保護，才發現副官齊燮元帶領約一個連，臂纏白布，宣佈起義。禁衛軍的一個旗兵團，聽說有人起義，嚇得向北逃了，武器彈藥扔了一地。
太原起義後由北京繞平山、盂縣回到娘子關前線的景梅九，在半夜一點多鐘接到石家莊的電話，得知吳祿貞被刺後，特別懊喪。他同仇亮、姚以價商量，決定由仇亮、景梅九、姚太素等率兵一部到石家莊料理後事，看望在那裡的山西民軍，並相機動員第6鎮官兵為吳統制報仇，同山西民軍一起革命。他們於11月7日上午到達石家莊，在車站看到臂纏白布的起義士兵，並遇到何遂，後來又遇到第12協協統吳鴻昌。雙方會商善後。仇亮以山西民軍參謀長的名義，景梅九、姚太素等以參謀的名義出席會談。關於會談的情況，景梅九作了記述：“我開口向吳氏說：‘吳統制雖死，但是他和晉軍的聯合計劃，我們還應該繼續實行！’吳氏問：‘我們底軍餉，晉軍能擔任嗎？’我慨然道：‘能，晉軍不缺餉，即再增數萬兵，也有力擔任！’這幾句話，卻不是應酬門面，我心裡有個籌款計劃，以為定能辦到的，所以毫不含糊的答應了。吳氏見我答應的慷慨，便道：‘好極了！有什麼意見，都可以發表。’仇氏主張先發一電，給張紹曾氏，請他由奉天發兵，直攻北京，第6鎮為聲援，何參謀擬妥即發，並主張發令先斷南北鐵道兩段，以阻清兵南下，而解武漢革命軍之圍。此項命令亦由吳氏許可，由何擬定即發。到石家莊才知綬卿招忌在截留向漢口運送的德國造槍炮子彈數百萬，所以當席發言曰：‘吳統制截留之子彈，可移存娘子關，較為妥適；恐此間軍隊如一旦開發，恐不能攜帶故。’吳氏也認可。仇氏主張由吳氏集合六鎮兵，由我們集合山西兵，為吳統制舉哀，並誓師北伐。吳氏也沒說別的。此外還有些小問題，都解決了，並邀他先到娘子關一行。說話中間，時已垂暮，於是大家起身，要分頭去