宋國派南兗州刺史檀道濟會同冀州刺史王仲德，出師東援；廬陵王劉義真這時也派龍驤將軍沈叔狸，率軍支援。
這場戰爭一直持續到第二年，最終魏將於慄在奚斤部隊的配合下突破了竇晃的防線，大敗竇晃，直逼金墉城。據守金墉和洛陽的河南太守王涓之聽說魏軍來了，棄城而逃。魏軍不戰而得金墉、洛陽。於慄被拓跋嗣任命為豫州刺史，鎮守洛陽。這時，魏軍得以抽出所有兵力集中到虎牢關那裡猛攻，虎牢關越加吃緊，奚斤、公孫表等部日夜猛攻，魏軍的後繼部隊源源不斷。毛德祖拼命抵禦，並挖通六條地道，夜裡從地道中出來偷襲魏軍，將魏軍擊退。但魏軍被擊退並不亂陣腳，毛德祖又不敢追擊迫敵決戰，只能佔了便宜後迅速回城。所以魏軍很快又重新集結攻城。
毛德祖又用了一個反間計，假裝和公孫表通訊，卻故意讓奚斤看到。奚斤查獲書信後，立刻密報拓跋嗣，正巧太史令王亮和公孫表有矛盾，便借這個機會向拓跋嗣說了公孫表的許多壞話。拓跋嗣於是迅速派了欽差大臣，飛馳到公孫表的營中，把公孫表給勒死了。
公孫表本是一員勇將，他一死，毛德祖便減輕了許多壓力，虎牢關竟然因此又守了三四個月。
在山東方面，拓跋嗣命令叔孫建急攻東陽城，又任命刁雍為青州刺史，命令他率部協助叔孫建攻城。刁雍就是被劉裕殺掉的前豫州刺史刁逵的同族，刁逵被殺後，刁氏全族被殺。只有刁雍逃到後秦，後秦滅亡後又逃到魏國。
東陽守吏竺夔一共只有兩千來人，他先派人把所有的莊稼都收割了，然後守城不出。魏軍進入青州後，因為不能就地籌糧等待後勤補給，浪費了一些時間。濟南太守桓苗趁這段時間趕到東陽城，與竺夔合兵一處共同守城。
魏軍不惜代價地強攻，多次造成險情，並且有一次已經攻塌了一段城池，竺夔和桓苗在城缺口拼命搶堵，用屍體填埋缺口，總算擊退魏軍。這時魏軍中流行起瘟疫，有一大半士兵染病。叔孫建要退兵，刁雍極力要求繼續進攻。正在爭執時，宋軍的援軍檀道濟部到了，魏軍遂迅速撤退。
檀道濟是扔了輜重急行軍，到了東陽城時糧草已盡，士兵們也餓了一天了，所以也不能追擊魏軍，便留在東陽城修築城防。
魏軍在東部無法前進，而且碰到了宋軍主力，只好把進攻重點全部集中在西邊，集中了更多的兵力強攻虎牢關。拓跋嗣親自在軍中督戰。
虎牢關已經被圍七個多月，每天都在打仗，士兵已經死傷大半，在魏軍前僕後繼的強攻下，虎牢關在十多天後被攻破。但毛祖德已經事先在城內又修了三重城，魏軍本來以為成功了，卻見眼前又有一重城牆，只好又拼命往裡攻。攻了一重又一重，攻到第三重時，宋軍檀道濟部已經兵至湖陸（今河南焦作），劉粹來到項城，沈叔狸一部則在高橋（今江蘇東海東北）。檀部被魏兵阻住，而劉部和沈部則因畏懼魏兵強盛，不敢與之決戰。魏軍得以從容攻破虎牢關，參軍範道基率二百人突圍南逃，毛德祖被俘後受到很好的待遇，但因傷重而死。虎牢關被攻破後，司、兗、豫三州諸郡縣（大約為河南省全境和山東省西部）全部為北魏佔有。
拓跋嗣本來還想乘勝南征，但也因為身體原因，不得不罷兵回都。他回到平城後很快病死，太子拓跋燾繼位。拓跋燾聽從丞相崔浩的話，停止戰爭，休兵養民。宋軍連打敗仗，也失去了反攻信心。兩國遂罷兵。
拉鋸戰
宋國丟失了大片土地，這讓當年跟著劉裕打江山的這幫將臣很是窩心，但皇帝劉義符倒沒覺得有什麼，照玩不誤。這引起了下面這幫老將老臣的不滿。徐羨之、傅亮和謝晦三人雖然掌握朝綱，但他們更想要的是一個能帶領宋國一統天下的明君，而不是一個大權旁落，只知玩樂的昏君。於是，三個人和太后商量要