劉裕因為剛剛平定了桓玄之亂，國家的經濟實力還很弱，而川蜀路險，遠徵也不容易，只好暫時不去管他。盧循佔據廣州等地後，派人向東晉朝廷進貢稱臣，劉裕也因為同樣的原因罷兵，接受了盧循的這種其實是儲存實力的投降，任命盧循為廣州刺史，任命徐道覆為始興相。
東晉義熙三年（407）十二月戊子，劉裕的恩人，揚州刺史王謐病死。劉裕趁機取得揚州刺史的職位，當時這個職位還掌握著京城的兵權；劉裕同時還謀得&ldo;錄尚書事&rdo;的職位，這意味著進入國家最高權力中心‐‐‐尚書臺，並擁有批閱國家所有奏章、進行國家行政決策的權力。也就是說，劉裕從這個時候掌握了整個東晉的政權、軍權、財權等一切權力，成為東晉的實際掌管者。
劉裕掌握東晉之後，第一件事就是北征南燕立威信。其實，劉裕北征南燕，很大的原因也是慕容超自找的。慕容超自從繼承了他叔叔的帝位後，這位歷經災難，甚至當過乞丐的年輕皇帝便開始享受人生，打獵、遊樂、唱歌、聽音樂，什麼都玩，就是不理朝政。後來他又覺得自己宮中跳舞的人不夠級別，國內又一時選拔不到相關的人才，乾脆派南燕軍襲擾東晉北部邊境，搶來不少男女青年，從中挑選人才，培養成樂伎。可能是風氣民俗的原因，東晉百姓中這樣的人才確實很多，經過培訓上崗後，有一些人讓慕容超特別滿意。於是他又派人到東晉搶了一千多青年人回來。
劉裕便以此為理由要親自帶兵北征南燕。這時劉裕當年的戰友劉毅已經看不慣劉裕獨掌朝綱的局面了。劉毅也是北府軍的名將，前文在劉牢之奉司馬元顯之命討伐桓玄，溧洲之戰時提到過此人。劉裕、何無忌、劉毅三人曾在溧洲擊敗桓玄軍隊。後來桓玄掌握朝綱，劉牢之北府軍解散的時候，劉毅投奔到桓弘手下做了一名參軍。當年起義反桓玄的時候，他、劉裕還有諸葛長民平起平坐，一同起義。諸葛長民失敗未能起義成功，而劉毅和劉裕分別成功起義，成為反桓玄的重要力量。桓玄離開京城後，還有很大的軍事實力，後期負責剿滅桓玄的軍事行動，全是劉毅負責指揮的，劉裕基本上沒有參與。可是最終卻是劉裕一個人獨掌朝綱，沒劉毅什麼事，劉毅只混了一個青州刺史而已。他對劉裕相當不服氣，所以這次劉裕準備北伐建功，反對最強烈的就是劉毅。他說：&ldo;你堂堂一個大宰相還需要親自出徵麼？你派一個大將就可以了，並不影響你獲得北伐之功！當年淝水之戰謝安不就是這樣做的麼？苻堅強大的秦軍還不是照樣被打敗，謝安照樣留名青史！&rdo;
劉裕一下子沒明白劉毅話中的深意，反而覺得有些道理。正在猶豫的時候，左僕射孟昶、記室錄事參軍劉穆之都跑到劉裕府中力勸他親自出徵，說親自出徵總是要比留在京中更能樹立威信，而且當年謝安是什麼志向，您又是什麼志向呢？有帝王之志的劉裕遂決定親自出徵，於當年四月帶大兵出發。
慕容超趕緊召開緊急會議，商量拒敵的事。徵虜將軍公孫五樓道：&ldo;我有三條計策：上策，堅壁清野，使晉兵得不到及時補給。我軍可以據守大峴山，使晉軍不能北上。等相持到一定時間，再派一員大將，率二千輕騎兵沿海濱繞到敵後方，絕其糧道，再派另一員大將，從兗州向東進軍。晉軍腹背受敵，又無糧草，必敗；中策，命各城守將儲備物資，閉城不出戰，如果城即將被攻破，就燒掉所有物資。晉軍需要一城一池的艱難攻取，耗盡實力攻下來又得不到什麼好處。用不了一個月，他們就會因實力不濟而退兵；下策，不守大峴山，放敵進入，與我軍直接決戰。&rdo;
慕容超說：&ldo;我們的騎兵很厲害，晉軍善於水戰。不如就放他們進來，在平原之上用我們的精騎兵衝殺，一定能勝。你的下策可以用。&