劉裕一共有七個兒子，長子劉義符為太子，但劉義符愛和一幫混混在一起胡鬧，這讓劉裕很是擔心，加上他的身體每況愈下，便開始考慮換太子的問題。他派謝晦考察老二廬陵王劉義真。謝晦考察後回來報告說：&ldo;劉義真有辯才，但無德量，德輕於才，實非人主。&rdo;
公元421年，劉裕的三兒子劉義隆才十四歲，年紀還太小，劉裕暫時並未考慮把他列為太子人選。老四劉義康只有十二歲，其餘三個兒子更小。劉裕最終還是沒有廢掉太子劉義符。公元422年春，劉裕有一段時間臥床不起，後來病情轉好，但到了夏天又突然惡化。劉裕任命徐羨之、傅亮、謝晦三人為輔政大臣，同時暗令劉義符防備謝晦有不臣之心。不久後劉裕病亡，年六十歲，在位兩年有餘。
劉裕從把持晉朝政權到做宋朝皇帝的這一段時間所採取的治國政策是很積極的。由於他出身貧寒，生性節儉，所以很注意休養生息，愛惜民力。後宮的嬪妃很少，宮女和太監自然用得也少，宮內開支並不多。劉裕更不喜珍寶奇異之物。當年他出徵後秦的時候，有人送上來一個琥珀枕，光色華麗，十分漂亮。劉裕讓人把這個琥珀枕搗成粉分給將士作金瘡藥。嶺南曾經獻上一種筒細布，做工精緻異常，劉裕認為這種東西太耗費人力，但用處並不大，屬於奢侈品，於是命有司彈劾嶺南太守，並下令禁作此布。劉裕平定關中後，他得到了姚興的侄女姚氏，由於姚氏太漂亮了，連不近女色的劉裕也被她打動了心，對姚氏十分寵愛。臣下謝晦勸諫他不要因女色而荒廢政務，他當晚就將姚氏送出宮去。劉裕宮中所用的東西，能用銀器的絕不用金器，能用銅器的絕不用銀器。他還把自己貧賤時用過的農具在宮中專設一展覽室陳列起來，以告訴後代要克勤克儉。劉裕的女兒出嫁的時候，嫁妝中沒有一件錦繡金玉的衣物。
劉宋初期，劉裕收復北方的青、兗二州，西至關中，大致擁有黃河以南的廣大地區，成為東晉南朝時期疆域最大的一個王朝。劉裕即位前後，吸取了前朝士族豪強挾主專橫的教訓，抑制豪強兼併。他殺了奴客縱橫的京口大地主刁逵，把刁氏成萬頃的土地和大量財產分給貧民；後又殺了隱匿人口的餘姚大族虞亮。有鑑於晉朝時荊州等地大將擁兵自重，屢為禍亂，他削弱強藩，集權中央，裁併荊州府的轄區，限制其文武將士的額員。為防止權臣亂政，他特下詔：凡日後大臣外出徵討，一律配以朝廷軍隊，軍還交回朝廷。
由於東晉士族隱匿戶口，大大減少了官府收入，劉裕下令整頓戶籍，厲行土斷之法，清理僑人戶籍，使僑富戶口編入所在郡縣。他還廢除一部分屯田池塞以賑百姓，並禁止豪強封錮山澤。國家出現財政赤字的時候，劉裕曾經想增發貨幣，造五銖錢。但經過太常範泰的勸說後，他終於沒有實施這個其實是變相掠奪民財的政策，轉之以依靠發展生產來充實國庫。劉裕下令：凡政府所需物資，不準像過去那樣濫行徵發，而是派有關官員以錢購買。適當降低農民租稅，廢除苛繁法令，讓百姓在寬鬆的環境中休養生息，發展生產。劉裕在中國歷史上是個比較明智的帝王，算得上是一代有為之君。
北魏皇帝拓跋嗣聽說劉裕死了，便命司空奚斤為大將軍，率兵南下，欲收復河南、山東等地。這時在河南省汝河與潁河流域，活動著一支一兩萬人的隊伍，這支隊伍是晉朝宗室司馬楚之組織起來的，他們佔據長社（今河南長葛東北），與宋國為敵。這一段時間內，宋國並沒有發兵攻打他們，而是派刺客去刺殺司馬楚之。但刺客沐謙不但沒有下手，還投奔了司馬楚之。後來劉裕病重，又一直操心選太子的事，便沒有來得及剿滅司馬楚之。當然，司馬楚之的實力也不足以讓宋國擔心，所以才得以存在下來。這次北魏南征，司馬楚之主動聯絡北魏，被北魏任命為徵南將軍兼荊州刺史，與奚斤一起進攻