東晉恭帝元熙二年（公元420年，北魏明帝泰常五年）六月丁卯日，劉裕接受司馬德文禪位，代晉稱帝，終結了東晉。劉裕將國號定為“宋”，改元永初，史稱其為“南朝宋”或“劉宋”。
劉裕稱帝后，大赦天下。尊繼母蕭氏為皇太后，立世子劉義符為皇太子，桂陽公劉義真被封為廬陵王，彭城公劉義隆為宜都王，劉義康為彭城王。又任命自己的弟弟劉道憐為太尉，封長沙王，追封劉道規為臨川王，並以劉道憐的兒子劉義慶繼承劉道規的爵位。徐羨之等功臣也是各有封賞。就連已經去世的劉穆之、王鎮惡等人也被追封為南康郡公和龍陽縣侯。對於東晉的那些名門望族，劉裕也給予了應有的尊重，王導、謝安、溫嶠、陶侃、謝玄等五人的祭祀香火得以延續，只是爵位下降一級。
至於司馬德文，劉裕也是有所安排。按照慣例，劉裕將司馬德文降為零陵王，褚皇后被降為王妃。然後在故秣陵縣為他興建王宮，正朔、車駕、衣服等都依晉朝規格。又派冠軍將軍劉遵考率兵保衛他，實則是在監視他。即便如此，劉裕對司馬德文還是極度不放心，想找個機會將其殺害。於是劉裕命令琅琊侍中張偉攜毒酒一瓶，前去秣陵鴆殺司馬德文。但張偉既不忍謀害故主，又怕回去又難以交代，兩難之下說了句：“鴆君以求生，不如死！”就在路上喝下毒酒自盡。
劉裕聞訊當然是怒不可遏，於是他找來了司馬德文褚皇后的兄長褚秀之和褚淡之，這兩人原是東晉的太常卿和侍中，按理說作為皇后兄長的他倆不應該和劉裕同流合汙。可他們見天下形勢已變，就果斷背主求榮，甘當劉裕的爪牙，協助其監視帝后。有一次褚皇后生下一個兒子，褚秀之兄弟遵照劉裕命令，將男嬰害死。而司馬德文也知道劉裕想加害自己，於是整天和褚皇后共處一室，一切飲食也都由褚皇后親自動手。劉裕一時無法下手，這才找來了褚氏兄弟。
永初二年（公元421年，北魏明帝泰常六年）九月，劉裕終於下手了，他命褚淡之與其兄右衛將軍褚叔度前往探視褚妃以此將她調離。當褚妃到另一間房子與兩位哥哥相見時，伏兵就翻牆而入，把毒藥遞給司馬德文，讓他自殺。但司馬德文不肯服用，說道：“佛教，自殺者不復得人身。”既然不肯自殺，士卒們索性一擁而上，用被子矇住他的頭，將他悶死，然後跳牆而去。得知司馬德文死訊後，劉裕假惺惺地率領文武百官親臨朝堂哭悼三天。十一月辛亥日，司馬德文被安葬於衝平陵，劉裕親率文武百官護送靈柩。劉裕殺司馬德文可謂是開了一個很不好的先例，而這種結局最終也報應到了劉裕自己子孫的身上。
當劉裕忙著國內事務和殺害司馬德文之時，西北的涼州形勢有了新的變化。永初元年七月，沮渠蒙遜再次準備進攻西涼，這一次他玩起了聲東擊西。他先是設計假裝在東方進攻西秦的浩亹，等大軍一到浩亹，就立即秘密回師，駐軍川巖。
李歆得到沮渠蒙遜進攻浩亹的訊息候，命令內外戒嚴，想要乘北涼西部防務空虛，進攻張掖。但遭到了右長史宋繇、左長史張體順懇切地勸阻，李歆拒不聽從。李歆的母親尹太后也出來勸他：“汝新造之國。地狹民希，自守猶懼不足，何暇伐人！先王臨終，殷勤戒汝：深慎用兵，保境寧民，以俟天時。言猶在耳，奈何棄這！蒙遜善用兵，非汝之敵，數年以來，常有兼併之志。汝國雖小，足為善政，修德養民，靜以待之。彼若昏暴，民將歸汝；若其休明，汝將事之。豈得輕為舉動，僥冀非望！以吾觀之，非但喪師，殆將亡國”面對自己母親的警告，李歆還是不聽，此前幾次讓沮渠蒙遜無功而返使得他極度膨脹。
李歆於是親率步騎三萬自酒泉向東進發。沮渠蒙遜對此自然是欣喜若狂，但他也擔心如果李歆聽說自己回軍埋伏，一定不敢繼續前進。於是沮渠蒙遜下令在西部邊境，遍傳攻克浩亹的訊息，並揚言大軍還要進攻黃谷。李歆得到這個訊息，信以為真大喜過望，立即率大軍開進都瀆澗。沮渠蒙遜率軍對其發動進攻，雙方在懷城展開大戰，結果李歆率領的西涼軍大敗。
事已至此，有人就勸李歆退軍保衛都城酒泉。但李歆據不答應，他認為：“吾違老母之言以取敗，不殺此胡，何面目復見我母！”於是又率領手下的將士在蓼泉與蒙遜軍隊展開第二次會戰，結果西涼軍再次大敗，李歆自己也被沮渠蒙遜所殺。
李歆戰報身死的訊息傳來，李歆的弟弟酒泉太守李翻、新城太守李預、領羽林軍右監李密、左將軍李眺、右將軍李亮等向西逃往敦煌。沮渠蒙遜則趁勢進入西涼首都酒泉，這一次他嚴明紀律，禁止士兵搶劫，使得百姓生活如故。他任命自己的兒子沮渠牧犍為酒泉太守，又以宋繇為吏部郎中，掌管官員任免和升遷調補，西涼舊臣中有才幹和聲望的，都以禮延聘任官。
此時的西涼只剩下了敦煌這一個重鎮，但是面對北涼大軍，敦煌太守，李歆之弟李恂選擇與李翻等一道放棄敦煌，逃往北山，沮渠蒙遜任命索元緒代理敦煌太守。但索元緒粗暴兇狠、陰險嗜殺，大失人心。與之形成對比的是，李恂在任時，對敦煌百姓有德政，深得民心。於是敦煌人宋承、張弘秘密寫信給李恂，請他回來主政。於是這年冬天，李恂率領騎兵數十人進入敦煌，索元緒逃往涼興。宋承等推舉李恂為冠軍將軍、涼州刺史，改元永建，西涼得以暫時延續。沮渠蒙遜自然不可能容許這種情況發生，於是派世子沮渠政德進攻敦煌，李恂等緊閉城門，拒不應戰。
永初二年（公元421）春天，沮渠蒙遜親自率領兩萬兵眾攻打敦煌。三月，沮渠蒙遜興築長堤，採用水攻的方法將敦煌圍困。李恂無計可施，請求投降，但遭到了沮渠蒙遜的拒絕。關鍵時刻宋承等人再次背叛，舉獻城池投降沮渠蒙遜。李恂於是派一千名壯士，連線木板當橋，想秘密去決堤。結果沮渠蒙遜率軍迎戰，攻克敦煌，李恂自殺，西涼徹底滅亡，這一次沮渠蒙遜沒有大發善心，下令屠城。
至此，當時天下的形勢已趨於平穩，南邊是新生的劉宋政權，北方是北魏、夏國、北燕、西秦、北涼這些勢力並存，那麼他們誰能打破當下這種局勢呢？
