東晉自偏安以來，時刻面臨著來自北方的威脅。
雖然祖逖、庾亮、殷浩、桓溫都曾先後北伐，但無一成功。
晉元興三年404年），劉裕起兵討伐篡晉稱帝的桓玄。
次年，擁戴晉安帝復位，控制東晉朝政。
彼時，南燕統治集團內部矛盾日益加劇，慕容超信用奸佞，誅戮賢良，賦役苛重，激起民眾強烈反抗。
為了晉朝的強大，劉裕決定興師北上。
劉裕為抗擊南燕，外揚聲威，遂欲掛帥北伐。
公元 409年二月，南燕軍隊侵擾淮北，就正好給了劉裕一個機會。
他上書皇帝，要求北伐，獲得朝廷批准後，他迅速出兵，五月就到了下邳。
兩次北伐，前後滅南燕，破北魏，亡後秦，收復山東，河南，關中等地，光復洛陽、長安兩都。
後來，長安雖然在一年多後得而復失，但潼關以東、黃河以南和山東全境已劃入晉朝版圖，“七分天下，而有其四”，江淮流域得到保障。
為劉宋永初和元嘉年間，休養生息，出現“餘糧息畝，戶不夜扃”的局面提供北部疆域的屏障，仍不失為取得較大成果和有重大歷史意義的北伐。
唐代史學家朱敬則稱讚此次北伐：“西盡庸蜀，北劃大河。自漢末三分，東晉拓境，未能至也。”
辛棄疾在《永遇樂·京口北固亭懷古》一詞中稱讚：“金戈鐵馬，氣吞萬里如虎。”
義熙五年409），南燕主慕容德死，其侄慕容超襲位，縱兵肆虐淮北，擄去晉兩郡太守，驅掠百姓千餘家。
劉裕因此上表北伐，三月，他統領晉軍向北挺進。
南燕大將—公孫五樓見晉師威猛，嚮慕容超建議扼據大峴，堅壁清野，但被拒絕。
劉裕看準時機，冒險越過大峴山隘，一舉攻克臨胊，奪得大量輜重。
緊接著，晉軍將士在劉裕的親自鼓動下迅速進擊，直逼燕都廣固。
慕容超遁入城中堅守不出，雙方因此進入相持階段。
晉軍一方面高壘重塹，將廣固團團圍住，以燕人之糧充實軍用。
一方面招降納降，採取分化瓦解之策。
南燕大將—桓遵兄弟及徐州刺史—段宏相繼歸附，尤其是尚書郎—張綱被俘，對劉裕十分有利。
最後正是利用他所設計的攻城器械，從而拿下燕都，並活捉了慕容超。
劉裕以廣固久守不降為由，入城後，盡殺王公以下三千人以洩憤。
齊境克服，劉裕本想停鎮下邳，蕩凊河洛，但孫恩妹夫盧循復集孫恩殘部，敗晉軍於豫章。
因此，劉裕不得不班師回朝。
回京後，先後督師鎮壓盧循、剿滅割據長江中上游的劉毅、譙縱勢力，逼走司馬休之，使南方出現了百年來從未有過的一統局面。
義熙十二年416）一月，後秦主姚興死，姚泓繼位，內部叛亂迭起，政權不穩。
劉裕認為這是滅亡後秦的良機。
彼時，劉裕圖以晉室名聲安撫北方人民，故想奉司馬德文之名北伐。
司馬德文因而上書出兵，以修謁晉室山陵，最終劉裕就與司馬德文一同率兵出發。
八月，劉裕以劉穆之任尚書左僕射，內總朝政，外供軍糧，自己率大軍分四路北伐。