次年正月,刘裕留其子刘义隆镇守彭城,自率大军北上,此时北魏派十万重兵驻守河北,并以游骑骚扰晋军。刘裕在行军中,虽常设奇阵或用大弩强槊击败魏军,但进军速度缓慢。 七月,刘裕摆脱魏军,进至陕城;前锋沈田子攻入武关,进屯青泥(今陕西蓝田)。八月,刘裕至潼关,与诸部会合。九月刘裕率晋军浩浩荡荡地抵达皇城,他想在此稍作休整,经略关中,不料传来刘穆之病死的消息。刘裕怕朝廷有变,留其十二岁的儿子刘义真率王修、王镇恶、沈田子等文武共守长安,自己统军南归。
刘裕匆匆南归,为夏主赫连勃勃谋臣王买德窥破心迹,王买德对勃勃说:“刘裕让其子镇守长安,自己却仓猝南还,不为别事,是为了图谋皇位。他再也无暇顾及关中了。对我们来说,这机会其是太好了!”刘裕南归不久,赫连勃勃派军南断青泥,东扼潼关,率大军进攻长安。刘裕得到消息,惊恐不已,急令朱龄石镇守长安,命刘义真速回,朱龄石阵亡,刘义真单骑逃逸。
长安得而复失,良将劲兵损失骇人,巨大的事功,使刘裕在朝廷的地位显赫无比。他先后受封相国、宋公,如九锡,位在诸侯王之上。义熙十四年(418)十二月,刘裕令心腹鸩弑安帝,立司马德文为傀儡皇帝,元熙二年(420),刘裕迫司马德文禅让,即皇帝位,国号宋,改元永初,是为武帝。
即位之后,以司马氏前车之鉴,宋武帝削弱强藩,集权中央。为防止权臣乱政,他特下诏:凡日后大臣外出征讨,一律配以朝廷军队,军还交回朝廷。由于是孤寒出身,武帝知道稼穑艰辛,他平时清简寡欲,对珠玉车马、丝竹女宠十分节制,他平时穿着十分随便,连齿木屐,普通裙帽;住处用土屏风、布灯笼、麻绳拂。为了警诫后人,他在宫中悬挂了少儿时使用过的农具、补缀多层的破棉袄。后来,他的孙子孝武帝刘骏看见这些东西,讥诮祖上是“乡巴佬”。
永初三年(422)五月,武帝病逝,时年六十。
宋武帝刘裕雕像