这时候桓玄已经掌控了朝政，还被封为楚王，心里就琢磨着要篡位当皇帝。

有一回，桓玄的从兄桓谦私底下问刘裕对禅代这事儿怎么看，刘裕假装对桓玄的功劳赞不绝口，说桓玄“顺应天命禅代皇位，有啥不可以的”。

桓谦一听，乐了，说：“你都说行，那肯定行啊。”

公元403年十二月，桓玄终于篡位称帝。刘裕跟着徐兖二州刺史桓修入朝。桓玄见到刘裕，跟司徒王谧说：“昨天见了刘裕，这人气质不凡，一看就是人中豪杰。”

于是对刘裕那叫一个款待周到，恩宠得不得了。桓玄的妻子刘氏挺会看人，她多次劝桓玄把刘裕除掉，可桓玄觉得还得靠刘裕去荡平中原，就没答应。

与此同时，桓玄称帝后，为了消除隐患，打算把北府兵给瓦解了，对北府兵的旧将那是一顿猛杀，北府军差点就全军覆没了。

就在桓玄忙着算计的时候，刘裕也没闲着，在暗地里和北府兵的残余将士联络，瞅准时机准备反攻桓玄。

公元404年二月，刘裕打着打猎的旗号，召集了北府兵残余将士一千七百多人，在京口起兵起义。

他们一下子就把桓楚在这儿的兵力给消灭了，还杀了桓修。紧接着，众人推举刘裕当盟主，向四方传发檄文，各地一听，纷纷响应。

桓玄得知刘裕率众起义后，那叫一个忧心忡忡，绞尽脑汁也想不出啥应对的办法。有人就跟桓玄说：“刘裕他们势力弱小，能成啥气候啊，陛下您别担心。”

桓玄却回答说：“刘裕那可是当代的厉害人物；刘毅家里没多少积蓄，赌起钱来却能豪掷百万；何无忌是刘牢之的外甥，跟他舅舅很像。他们联合起来干大事，咋能说不会成功呢？”

桓玄先派手下猛将吴甫之还有皇甫敷，带着精兵去抵挡刘裕。刘裕先是在江乘把吴甫之给杀了，到了江乘以南的罗落桥，又拼了命地打，把皇甫敷也给杀了，然后继续进攻。

到了三月，刘裕攻打覆舟山。他让那些体弱的士兵登山，拿着旗帜分好几路走，营造出四周到处都是士兵，而且人数众多的假象。桓玄的守军大多是北府军出身，一看到刘裕，立马没了斗志。