王恭兵败被杀后，司马道子果然没有食言，以刘牢之代替王恭，都督兖、青、冀、幽、并、徐、扬州、晋陵军事。刘牢之坐镇京口，成为北府兵的新统帅。谢安次子谢琰出任徐州刺史。
据《晋书·刘牢之传》记载，刘牢之字道坚，彭城人，面紫赤色，须目惊人，沉毅多计画。谢玄当初组建北府兵时，刘牢之即以骁猛应选，可谓北府故将。此番刘牢之统领北府兵，很多将士并不服气，认为他“本自小将，一朝据恭位”。刘牢之于是任用徐谦之等心腹，以防有变。
王恭被杀后，杨佺期、桓玄兵临石头城下。他们向朝廷上表，为王恭申辩，请求朝廷诛杀刘牢之。刘牢之于是率领北府兵从京口迅速赶到京师建康，驻扎在新亭。杨佺期、桓玄闻讯，将部队撤退到了蔡洲。当时朝廷并不清楚桓玄、殷仲堪部队的虚实，个个人心惶惶。
左卫将军桓修乃桓冲之子，他向司马道子献了一计，希望能够通过封赏杨佺期、桓玄二人，制造他们的内部矛盾。司马道子听从桓修之计，任命桓玄为江州刺史，杨佺期为雍州刺史，却将殷仲堪贬为广州刺史。诏令发出之后，殷仲堪和杨佺期、桓玄三人果然暗中互相猜疑，但受形势所迫，他们又不得不再次联合，上书为王恭申辩，要求诛杀刘牢之以及谯王司马尚之，并质问殷仲堪并无过错，为何贬官。司马道子大惊，罢免了桓修官职，并恢复殷仲堪荆州刺史一职。这场内乱虽然暂时告一段落，可不久，桓玄兵变爆发。
以荆州为根据地、坐镇长江上游的桓玄，逐渐消灭了杨佺期和殷仲堪，吞并了他们的部队。杨佺期、殷仲堪均是当时的重要将领。据《晋书·殷仲堪传》记载，当年谢玄出镇京口时，曾经请殷仲堪担任过参军。杨佺期、殷仲堪和桓玄原本是一个阵营里的盟友，可在利益面前，最终却是拼个你死我活。
桓玄势力的壮大，引来朝廷的担忧。当年桓玄的父亲桓温差一点代晋自立，朝野上下很害怕这一幕会重演。据《资治通鉴》记载，桓玄抓紧时间制造兵器，训练部队，隐隐已有反叛迹象。隆安五年（401）六月，桓玄上书朝廷，请求带兵征讨孙恩起义。
孙恩农民起义爆发于隆安三年（399）。起义军一举攻破会稽，声威大震。晋安帝命令徐州刺史谢琰兼督吴兴、义兴等郡军事，和刘牢之一起，率军向东南攻打孙恩。刘牢之素闻刘裕之名，特地把他招来，让他担任参军。当时刘裕任冠军将军孙无终之司马。
刘裕就是后来建立南朝刘宋王朝的宋武帝。据《宋书·武帝本纪》记载，刘裕字德舆，小名寄奴，彭城人。西晋末年永嘉之乱时，他的曾祖父刘混渡江，侨居晋陵郡丹徒县京口里，官至武原令。刘裕的父亲叫刘翘，任晋陵郡功曹。
《南史·宋本纪》中说，刘裕出生的时候，“神光照室尽明，是夕甘露降于墓树”。这样的记载无非是说刘裕出生时就有天子之气，当然不足为信。另据《资治通鉴》记载，刘裕刚一出生，母亲就去世了。刘翘客居京口，家境十分清贫，便想把刘裕扔掉。当时刘裕的姨母刚刚生下儿子刘怀敬不到一年，便到刘翘家里接走了刘裕，断了刘怀敬的奶来养活他。刘裕小名“寄奴”，应该就是从这段童年往事上来的。
刘裕长大以后，“雄杰有大度”，风骨奇伟。当时刘翘已经续了弦，刘裕对继母十分孝顺。
《南史·宋本纪》记载了几件刘裕未发达之前的逸事。一次，刘裕游京口竹林寺，他一个人睡在讲堂前，“上有五色龙章”。和尚们见了，很是惊异。刘裕的父亲刘翘去世后，葬在了丹徒候山。当时有个人叫孔恭，善于看墓地的风水。刘裕和孔恭经过候山那块墓地的时候，便问孔恭这块地怎么样。孔恭说：“非常地也。”自此之后，刘裕更加自负。
刘裕识字不多，平时靠贩卖鞋子维持生计，又爱好樗蒲这样的赌博游戏，因此同村的人都看不起他。但长史王谧却很敬重他。有一次，刘裕欠下当地富户刁逵三万社钱，无力偿还，刁逵便将他抓了起来。王谧听说之后，悄悄替刘裕偿清了这笔欠款，刁逵这才将刘裕放掉。
刘裕任刘牢之参军后，奋勇杀敌，深受刘牢之赏识。谢琰、刘牢之大军所到之处，每攻必克，孙恩很快就退出会稽，逃至海岛之上。朝廷担心孙恩卷土重来，便任命谢琰为会稽太守、都督五郡军事，统率徐州旧部人马，驻守东南沿海。
隆安四年（400）五月，孙恩起义军果然卷土重来，谢琰战死。又是刘牢之率军击退孙恩，孙恩再次逃亡海上。到了隆安五年六月，孙恩率领十多万士兵，一千多艘战舰，从海上发兵，突然出现在了丹徒，当时刘牢之统率的北府兵主力尚在山阴（今浙江绍兴），救援不及。丹徒一旦失守，京师建康便危在旦夕，朝廷大为震惊，建康城内外戒严。
可孙恩没有想到，就在他们直扑丹徒之时，刘裕已带领着不足千人的精锐部队，日夜兼程，几乎是同时赶到了丹徒。据《资治通鉴》记载，刘裕手下的士卒原本人数就少，再加上赶了这么远的路，个个疲惫不堪。而驻守丹徒的东晋守军，却又没有丝毫斗志，这场仗看上去根本没法打。孙恩率领部队，高声呐喊，擂鼓助威，登上蒜山。刘裕身先士卒，率领手下将士奋勇向前，对孙恩大军发起攻击。这一场仗打下来，孙恩大军竟然大败，孙恩狼狈地逃回船上，才捡了条命。
孙恩仗着自己兵多将广，虽然遭遇此败，但他收拾兵卒，继续兵发建康。到达白石之后，孙恩得知建康已有军队驻守，刘牢之也已回军，于是决定撤军。晋安帝任命刘裕为下邳太守，继续追击孙恩。孙恩连续战败，又一次逃亡海上。
拥军荆州的桓玄上书朝廷，请求出兵讨伐孙恩的时候，正值孙恩大军迫近建康。桓玄表面上称是勤王，实际是想浑水摸鱼，朝廷当然不会引狼入室，予以拒绝。朝廷随时提防桓玄谋反，孙恩起义稍稍平定之后，元兴元年（402）正月，晋安帝下诏，以司马元显为骠骑大将军、征讨大都督，刘牢之为前锋都督，前往征讨桓玄。桓玄闻此消息，整顿军队，挥师顺流东下，直捣建康。东晋王朝的一场内乱，又这样爆发了。
