其实，桓玄下错了一步棋，不应该如此信任刘裕。桓玄的妻子刘氏颇能识人，她多次对桓玄说：“刘裕这个人不简单，此人有龙虎之志，他不会久居人下的，应该尽早除掉为好。”桓玄没有听取妻子的意见，反而说：“我现在还没有统一中原，除掉他万万不可，就算要杀他，也要等到关陇平定后。”就在桓玄盘算之际，刘裕也在暗中算计桓玄。公元404年3月，刘裕率兵进入建康，将桓玄逼逃到西川。而后，桓玄被益州都护冯迁给宰了。桓玄嗝屁后，刘裕建立了刘宋政权。？
通过上面对刘裕的介绍，我们可以知道他确实很有几把刷子。刘裕还没立足脚的时候，以他的精明肯定是要广纳贤士的，陶渊明就是他看中的一个人选。更何况，陶渊明可是一个脱离了桓玄归田隐居的江州名士！于是，在这样的情况下，陶渊明走上了京口赴任的道路。在去京口任职的途中，陶渊明在曲阿写了一首表露心迹的诗，诗名叫作《始作镇军参军经曲阿作》。为了方便叙述，我将诗文引用如下：
弱龄寄事外，委怀在琴书。被褐欣自得，屡空常晏如。时来苟冥会，宛辔憩通衢。投策命晨装，暂与园田疏。眇眇孤舟逝，绵绵归思纡。我行岂不遥？登降千里馀。目倦川途异，心念山泽居。望云惭高鸟，临水愧游鱼。真想初在襟，谁谓形迹拘？聊且凭化迁，终返班生庐。
从这首诗的内容可以看出陶渊明这次出仕跟第一次的原因差不多，尽管陶渊明极力地掩饰自己内心的真实想法，但还是被自己的文字给出卖了。陶渊明说他从年少时就寄身事外，倾心琴书。倾心琴书这一点倒是掏心窝子的话，陶渊明的琴艺很高，跟朋友一起喝酒的时候，绝不会忘了抚琴而吟。至于读书，他更有这个条件，他的外祖父孟嘉是当时社会名士，有很多藏书，陶渊明可以尽情地徜徉在书的海洋里。这样看来，似乎陶渊明在年少的时候就决定过安贫乐道的生活，可他为什么要出任这次的镇军参军一职呢？按照他的说法是因为“时来苟冥会，宛辔憩通衢”。这句话的意思是说，尽管入仕并非自己的人生价值取向，但是如果碰巧时机垂青于自己，那么也不妨拨转车驾游憩于仕途之中。于是，便准备起行装，暂时离开田园，就任镇军参军去了。表面看来，这次出仕似乎是一次随性适意的决定，与他安贫乐道的价值取向并没有冲突。但是，当我们细看此诗的后半部分时，却可以清楚地看到陶渊明在上任途中的矛盾心情，虽然他把这次入仕说成是一种时机的“苟冥会”，但是那种源自骨子里的济世救国、建功立业的价值观念还是无法泯灭的。“望云惭高鸟，临水愧游鱼”，正是他矛盾心情的真实流露。而“真想初在襟，谁谓形迹拘？聊且凭化迁，终返班生庐”，更将他的内心世界表露无疑。
那么，陶渊明这次京口赴任做得怎样呢？陶渊明做了刘裕的参军后，刘裕并不重视他，他经常是无所事事。实际上，这个刘裕跟桓玄都差不多，他有桓玄一样的野心，想过把皇帝瘾，只是他比桓玄更会装。人家桓玄要做皇帝的时候好歹敢明着来，这个刘裕玩阴的，就是一个十足的“岳不群”。他要不是在桓玄面前装得那样给力，桓玄也不至于这么快就嗝屁了。陶渊明不是傻子，他不久就看出刘裕的垃圾为人和疯狂野心了。更让人害怕的是，这个刘裕猜忌成性，很多在他手下任职的贤才都惨遭他的毒手。而且，桓玄败死于江陵之后，刘裕全力铲除其余党，凡不是刘裕那一家子的人随时都可能遭遇杀身之祸，即便是那个曾经在在战场上援救过刘裕的刘敬宣，他也害怕哪一天刘裕疑心病犯了会把自己宰了。刘敬宣怎么说也姓刘，而且还是刘牢之的儿子，尚且这样。你陶渊明，又算什么呢？如果刘裕真的是看中你，那人家至少应该给你切实的任务，但刘裕没有，只是让你没事可做，空有一个参军的头衔，更何况，你还是桓玄的旧部呢？所以，陶渊明越想越害怕，再不走，脑袋就快搬家了。
就这样，出于自身安全的考虑，陶渊明在刘裕手下干了不到一年的时间就辞职走人了。陶渊明这种明哲保身，迫于环境的压力不得不辞官的做法，在当时看来不愧为一个明智的选择，早点离开那个是非之地，总比搭上性命强。
此时的陶渊明已经41岁了，就在他离开刘裕后不久，公元405年，他到刘敬宣那里去做参军了，这是陶渊明的第四次为官。前面我们不是提到过刘敬宣吗？当时陶渊明离开刘裕回到老家柴桑，而刘敬宣恰好就驻军在陶的家乡浔阳，离陶渊明在柴桑的家很近，这可能是陶渊明选择在此任职的原因之一吧！不过，更为重要的原因是陶渊明那颗济世救国、建功立业的心还没有彻底枯死，他还想继续努力。
刘敬宣虽然颇受刘裕的器重，但是刘敬宣可不糊涂，他知道自己不是刘裕的亲信。所以当刘裕任命他为建威将军、江州刺史时，他的内心更加恐惧，也曾一再推辞，后来上任也是胆战心惊的。这个刘敬宣对陶渊明挺器重的，就这样，陶渊明做了江州刺史建威将军刘敬宣的参军。后来，晋安帝司马德宗反正，刘裕的权势更重了。这个晋安帝就是前面提到的那个据说是患了小儿麻痹症的司马德宗，桓玄做了皇帝后不久，