他的第一任职务是江州祭酒。这是一个州里负责礼仪的文职幕僚，没有什么权力，只是在场面的繁文缛节上精心应酬的小吏，加上出身庶族，屡遭白眼，陶渊明深感“不堪吏职，少日自解归”。也就是自己感到不能不适应做这个小官儿，不久，自己主动辞职回去了。

　　是什么不适应呢?

　　这时的陶渊明已经是一家之主，虽然有第一次求仕的无奈而返，但是，乡间毕竟不是他久留之地，为了全家的生计，也为了他心中尚难泯灭的英雄情结。

　　去留犹豫之间，州里又来召他做主簿，他没去就职，开始像以前一样“躬耕陇亩”，向田间取食。但是，陶渊明毕竟不是农民出身，很快日子过得一塌糊涂，缺吃少喝，自己也弄了一身的病，生活陷入了困顿。

　　不久，陶渊明投身地方军阀做镇军、建威参军，也就是地方军中的高级幕僚，这样，他的壮年的命运就和两个重量级的人物——桓玄、刘裕——紧紧联系在一起。

　　桓玄当时做荆州刺史，控制着长江中上游，为东晋西部门户的守门人，实力雄厚。晋安帝隆安四年(400年)，陶渊明到荆州，投身桓玄门下做参谋。

　　桓玄野心勃勃，正时刻窥伺着篡夺东晋政权。陶渊明了解内情后十分震惊。他当然不肯与桓玄同流合谋，做这个野心家的爪牙。他在诗中表明了这种心迹：“如何舍此去，遥遥至西荆。”有悔恨之意，怅然之叹。同时，对俯仰由人的宦途生活，发出了深长叹息——“久游恋所生，如何淹在滋?”恰巧，隆安五年(401年)冬天，母亲病逝，陶渊明辞职奔丧回家。

　　母亲突然病故， 让陶渊明险些蹚入污水的脚，意外地收了回来。

　　元兴元年(402年)正月，桓玄举兵攻入都城建康，夺取军政大权，第二年，他又废去晋安帝，自称皇帝，改国号为楚，天下震动。