开元十七年(729年)，张说又被玄宗拜任尚书左丞相、集贤院学士。开元十八年一病不起，终于病逝。他多次推荐张九龄做集贤院学士。

　　开元十八年(730年)，张九龄转任桂州(治所今广西桂林)刺史兼岭南道按察使摄御史中丞。便道归省，与家人欢聚。开元十九年春，他从桂林乘船顺流巡行按察来到广州。

　　开元十九年(731年)三月，张九龄被召入京，擢秘书少监，兼集贤院学士副知院事。他奉旨代撰敕文，对御而作，不须草稿，援笔立成，深为玄宗倚重。在他的文集中，代皇帝起草的敕文多达114篇。两次升任他为中书侍郎。开元二十年二月转为工部侍郎，兼集贤院学士。八月，兼知制诰。张九龄时已55岁，屡乞归养。玄宗对他加以重用，并不批准，只是把他弟弟张九皋、张九章就近家乡封官，以便照顾老母。张九皋后官至广州都督兼五府节度经略使，张九章后官至岭南节度使、广州都督，都是统治岭南的封疆大吏。

　　开元二十一年(733年)五月，张九龄升任检校中书侍郎，十二月，授中书侍郎同中书门下平章事(宰相)兼修国史。主理朝政。他建议于河南屯田，引水种稻，遂兼河南稻田使。[10-11] 当时范阳节度使张守琏因为副将安禄山讨伐奚、契丹失败，捉拿护送他到京城，请求按照朝廷典章执行(死刑)。张九龄奏明皇上说：“张守琏的军令一定要执行，安禄山不应该免除死罪。”皇上特别赦免了他。张九龄上奏说： ‘安禄山狼子野心，面有谋反之相，请求皇上根据他的罪行杀掉他，希望断绝后患。”皇上说： “你不要因为王夷甫了解石勒这个旧例，误害了忠诚善良的人。”于是放安禄山回到藩地。