其时,唐朝处在全盛时期 ,但却又隐伏着种种社会危机。张九龄针对社会弊端,提出以“王道”替代“霸道”的从政之道,强调保民育人，反对穷兵黩武;主张省刑罚，薄征徭，扶持农桑;坚持革新吏治,选贤择能,以德才兼备之士任为地方官吏。他的施政方针，缓解了社会矛盾,对巩固中央集权,维护“开元盛世”起了重要的作用，因而被后世誉为“开元之世清贞任宰相”的三杰之一。

　　在主理朝政时敢于直言向皇帝进谏，多次规劝玄宗居安思危，整顿朝纲。玄宗的宠妃武惠妃，欲谋废太子李瑛而立己子时，命宫中官奴游说九龄，九龄叱退使者，及时据理力争，从而平息了宫廷内乱稳定了政局。而对安禄山、李林甫等奸佞所为，张九龄更痛斥其非，并竭力挫败其阴谋。

　　玄宗欲以范阳(今北京)节度使张守圭为相，以朔方(今宁夏灵武南)节度使牛仙客为尚书，九龄都反对，玄宗不悦，唐玄宗被李林甫的谗言所惑，玄宗遂于开元二十四年迁九龄为尚书右丞相，罢知政事。罢相后不久又因他荐举的监察御史周子谅弹劾牛仙客，触怒玄宗，坐“举非其人”，贬为荆州长史。

　　开元二十八年(740)，张九龄因病在韶州曲江逝世。

　　初，安禄山讨奚、契丹，战败，被执送京师。九龄主张按军法处以极刑，玄宗不从。

　　开元二十四年(736)，安禄山任平卢将军，在讨伐契丹时失利，张守珪奏请朝廷斩首。此前安禄山入朝奏事，宰相张九龄对侍中裴光庭说：“乱幽州者，必此胡也。”这次作战失利，他遂提笔批示奏文说：“穰苴出军，必斩庄贾;孙武行令，亦斩宫嫔。守珪军令若行，禄山不宜免死。”唐玄宗不明华夷之辨，看了批文后说：“卿岂以王夷甫识石勒，便臆断禄山难制耶?”终未准奏。