月氏被匈奴打败了以后，迁到大夏（今阿富汗北部）附近建立了大月氏国，不想再跟匈奴作战。大月氏国王听了张骞的话，不感兴趣，但是因为张骞是个汉朝的使者，也很有礼貌地接待他。

　　张骞和堂邑父在大月氏住了一年多，还到大夏去了一次，看到了许多从未见到过的东西。但是他们没能说服大月氏国共同对付匈奴，只好回来。经过匈奴地界，又被扣押了一段时间，幸好匈奴发生了内乱，才逃出来回到长安。

　　张骞在外面足足过了十三年才回来。汉武帝认为他立了大功，封他做太中大夫。

　　张骞向汉武帝详细报告了西域各国的情况。他说：我在大夏看见邛山（在今四川省，邛音ｑｉóｎｇ）出产的竹杖和蜀地（今四川成都）出产的细布。当地的人说这些东西是商人从天竺（就是现在的印度）贩来的。他认为既然天竺可以买到蜀地的东西，一定离开蜀地不远。

　　汉武帝就派张骞为使者，带着礼物从蜀地出发，去结交天竺。张骞把人马分为四队，分头去找天竺。四路人马各走了两千里地，都没有找到。有的被当地的部族打回来了。

　　往南走的一队人马到了昆明，也给挡住了。汉朝的使者绕过昆明，到了滇越（在今云南东部）。滇越国王的上代原是楚国人，已经有好几代跟中原隔绝了。他愿意帮助张骞找道去天竺，可是昆明在中间挡住，没能过去。

　　张骞回到长安，汉武帝认为他虽然没有找到天竺，但是结交了一个一直没有联系过的滇越，也很满意。

　　到了卫青、霍去病消灭了匈奴兵主力，匈奴逃往大沙漠北面以后，西域一带许多国家看到匈奴失了势，都不愿意向匈奴进贡纳税。汉武帝趁这个机会再派张骞去通西域。公元前119年，张骞和他的几个副手，拿着汉朝的旌节，带着三百个勇士，每人两匹马，还带着一万多头牛羊和黄金、钱币、绸缎、布帛等礼物去结交西域。