苏武说：“我既没有跟他同谋，又不是他的亲属，为什么要连坐?”

　　卫律又举起剑威胁苏武，苏武不动声色。卫律没法，只好把举起的剑放下来，劝苏武说：“我也是不得已才投降匈奴的，单于待我好，封我为王，给我几万名的部下和满山的牛羊，享尽富贵荣华。先生如果能够投降匈奴，明天也跟我一样，何必白白送掉性命呢?”苏武怒气冲冲地站起来，说：“卫律!你是汉人的儿子，做了汉朝的臣下。你忘恩负义，背叛了父母，背叛了朝廷，厚颜无耻地做了汉奸，还有什么脸来和我说话。我决不会投降，怎么逼我也没有用。”

　　卫律碰了一鼻子灰回去，向单于报告。单于把苏武关在地窖里，不给他吃的喝的，想用长期折磨的办法，逼他屈服。

　　这时候正是入冬天气，外面下着鹅毛大雪。苏武忍饥挨饿，渴了，就捧了一把雪止渴;饿了，扯了一些皮带、羊皮片啃着充饥。过了几天，居然没有饿死。

　　单于见折磨他没用，把他送到北海(今贝加尔湖)边去放羊，跟他的部下常惠分隔开来，不许他们通消息，还对苏武说：“等公羊生了小羊，才放你回去。”公羊怎么会生小羊呢，这不过是说要长期监禁他罢了。

　　苏武到了北海，旁边什么人都没有，唯一和他作伴的是那根代表朝廷的旌节。匈奴不给口粮，他就掘野鼠洞里的草根充饥。日子一久，旌节上的穗子全掉了。

　　一直到了公元前85年，匈奴的单于死了，匈奴发生内乱，分成了三个国家。新单于没有力量再跟汉朝打仗，又打发使者来求和。那时候，汉武帝已死去，他的儿子汉昭帝即位。

　　汉昭帝派使者到匈奴去，要单于放回苏武，匈奴谎说苏武已经死了。使者信以为真，就没有再提。　　第二次，汉使者又到匈奴去，苏武的随从常惠还在匈奴。他买通匈奴人，私下和汉使者见面，把苏武在北海牧羊的情况告诉了使者。使者见了单于，严厉责备他说：“匈奴既然存心同汉朝和好，不应该欺骗汉朝。我们皇上在御花园射下一只大雁，雁脚上拴着一条绸子，上面写着苏武还活着，你怎么说他死了呢?”

　　单于听了，吓了一大跳。他还以为真的是苏武的忠义感动了飞鸟，连大雁也替他送消息呢。他向使者道歉说：“苏武确实是活着，我们把他放回去就是了。”

　　苏武出使的时候，才四十岁。在匈奴受了十九年的折磨，胡须、头发全白了。回到长安的那天，长安的人民都出来迎接他。他们瞧见白胡须、白头发的苏武手里拿着光杆子的旌节，没有一个不受感动的，说他真是个有气节的大丈夫。