后来李陵再次来到北海，告诉苏武汉武帝驾崩。苏武面向南边大声恸哭到吐血，每天早晚两次面对着南边恸哭，持续了几个月。当壶衍鞮单于即位后，他的母亲阏氏行为不正，匈奴人背离单于，因此单于常担心汉兵会来袭击匈奴，于是卫律替单于谋划，与汉朝和亲。汉朝使者来到，要求见苏武等人，匈奴谎称苏武已死。后来汉朝使者再次来到匈奴，常惠私下里求见汉朝使者，教使者对单于说：“天子在林中射猎，射到一只大雁，大雁的脚上系着一封写在绢帛上的信，说苏武等人就在某处水边。”汉朝使者十分高兴，按照常惠的话说了并责备单于。单于看到身边的人都很惊慌，只好向汉朝使者谢罪道：“苏武等人的确还活着。”于是放了苏武和马宏等人。马宏，是光禄大夫王忠出使西域的副使，被匈奴扣下；王忠战死，马宏生还，也不肯投降。因此匈奴放了这两个人，想要向汉朝示好。于是李陵设宴祝贺苏武，说：“如今你能回汉朝，在匈奴中扬名，功劳在汉朝显扬，即使那些记载在古书当中，画在丹青之上的贤者，谁又能比过你呢？我李陵虽然怯懦，假如汉朝当年赦免了我的罪过，保全我的老母，我一定会忍辱负重，因为春秋时代曹刿劫持齐桓公于柯盟的壮举正是我念念不忘的志向，然而汉朝却将我家满门抄斩，这是当时最残酷的刑法，我还有什么可顾念的？已经这样了，只是希望你了解我的心意吧。”李陵泪流满面，之后与苏武诀别。