太初年间，飞将军李广的孙子骑都尉李陵听闻楚人剽悍，就到楚地去招兵。吴单本是楚地的猎户，家境贫苦，无法在家乡生活下去，就应征入伍了。李陵一共在楚地招了五千人，他带着这五千人到张掖和酒泉去，教他们射术和刀术，带领他们与匈奴人作战。吴单原本射术极佳，又跟李陵学会了刀术，作战也很勇敢，还学会了骑马，李陵很器重他，就提拔他作了百人将。 天汉元年，大将军李广利率五万骑出征青海，皇帝命李陵出居延，向匈奴境内的浚稽山进军以牵制敌人的兵力，李陵就带着他的五千步卒出发了。在草原上走了一月有余，万幸并没有碰上大股敌军，李陵很高兴，在浚稽山扎下营寨后，就派部将陈步乐回长安去向皇帝报信。由浚稽山到长安去，有数千里远，途中还有可能碰到匈奴人，陈步乐自己一个人自然无法回去，李陵又从步卒里挑选了八个射术和刀术都很精湛而且会骑马的人，保护陈步乐回到长安去，吴单亦在其中。 在途中因为与匈奴人作战又死去了两个步卒，最后回到长安的加上陈步乐自己只有七个人。陈步乐向皇帝报告了李陵的军队已经到达浚稽山的好消息，皇帝龙颜大悦，封陈步乐为郎中，俸禄三百石，与陈步乐一起回来的六个步卒，也得到了殊赏。 然而坏消息很快传来，李陵的军队遇到了匈奴军的主力，李陵率五千步卒，边战边退，箭尽粮绝，仍没有等到救援，最后在退到距居延关只有数百里远地方的时候，被匈奴大军包围，李陵突围没有成功，只好投降了匈奴。 皇帝大怒，不仅剥夺了陈步乐郎中的头衔，还要把他和他手下的六个步卒全都斩首。这时候，全国上下人等，都觉得陈步乐等人死有余辜，唯有太史令司马迁觉得陈步乐冤枉。司马迁性情鲠直，虽然皇帝正在大怒，但他仍然直言进谏道：“陈步乐回来的时候，李陵还在浚稽山下与匈奴作战，他不可能知道李陵后来会投降匈奴，他其实是没有什么过错的。”皇帝也知道自己杀陈步乐是杀错了，就说：“如果他们能用钱或者用腐刑赎死，朕就放过他们。” 汉朝有用钱赎死的法令，不过那笔钱数…