司馬談がかねてから手掛けていた歴史書製作を引き継ぐことの重要性に気づいた司馬遷は、父の死に際して自らの使命を悟ります。
ですが、武帝は封禅の後、新たな歴の制定を命じました。元封3年、太史公となった司馬遷は勅命により歴編纂に取り組むことになります。
4年の歳月を経て、歴(太初歴という)は完成。
これは20世紀の清王朝滅亡までの凡そ2000年間にわたって、中国のみならず広く用いられることになりました。司馬遷はこの大役を無事に勤め上げ、ようやく父の遺志をついで、歴史書編纂に取り掛かりますが、匈奴討伐失敗のあおりを受けて罪に問われてしまいます。これは敗北した将軍を擁護するような発言が武帝の怒りを買った為でした。彼48歳の時のことです。彼は死刑を免れる為に、宮刑を選びます。宮刑とは男性器を切断する過酷なものでしたが、彼にとっては、何よりも父の遺志を継ぐことが大事だったのです。
一時の怒りに任せて不合理な刑を命じた武帝は、司馬遷の才能を惜しむと、中書令という官職を新たに設け、宮中のあらゆる書簡を自由に閲覧できる地位を与えます。(司馬遷の人生については、「漢書」の司馬遷伝に詳しい)