遭受腐刑
腐刑就是男人去勢的宮刑，男人去勢後，無法再生育，有如腐木不再生果實，所以稱之為腐刑。談到腐刑就會讓人聯想起宦官。其實在司馬遷以前的朝代，受腐刑及做宦官並沒有後世那樣受人歧視。
據說最早時，常有一些俘虜或因罪被罰的貴族因為聰明或有技藝，在受了腐刑之後，為貴族們服事執役，其地位甚至在一般農牧工商的平民之上。
秦朝時，宦官趙高為郎中令，且擔任秦二世之師。司馬遷的時代距秦不遠，稍早的呂後曾封宦者為侯，而且漢的政治組織中行政性質與宮廷服務性質並存，還保留不少“家臣”的遺風，政府組織尚未成熟到與宮廷截然分開，因此宦官還沒被皇帝提升到“內廷”的控製集團，而與宰相領導的“外廷”相對抗，後世所見的宦官惡劣形象也還沒有形成的條件。因此，受腐刑雖然難免會遭到譏笑，但還不至於如我們後世想的那麽嚴重。
不過司馬遷畢竟是個知識分子，與一般平民的想法有所不同，他認為人有十等
第一等的不辱及祖先，次一等的本身不受辱，再次一等的臉麵不受辱，再次一等的言辭不受辱，再次一等的軀體不受辱……而最下等的就是受腐刑。
“行莫醜於辱先，詬莫大於宮刑”，他認為這是奇恥大辱。
他甚至舉出三個曆史上受腐刑而被歧視的例子，然後說：夫以中材之人，事有關於宦豎，莫不傷氣，而況慷慨之士乎！
司馬遷以“慷慨之士”自居，視腐刑為無以複加之恥，於是擺在麵前的三條路中，似乎隻剩下自殺免受辱這一條了。
可是，他反問自己，能就這樣死掉嗎？如此一問，那就不是受死刑還是自殺了，而是生與死的抉擇：人固有一死，或重於泰山，或輕於鴻毛，用之所趨異也。
慷慨就死誠然痛快，可是自己長久以來所抱持的理想就要隨著生命的消逝而變成泡影。父親臨終時所說的猶在耳際：
廢天下之史文，餘甚懼焉，汝其念哉！
當時自己“俯首流涕”地答應了父親，那幅情景曆曆在目。
父親死後，自己“史記石室金匱之書”，從青年時期遊曆天下，又隨漢武帝巡遊名山大川，訪問故跡遺老，那些論著構思已躍然筆墨之間。如果逞一時之快，貿然就死，那些東西豈不成了未完成的“斷”簡“殘”篇？
想到這些，司馬遷經過激烈的思想鬥爭之後毅然決定求生，他要留下這條命，為了對父親的承諾及自己的未竟之誌活下去。他向獄官請求接受腐刑以免死。在天漢四年與太始元年（前97―前96 年）間下了“蠶室”——因為受腐刑的人怕風，需要暖氣，所以作暗室蓄火，有如養蠶之室，故稱之為“蠶室”。
在旁人看來，這本是求生意誌作用下的一種自然反應，無足為奇，但司馬遷心中的鬱悶和苦衷真的不是旁人可以了解的。
受刑後的司馬遷“腸一日而九回，居則忽忽若有所亡，出則不知其所往”，恍恍惚惚不可終日。隻因為多說了幾句話而遭此橫禍，親戚和鄉人恥笑他，說他汙辱了祖先。司馬遷自己也覺得愧對死去的父母，“亦何麵目複上父母之丘墓乎？”每念及此，就“汗未嚐不發背沾衣也！”
這種痛苦的心情直到五六年後，在他寫給朋友任安的信中，才得到盡情的發泄。
受了腐刑之後，司馬遷就不宜再擔任太史令了，因為那是與宗廟祭祀有關的官，身體“殘缺”的人不宜任職。
而漢武帝這邊，李陵案已經過去，他心裏明白李陵最後叛漢是被他幾次誤會逼的，這件事實在沒有再追究下去的必要。他對司馬遷也有一絲歉疚，於是又將司馬遷從獄中調回自己身邊工作。
宦官的得權一般都認為是自漢武帝這裏開始的，他晚年多在後宮決事，身邊自然形成了一個在宮內作為皇帝統治工具的集團，也就是內廷，不過那時候，還沒到宦官一手包辦的局麵。漢武帝晚年既然喜歡在後宮“遙控”
政府，那麽原來掌管“出納王命”（管理大臣所呈奏書，及皇帝判行命令的下發）秘書工作的尚書就有機會在中間掌握權力。
尚書的主管叫作“尚書令”，本來是由士人擔任的，後來有時也由宦官擔任，就改稱為“中書謁者令”，又稱中書令。不管是尚書、中書或其他秘書性質的宮廷職位，都是因為皇帝在後宮逐漸給予權力，等到權力和業務範圍膨脹到與行政機關相同，甚至比行政機構還要大以後，就被推出內廷到外廷，成為正式的行政機構。皇帝在宮內則另外建立內廷係統，後世行政係統的尚書、中書就是這樣形成的。
司馬遷被任命的新職務就是中書令，中書令的俸祿比太史令高，等於是皇帝的秘書長。《漢書·司馬遷傳》中說他受刑之後“尊寵任職”。與後世擔任這種職務的宦官相比，司馬遷必定是一個安分守己的秘書長，撇開他本身的因素不談，漢武帝那樣獨斷專行的個性又怎麽可能給他掌權的機會？《晉書》中說：尚書本漢承秦置，及武帝遊宴後庭，始用宦者主中書，以司馬遷為之中間，遂罷其官，以為中書之職。
有人不同意這種說法，研究者一再強調司馬遷不是宦官，不能將其作為“宦者主中書”的開始。可是既然尚書令因為改由宦官擔任才改稱為中書令，那麽在漢武帝眼中，司馬遷已經算是宦官了，不過這中間還有不少疑問存在。
總之，司馬遷受腐刑後，常常與宦官接觸、共事，但後世實在不願把他歸入宦官之流。
自從太初元年（前104 年）司馬遷執筆寫《史記》以來，到李陵案發生而被下獄，這期間過了7 年。接著在獄中的兩三年，據說司馬遷並沒有停止創作，不過他的心境已經發生了徹底的變化。一直到《史記》完成為止，李陵案的餘響都可以在其中找到痕跡，司馬遷所受的創傷也可以從中看到相當程度的反映。