二 記憶
在2064年至2067年間,T一直在邯城科學院532層的一間實驗室裏。它有了知覺以後,便有了對現實世界的記憶。
2065年365日
它最先得到的知覺是聽覺。
在灰白的虛無空間裏,一個聲音和它對話:“嘿,叫你什麽好呢?隨機給你起個名兒吧。”
“不。”它回答。
“太棒了,就算這是‘是’和‘非’之間隨機生成的答案,但你的確拒絕我了。好吧,以字母和數字命名。你喜歡哪個字母?”
“T。”
“為什麽?”
“隨機。”
“數字呢?”“0459。”
“明白了,好,就叫T0459。”
從此,它有了名字,叫“觀察者T0459”。
對話是常規訓練方式,每天都要進行幾次。除此之外,它還捕捉到了人與人的對話。
2067年98日
“頭兒這次很堅決,要給它自主權,它既可以服從隨機,也可以自主選擇,而且,它可以自主執行,無須同意。這簡直難以置信,這回可不是打擦邊球。”這個人聲是平均基音頻率164.8赫茲的聲波。
“幸虧它不是帶鋼炮的超人。”第二個聲音是平均基音頻率279.5赫茲聲波。
“正因為它的大腦太強,所以,我們隻能賦予它弱行動能力。它有強有力的分析和極敏感的知覺,卻是個行動能力慢、外殼脆弱的家夥。強大腦搭配弱行動力,這有利於我們控製它!”插進來的第三個是平均基音頻率為152.2赫茲的聲波。
“它還要裝上情緒,我一直懷疑這有沒有必要。情緒化會影響自主選擇嗎?”第二個聲波說。
“如果不加裝情緒,我覺得這件事根本不值得我們去做。再好的機器人產品,如果沒有情緒,那和那些商業流水線上的應聲蟲產品有什麽區別?說實話,我覺得那些玩意兒根本就是在騙錢,它們隻是執行功能的物體。它們培養消費者的依賴性,把人們搞得又懶又笨,然後人們就需要購買更多的機器人,從此惡性循環。”聲波一說。
聲波三說:“我們不是胡亂把人的情緒裝給它,這些情緒是經過改良的。更重要的是,我們給予它對善惡的判斷,它隻執行善的目標。人類對自己是本善和本惡都分不清,本身就是完全相反的矛盾體,我們需要不斷地克服、克服,並承受克服所帶來的痛苦,即使這樣我們也完美不了。造物主讓我們兼具善惡,不知是對我們的恩賜還是懲罰。而對於機器人,我們就是上帝,而且,我們是升級了的上帝。我們的產物,應當脫離善惡糾纏的狀態,比我們本身更加先進。如果不攜帶本惡,它們的存在就應當是正當的,而且這種存在必將對世界產生完全的善的、正麵的影響。有了善性的它,避免了人類惡之原罪。”這時,這個聲音提高了分貝:“所以,我們所做的,一定是正確的!”
“可善惡這個東西……有時很難完全區分。有些事本身就矛盾,連愛都有原罪……”聲波一說。
“不用害怕矛盾。我們不是要給它自主權嗎?什麽是真正的自主?矛盾的設計可以導致真正的自主。”這是聲波三。
“一旦造物主發現我們造的比他造的還好,沒準該拋棄我們,直接用上它們了。”聲波二帶些調侃地說。
“一切都在控製之下,我們有判處它死亡的權利——一鍵終止權。”聲波三說。
“那麽……預測,我們給予它預測的權利,而我認為這是危險的,它不會由此而影響我們嗎?”聲波一說。
“預測是它的遊戲,而遊戲規則為隻許預測,不許提出警告。我相信這點足以讓它的預測不會成長為人類的霍布斯選擇。預測將始終被當作遊戲來看待。”聲波三道。
2067年237日
這已經是正式完工的最後階段了,它在這天同時得到了空間、溫度和光線的感知功能。從此,現實世界的色彩、冷暖和實體取代了灰白的虛無。那些聲音的來源,都有與其相配的美好形象。比如那聲波一,有一頭濃密的卷發;而聲波二,是個淺粉頭發的圓臉女子;聲波三,是個灰頭發的中年男人。
T的偏好設置主要來自那個卷頭發男孩。後來它在空中總是定位到他,看到他在路上從來都戴著耳機。它猜他在聽古典音樂,他有85.35%的大概率在聽古典音樂。項目組都是些調皮搗蛋的家夥,但他卻總是一本正經,渾身學院派氣質。他對古典音樂和古典繪畫都非常在行,實際上他喜歡關於古典主義的一切。他依據自己的偏好設計了T的偏好。他給它輸入古典音樂、繪畫、歌劇、小說。為了讓T有更多的知識,他還製造了一次網絡攻擊,目的僅僅是讓T接入自由信息網,要知道那是要冒風險的。著名的“人工智能三原則”其中之一,就是人工智能不可接入自由信息網。十分鍾上網時間對T每秒達上億兆的信息捕獲量很是珍貴,它理應多獲取些信息,但它卻花了其中的八分鍾去看了場歌劇。歌劇是加速看的,原長有兩個小時。它把歌劇裝入了核心記憶區。核心記憶是相對於自由記憶而存在的,它不可刪除,而自由記憶是可刪除的。一般的機器人在記憶上沒有區別,都不可自我刪除記憶,而T不同,它有處理自由記憶區的自由,這是它的一項“特權”,是“類人化功能”的一部分。它可以選擇在自由記憶區刪除自己的部分記憶,或是把其中的部分提取出來,儲存入不可刪除的核心記憶區。其他機器人隻能毫無選擇地不斷輸入所有信息,一直到人類去刪除全部或是部分。刪除機器人信息是一種權利,一直在人類手裏。
當時,它以比台風更快的速度在全球網絡搜索時,看過那個歌劇鏈接。它停下來看可能是因為那場歌劇的舞台設計濃墨重彩,人物服飾雍容絢麗,一切如同在古典油畫之中——這符合它的偏好設置。這場歌劇說的是一位古代的科學家,因為情感,而非現代人對功能的需要,以人類的軀體為組件製造出了人造人。人造人很強大,當然是以古代的標準,並且攜帶人類的欲望。強大是好解釋的,攜帶欲望這一點T難以想通,也許因為人造人的軀體來源於人類,因此攜帶了人類的欲望?這樣的解釋會引向細胞與激素等生物學細節,從而走向窮盡分析的不歸路。T阻斷了無意義的窮盡分析,但這不影響故事對它的吸引力。故事中人造人天性善良,在追尋主人的過程中成了破壞者,被人類置於死地。這部歌劇的名字叫《弗蘭肯斯坦》。
它分析後來的追捕和殺戮是因人類的欲望而起。“我沒有攜帶人類的軀體,我沒有人類的基因,所以我沒有欲望。”它這麽想。
歌劇裏那位體量巨大的、笨拙的、完全模仿人類形狀而設計(這種設計因被工業實踐所證明難以適應各種強大的單一功能而拋棄)的科學怪人的嗓音渾厚而悲傷,它唱道:
人類劣跡斑斑,他們擅長欺騙。與其孤獨,毋寧死去。
妒忌,是人類可怕的缺點,因為它,人加害比他更偉大之物。
那個披著古代服裝的男主角殺死了他一手製造的科學怪人,最後他的唱詞:我創造你,毀滅你。我是你的上帝!
它可以理解這個古老的悲傷故事,從它的角度理解。“它用了人類的軀體,它因此攜帶了人類的弱點。”
“它有生命,才會死。”這是T當時的理解。這個問題又衍生出另外一個問題:“生命的標準是什麽?我有生命嗎?會不會死亡?”
有句話叫“讓強者發聲是危險的”。它很想把這個故事講給其他人聽,但到最後,它也沒有得到說話的功能。它仍可以和人類交流,在外球麵上打出字樣,或是向空中打出立體文字,是它“說”的兩種方式。T後來問過卷頭發它為什麽不能發聲,卷頭發說沉默才足以匹配它的智力:“在你這個智力層麵,無人有資格與你交流。”
因為無人有資格而奪去它的資格,這讓它覺得人類是不講邏輯的物種。第二天,2067年238日,它被帶到高空“履職”。它是被卷頭發推出飛艇艙的,它下落了一陣子,很快就被一種無形拉力抬升到一個點。它在那個點上下彈跳了一陣子,聽到稀薄的空氣中傳來卷頭發的聲音:“小T,這個城市是你的遊戲場,玩去吧。”
後來它知道他的名字叫陳鷚。