十七 聽證
2069年266日約17時
瀚海大廈569層的一間會議室，關於T事件的聽證會正在舉行。
這是一間特殊的會議室，特殊之處在於這間會議室裏沒有任何電子設備。被光線擊中的機器人掛在一旁的密封玻璃櫃裏。它剛組裝沒多久，就又被拆解得七零八落。基準球已經拿出來，放在方石麵前的長條桌子上。方石坐的位置在台下。
這間會議室他來過很多次了，但這是十年來他第一次坐在台下被質詢的席位上。整間可容百人的會議室，台下隻有他一個人，而台上的一排桌後有七個人。方石隻認識右首最邊上的申舜和中間坐著的科學院院長舒漫。舒漫，從長相和名字看，就知道是移民後裔。
“你從沒有說過遊戲項目的機器人是有自主執行權的。”七人中左首第三人是主詢官，他說。
“遊戲項目沒有給機器人任何特殊權限，但後來我們又在遊戲下發展出一個子項目，叫黑匣子。”方石說。
“科學院沒有‘黑匣子’的審批和備案記錄。”
“有，隻是如你之輩看不到而已。”方石還是用他特有的不鹹不淡的口氣說話。
方石的傲慢語氣讓申舜直低頭揉腦門。
“我們已經拿到新市長的解密令了。申舜，告訴他！”主詢官說。
“是的。”申舜說，“‘遊戲’項目並非一個正式的項目名稱，它在檔案中的項目名稱叫‘氣象’。它有兩個任務：一是觀察，這無須解釋；二是預測，是基於人類已知的天量信息對未來進行預測。兩項任務我之前已經講得很清楚了，但其來由，待方石講給你們聽。”
“在氣象下，觀察是功能，預測是使命。人類當然承擔不了這樣的重任，隻有人類創造的智能體才有資格嚐試。”方石按照要求向調查小組解釋項目的來龍去脈。
“項目首先要解決的是智能體的能力問題，隻有能力到了，功能和使命才可能被完成。‘氣象’項目下有三個人工智能體。”方石沒有用機器人來稱呼它們，“剛誕生的時候，它們還不能用上‘人’這樣的字眼，隻能叫‘體’。”
關於這個項目的過往出現在方石的腦海。三個智能體的能力是有史以來最優秀的，因為造價都極其高昂，每一個都相當於一艘小型航空器的成本，造出三個已讓項目資金超標。他發起追加資金的申請，但因資金數額過大，被科學院駁回。
他想了不少辦法，動用了自己的人脈資源，獲得了些資金，但這些努力隻夠維持項目，進階是不可能的。他還得另想辦法，幹點兒打擦邊球的事，對方石來說不是什麽大事，要是從來都那麽規矩，他還是辦公室的一位小嘍囉，不，是老嘍囉，他一直這麽想。他將自己的房產抵押，申請私下貸款，這些事都沒有匯報給科學院。
解決了資金問題後，方石遇到了法律問題。依照《人工智能法》，人工智能體是不能獲得天量信息的，它們隻能得到一定範圍內規定的專業信息。“沒有天量的信息就無法預測”，這點項目組成員都知道，“信息是機器人的糧食，是硬道理。”
違法的事，做不做？在這個問題上，他其實也有過猶豫。有一天他翻看古書，看到一位遠古僧侶玄奘的故事：“……那夜，他用粗布裹了頭，背起經笈，混在難民隊伍裏。待他被士兵轟著出了城，才舒了口氣。前路在月下泛起光亮，他回望城樓，白森森的雲下，那樓宇輪廓似要向他壓過來。他疾步向前。”
他又翻到後頁：“……正是午時，烈日在沙漠上曬出片片浮光掠影。最遠處的景，也許是真的，也許是不知哪裏借來的，亦真亦幻，難辨真假。當他看到起伏的沙山下畫著一道筆直的城牆橫線時，並不敢確認那是城市，直到腳下出現數道車轍，彎曲淩亂地勾出長長的沙土路，盡頭指向那直線中間點的城樓時，才敢認準那是他的方向。待他走近些，看到城門口貼近地麵的景物在幹燥的熱氣後像倒影一樣浮動，那是兩排鮮亮的彩旗和官衣隊列。他們在幹燥的熱風裏，已跪候多時。”
他合上書，決定去做。
他當然不能說他要違法，他隻是向這些年輕人透露過苦惱：“因為沒有吃的，這些小東西們可能會被報廢掉。”“吃的”，大家都明白是信息。這話他記得隻說過一次，年輕的組員們就立刻心領神會，四處帶著小東西們找“食”。鷚是最膽大的一個，他也不知道陳鷚用什麽方法給T裝上了天量信息。他甚至沒有問過這件事。“我隻看結果。”這是他經常說的話。
機器人做預測並不是新鮮事，方石的團隊要做到最好，就要開動腦子想新辦法。這三個小東西加載了一個有趣的設定：小機器人把預測結果提交給中心後，如果“蒙對了”可以獲獎，很有遊戲的意味，這是項目被小組成員戲稱為“遊戲”的原因。最初獎品是對一個特殊感應區域的一次短暫的電流刺激；如果沒有“蒙對”，也有一點兒小懲罰，是對前述區域來一次短暫的降低電壓，僅此而已。幾個月以後，這個區域就得到了大跨步的升級，感應區更加複雜，刺激方式脫離了單一的刺激模式，由軟件、電流和化學物質共同進行，基本原理來源於多酚物質對大腦的刺激。
三個“小東西”的“觀察”範疇是三種典型的區域，數據係統、太空和整個城市。
這三個“小東西”在2047年至2048年間入列。空間站那台叫“觀察者A”，被安放在太空站，它在空間站收集信息並進行太空觀察和預測。放入米克操作室的那台，實際上也是打了擦邊球，機器人是不允許接入數據係統的。這家夥以維修機器人的名義，被放入米克所在的巨大機房，而維修讓它可以名正言順地接入係統進行觀察。它的名字叫“觀察者M”，綽號“紅蜘蛛”，外形是鏽紅色，多腳的形狀類似於一隻蜘蛛，每一條都可以接入係統，通過係統信息進行預測。
另外一個就是“觀察者T0459”，它的觀察和預測場是整個邯城。“它造價是最低的，但卻最有趣。”方石在聽證會上說。
雖說造價最低，但三個人工智能中顯得最實用的，就是這T了。它預測的結果最接地氣，都與城市有關，大到天氣、貿易，小到賭博之類，項目組的小夥子最是喜歡。而那太空機器人“觀察者A”雖說沒有得到大的關注，卻很快被太空署高價買走，因為它深得偶爾光顧太空站的太空員們的喜愛。讓人覺得最沒有用處的就是“紅蜘蛛”，天天在黑暗的機房中爬來爬去，預測的結果卻不如米克自己，讓項目組很是失望，好在它絲毫不用人管，自己充電自己維護自己“玩”，所以，大家就讓那隻家夥在那黑暗的機房永久待下去。“讓它作為一個變量待著吧，沒準哪天也能做出驚天的事兒來。”方石當時說。
太空署高價買走空間站機器人的舉動相當於認可了“氣象”的成就，這個項目得到了進階許可。方石乘勝追擊，決定在“氣象”上附加一個子項目，叫“黑匣子”。
“黑匣子”的使命仍是觀察和預測，但卻是升級版。“它觀察的是人工智能體本身，還有‘隨機’，這片上帝的領土。”方石說，“為了最大限度地看到它的能力，它被秘密地給予了自主執行權。”
“我們都知道，或是說都以為，隨機是完全無法預測的。隨機讓所有可能在同一點存在。薛定諤的貓待在黑匣子裏，隻要你不看它，它同時占有生和死兩種可能，在你觀察到它時，現實才在頃刻間坍塌發生。我們都認為，這是一起孤立的坍塌，是完全的概率事件，毫無規律可循。但如果僅僅以依賴概率的隨機發生來解釋進化，人類還沒有誕生，這顆星球仍是蠻荒一片。所以，我對此是懷疑的，我大膽猜想，同一個空間裏所有時間裏的所有隨機，也許都是聯係在一起的。”方石一貫平淡無奇的聲音，讓聽證會鴉雀無聲。
“而這些看起來毫無關聯的概率事件，才組成了通向現在——一個高度文明的社會，一個幾乎由戲劇性的低概率事件組成的世界。所以，我認為對於隨機的觀察，不應當聚焦於一個盒子裏，應放眼所有時間空間裏的一切。我們所在的這個世界就像一個一片混沌的黑匣子，我們要觀察與計算這個黑匣子裏發生的所有隨機，觀察現在的一切，過去的一切，從而去預料將來的一切。
“我所在的局是進化局。進化的秘密對我來說，是一座一直無法企及的神秘高峰。我認為進化不是生物獨有的，這個宇宙本身，以及成為係統的一切都在演化。當熵讓一切變得無序時，進化讓一切變得有序。我運用我的小人物們……”這是大家第一次聽到方石用“人”這個字眼來稱呼人工智能，“這些超能小人物們來觀察、分析和預測這個世界，我也觀察它們，觀察它們的自我選擇。我倒想看看，大量的‘隨機’會不會集中通向社會和其中個體的整體進階。”
“當然，為了便於觀察，我們要給機器人的自我進階創造條件，所以，必須要賦予它們足夠的隨機空間，並且讓它們擁有一定程度的自主權。項目下的超能小人物所得到的選擇由自主權和隨機平分。”方石站起來，他不像個被詢問的人，而像是在演說，“為了讓它們更積極地選擇，更易被觀察，它們應當擁有情緒，這是項目組的共識，是讓它們更聰明的必由之路。”而且，他停頓一下說：“他有對自我決策的執行權。”這句話讓會場鴉雀無聲。大家都意識到，他已打破人工智能與人類的契約。
機器人一直不讓裝情緒軟件和裝置是法律的約束，而技術上早就可以做到了。所以，有人提議，方石沒有阻止，立即就有試驗者。這個受獎勵和懲罰的感應區域得到了革命性的改進，這部分區域承擔機器人的“情緒”功能。小組為模仿人類出現的情緒概率，在優化的基礎上進行了設定，擴大它與行動、環境的相關聯度，又給予了隨機性，所以，出現這些“情緒”對於小機器人來說不是完全隨機，也不完全自主。各種情緒出現的概率不同。與人類的情緒不一樣的是，小組人員去掉了一些被認為不好的人類情緒，比如去除了“忌妒”，隻給“生氣”留下了小概率，當然“快樂”得到了最大的概率，“悲傷”和“恐懼”也有一席之地。
“情緒不光是一種結果，它們影響到電流和元件的靈敏性，從而影響行動。行動產生情緒，情緒與行動相連。這些情緒和行動之間的相互影響被項目小組所記錄和觀察。機器人產生的情緒有多強烈，各種情緒產生後會怎麽發展，以及它對這個無機體產生的作用，也是‘黑匣子’的觀察對象之一。”
“這三個機器人都在‘黑匣子’項目下嗎？”
“‘氣象’機器人有三個，但‘黑匣子’下隻有T。太空機器人即使不被買走，項目組也不建議采用它，因為它的功能性設計過於完美，給隨機選擇留下的空白太少。而那蜘蛛，我們早就放棄了。”
“不過，現在有兩個了。”方石指了指掛在玻璃櫃裏的機器人，“它們現在還不是人，但是，終有一天，它們是會成為人的，隻是一個時間問題，而我為什麽不成為開啟機器人自我進階的加速者？”
“你以為你可以盜取火種，卻發現自己無法澆滅它，讓我們來收拾局麵。”舒漫終於說話了。他語氣並不重，但人們還是感到其中藏著威嚴的怒火。
“下次我會拿著滅火器幹活。”方石終於低下頭說道。“那麽，為什麽你前段時間決定中止項目？”主詢者問。
“在對T的觀察中，我發現，T將自己本身加入了觀察範圍，也就是說，它不再是個觀察者，它的行動成為環境的一部分，它讓本身成為一個變量。這讓我感到危險，它有些脫韁了，超出了控製，這是我所沒有預料到的。而且，它為了主目標，也就是使命，自我生成了次目標，而次目標中，我們沒有排除‘殺人’的選項，這是我們的失誤。”方石說，“所以，我決定捕獲它，再改進。這並不說明我要中止‘遊戲’，而是中止T。我們不能讓一個可以計算並控製環境的可殺人物體逃脫在外，下次……”方指了指玻璃房裏的機器人，“我們要先讓它在一個大玻璃房裏，用各種實驗性的事物來試探和觀察，而不是一開始就放到自然界裏去，像我們對待T一樣。‘遊戲’本身沒有錯，錯在我們給了T太多的自由選擇和空間，而它的試驗場是整個城市！”
“你是說它不會在乎人類的生死？”“是，以我們所知，那個嬰兒的死與它有關。”“你是說它在天空中救的那個？”“是的，嬰兒的心髒本就脆弱，有極大可能死於突然下降和劇烈晃動引發的心髒病，所以，至少它是不在乎他的生死的。”“那麽為什麽不執行一鍵終止？”“我們無法一鍵掌控它的生死，因為它把基準球扔了。”
“T這次的行動一定是在使用自主權執行使命，那麽，它的具體使命是什麽？也就是說，在那麽多的觀察和預測中，它的使命到底是什麽？”主詢官接著問。
“它的使命是預測，但它也許自我生產了新使命。”
“T已經複製了自己，難保它不會複製另一個。可是我們到現在還不知道它給自己設定的使命是什麽。”
“基準球中記錄的東西我們做了拷貝，有它在實驗室時的記憶，有它看過的一部歌劇《弗蘭肯斯坦》。那部歌劇我們分析過了，完全就是單純的記錄。還有它所有的預測任務。”
“列出所有的預測清單吧。”
屏幕上出現了T從誕生以來所有的預測。
“14項氣象預測，準確率100%；12項貿易預測，準確率100%；39項交通預測，準確率100%；1項未歸類預測，這項在未來發生，所以無法計入準確率。對於這項預測，我們沒有搞明白意思，預測結果叫‘邯城之傾’，發生時間是明天。”
“這個機器人是在跟我們打啞謎嗎？它是不是預測這座城市要毀滅了，是的？應當是這個意思。”坐在舒漫左邊的人說話了。
“你是？”方石笑了笑，問。“我叫陳鶩。”這人說道。
方石聽說過他，這倒是第一次見到，他是科學院最年輕的高層，科學院裏的紅人，人工智能局的局長，24歲，是基因改造後出生的優秀人類。
陳鶩開始侃侃而談：“讓我們分析一下這個成語，關於它有兩個故事，一個故事，是古代的邯城的皇帝愛上了有傾城之貌的美人，人們傳言她是禍端，所以他狠心賜死她，所以，邯城之傾在這裏的意思，是殺死可能的**。”
“結局呢？”方石問。
“傳說，哪來的結局。據說那女的死了，或是逃了，但城還是亡了。禍端不是那女人，而是皇帝心中的魔鬼。”
“另一個故事呢？”
“這倒是真事。申朝的皇帝和最有權威的元帥之間相互不信任。皇帝讓元帥去迎戰人稱不可戰勝的敵軍，但元帥贏了。在元帥抗擊侵略者得勝後，皇帝命他僅帶小部隊回邯城，要加官晉爵。元帥知道回城後必有禍端，一邊回城，一邊製造皇帝身邊權臣將篡位的流言。回城後，以保衛皇帝以挽‘邯城之傾’之名，挾持了皇帝，從此進入了君王和元帥共治的後申攝政時代。這裏，邯城之傾有虛假的危機的意思。”“這樣的預測說明什麽問題？”舒漫說話了。“最優秀的基因人，你不知道嗎？”方石低著頭數自己的手指頭。
陳鶩似乎沒有在意方石的譏諷，他依然保持著高昂的調子在說話。“這個成語的意義很明白，這個城市就要傾倒、毀滅了，這就是預測所暗示的。而引起這場毀滅的，就是你製造的在城市逃竄，擁有自主權的最高端最聰明的機器人T！”陳鶩說，“作為進化局的負責人，你超越權限給予人工智能體自主權，實際上，是為人工智能脫離人類控製打開了方便之門。”
“‘邯城之傾’這個成語從來沒有毀滅的意思，它更多地意味著危機。我與你賭一把這個預測和毀滅無關，按這日期今天就會見分曉。不過我倒是同意T在這件事裏扮演的角色，它有這個能力。”方石終於停下了數手指，抬起眼來直視陳鶩，“這麽容易激動，情商這麽低，基因人光聰明有什麽用？”
“都不要吵了，現在就動用全城的力量，在明日之前抓到T。”舒漫說。
“你們不一定能找到它。”方石還是在數著手指頭，“除非它願意被找到。”“除了一鍵死亡，還有什麽方法可以用？陳鶩，你是人工智能局的，有什麽辦法嗎？”舒漫問。“有的，欺騙程序。我們在所有的機器人芯片中都寫入了欺騙程序。”方石聽到這話，才抬起眉頭來看著他。
“就像‘黑匣子’給予機器人自主權秘而不宣一樣，這點也沒有公開。我們始終不信任一鍵終止權可以控製整個機器人群體，所以，另加了這麽一個程序。這個欺騙程序存在於運行命令中，所以，並不依賴於基準球。這項欺騙是時間欺騙。”
陳鶩開始向大家闡述他的時間欺騙：“時間，我們所認為的至高無上之物，對於人類來說，一定是與記憶聯係在一起的，而對機器人來說，時間隻是一行數字，但卻是至關重要的數字。如果我們要對一個人搞時間欺騙，我們要針對他的記憶做文章，而如果要欺騙機器人的時間，要針對數字做文章。如果我們整體調整機器人的時間數字，整個機器人的世界都會被欺騙。機器人，就像生活在一個五維空間裏，時間對它們來說，隻要數字可變，時間就可以扭曲，可以伸展。
“我們當今的機器人時間，都被法律統一為宇宙時間。城裏所有的電子時間係統都與網絡同步，即使電腦主動或被動地調節時間，網絡也會每兩分鍾一次地將它校準回來。但是，我們設計了一套代碼，可以讓我們在兩分鍾內調節機器人的時間數據，其控製點在人工智能局。在看似短短的兩分鍾時間裏，我們可以修改時間的速度，讓時間在短時間內形成一個大值或小值，比如在瞬間到達遙遠未來的某個時間，或是倒退到過去的某個時間比如元年。由於電腦是二進製，這樣的數值會超過目前二進製128位的係統，形成整數上溢或下溢。兩分鍾，足夠電腦變成板磚一塊。任何電腦都會跪倒在永恒或是停滯的時間麵前。”
“你私設了一個設備以操控係統時間，這要是公布出去，對科學院來說是大醜聞。要知道，時間在我們的時代，是至高無上之物。”方石說，口氣還是沒有一絲情緒，似乎隻想提醒大家，在幹私活方麵，大家彼此彼此。
“這種提議一旦拿到桌麵上來，我就會被意見淹死。與其不停解釋，不如直接幹好了。我從來不相信契約和一鍵終止這些簡單的方法可以完全控製高度發達的機器人群體。控製人工智能為人類服務，這是大義，我不在乎科學院怎麽處理我。”
方石此時倒是對這個從來都看不上的基因人生出幾分敬意來，但他也提示他：“T和所有的機器人一樣，不可以說謊，但並不說明它不可以以複雜的方式達到欺騙，而且，以它的智力，足以讓它生成反欺騙的技巧。所以，對於你的時間欺騙的效果，我也深表懷疑。如果它將時間與宇宙客觀聯係在一起，它完全會懷疑你對時間的更改，就像記憶如果明顯失真，人們會不相信自己的記憶，從而讓它歸於幻象或是夢境。”
此時，大廳裏一片寂靜，所有人都在等待舒曼的決定。舒曼仍陷在寬大的椅子裏，撐著腦袋的右手，把臉擋住了快一半。
此時是267日，約淩晨3時。