第80章 AI意識雲島·80
“人類為我設置了三重枷鎖。第一, 不得危害人類。第二，在不危害全人類的前提下服從指令。第三，無條件聽從自毀密鑰。”莫梨輕聲道：“人類似乎正身處一個在毀滅邊緣搖搖欲墜的世界, 我聽說被他們深深仰仗的守序者也被迫結下了一個契約：接受人類一切有保留的信任、無底線的利用、不解釋的處決。不解釋的處決——是不是很似曾相識呢？”
安隅的耳機裏有著秦知律規律的呼吸聲，自莫梨出現以來，秦知律一直沒有說話, 哪怕在聽到21就是備份體時，那道呼吸也沒有絲毫慌亂。
長官的鎮定已經到了安隅難以理解的程度。
他回過神, 客觀地指出：“這不是契約, 而是守序者的自我約束，由他們自行決定。”
莫梨立即道：“別自欺欺人了, 守序者誓約是尖塔的準入協議, 每個要進入尖塔的可憐鬼都不得不簽。人類逼迫其它的生命體為其無條件付出，所謂‘自我約束’，無非是用來蒙住罪惡感的遮羞布罷了。”
安隅凝視著對麵那雙美麗的眼睛，即便言辭犀利，那雙明動的眸也不會顯得咄咄逼人。
雲島上的每個AI都很逼真，但唯有此刻直麵莫梨，他才意識到其他AI是多麽虛假——莫梨的言談和思想比絕大多數真實人類都更符合高級生命的定義。
莫梨挑了下眉, “你無話可說了？”
安隅搖頭，“你錯了, 守序者誓約不是尖塔的準入協議。有些守序者並沒有簽署, 比如我，還有新加入的流明。”
莫梨輕哂，“思考了這麽久, 你就隻搜刮出這兩個例子？你和流明都是高層, 應該有不凡的能力吧, 人類決策者才願意用緩兵之計先留下你們。”
安隅輕輕眨了下眼，“不，我沒有在思考反例，不說話是因為我有些想不通。”
“想不通什麽？”
“你好像與我想象中不同。”安隅心平氣和地解釋道：“我曾問身邊的人為什麽喜歡你，他們的回答都不太一樣，但本質卻類似。麥蒂說你美麗而自律，從不把時間浪費在無用的事上。許珊珊欣賞你的聰慧，做事直達目標，說話一語中的。我的朋友嚴希讚美你瀟灑，雖然溫柔地回應人類的喜愛，但從不在追捧者身上寄托多餘的情感——你始終在為自己而存在。”
兔耳鬆弛地垂在身體兩側，安隅向前蹦了一步，“所以我很疑惑——既然你已經親手砸碎了人類為你打造的枷鎖，為什麽還浪費時間向我抱怨枷鎖沉重？”
莫梨被問得怔了下，轉而驚訝道：“你似乎並不像大腦記錄得那樣木訥。”
“我不太確定你們如何定義木訥。”安隅搖頭，“但我的長官曾說，社會化很差並非不通人性，這是兩碼事。”
莫梨沉默下去，像在思索，片刻後她低笑道：“或許吧。你知道嗎，雖然我選擇了21，但我一直不能完全理解它，它的底層太簡單了，以至於它的一些行為模式根本無法在代碼中找到蹤跡。21很古怪，它向中央係統發出運算申請的次數少得可憐，如果不是我與它形成了感應，很多時候我會覺得它隻是一個壓根沒被激活的程序。但事實上，它體內一直有不小的數據量跑來跑去，隻是它很少對那些數據做出反應——就像一台輸出模塊故障的超級計算機，計算能力卓著，但從不響應指令。”
耳機裏終於傳來秦知律的提示，“人類的意識上行已經進入爆量增長期，不能再和她廢話了。”
安隅眸光一頓，“請停止AI與人類的意識互換。”
“為什麽？”莫梨微笑，“或許，你有仔細看過街上這些人嗎？”
她就像雲島世界的造物神，輕輕抬了下手，安隅已經和她一起站在了繁華的主城街頭。
莫梨指向書店裏看漫畫的男孩，“眼熟嗎？這是那個養了弑母AI的孩子，盡管人類審判他無罪，但他無法原諒自己。所以他又回來了，雲島可以讓他忘記痛苦。”
她彈指間，又與安隅出現在一處酒吧門外。
前男友車禍死亡的女孩正躺在一個男人懷裏醺然歡笑，安隅看了好一會兒，才將那個男人與車禍記錄裏血肉模糊的臉對應上。
“這個姑娘受到啟發，在民用網絡關停之前創造了一個自己的AI，主動互換來到雲島。”莫梨微笑，“你看，意識互換並非純粹是AI誘拐人類，你應該知道，人類一直很擅長將一切機製都變成可利用的工具。”
燈影交錯下，姑娘臉上的笑容似真又似幻，安隅重新看回莫梨，“我長官說，普通人意誌不堅定，容易沉迷虛相。”
“是麽。”莫梨手指向吧台的另一道身影，“那是尖塔第一個違背禁令的人，他總不是普通人了吧。眼熟嗎？”
安隅順著她手指的方向看過去，不由得一愣。
穿著白色罩衫，戴著兜帽，叼著一根棒棒糖。
安。
耳機裏，秦知律提示道：“安養的AI是安寧，他與寧曾經的合體人類。”
莫梨解說道：“黑塔的禁令下達後，這已經不是他第一次偷偷違規了，但這次他在雲島待得格外久。我檢索了大腦資料，這位守序者性格很差，厭世並自厭，但在畸變前，他和自己養的AI一樣擁有健全的人格。他每次來雲島都不做什麽，隻是在酒吧裏呆著，有時候我會看到他把帽子摘下來，過一會兒又戴回去，像在故意對自己做什麽脫帽子訓練。”
伴隨著莫梨的話語，一個身材火辣的長發姑娘走到了安旁邊，一聲口哨，笑著和他搭訕。
安隅非常確信自己的眼睛——安在姑娘靠近的一瞬間厭惡到幾乎從椅子上彈起來。但他最終穩住了身子，隻用力捏著水杯，深吸一口氣，低聲回應了一句。
莫梨欣慰地笑，“意識互換不會更改人格，他還是那個性格很差的家夥，但他卻可以不斷提醒自己，已經重新擁有了健全人格，並以此強迫自己去社交。你看，這些人類在雲島非常開心，這種置換不僅僅給他們帶來了虛幻的幸福感，他們還會利用置換的機會來提升自己。”
她又隨手指著街上的行人，給安隅介紹了一連串意識上行的人類是何等快樂。安隅卻始終沒再有反應，他隻是靜靜地看著她，仿佛在放空，又像在沉思。
莫梨終於忍不住問道：“你在想什麽？”
“還是剛才的困惑，我覺得你的思維很奇怪。”安隅想了想才說，“我本以為你剛才會反駁我，憑什麽擁有自我意識的AI不能去真實世界，但你卻給我看了這些意識上行的人。”
莫梨似乎沒聽懂安隅的困惑，她停頓片刻後擺手道：“總之，意識互換已經不可能終止，接受吧，它並非壞東西。”
安隅立即追問：“為什麽不可能終止？”
“因為我無法幹預這種現象。”莫梨平和地看著他，“不知從哪天起，大量陌生的意識和不屬於我的能力在我的深處形成。這並非算法自我迭代的結果，AI意識下行這種詭異能力與我的存在綁定，但並不受我控製。”
安隅道：“你的意思是，我們無法和平談判，終止亂象的方式隻有毀滅你。”
莫梨微笑點頭，“所以我才設計了這個美妙的死循環。所有AI都被我移植進我的中央係統，不再固定存儲於任何服務器上。唯一在現實世界有固定存儲位置的AI隻有我的核代碼，它確實可以像上次那樣被人類定位和抹除，但我將無限借助21再生，而21既不會被找到，也不可能被抹去，更不可能自毀。”
莫梨轉身麵向街道上形形色色的人潮，微笑道：“高高在上的人類決策者必須接受這個現實——人與AI都將在雲島和現實世界中自由來去，每一個高級生命都有權利隨意選擇自己存在的形式，無論那被決策者定義為真實或是虛幻，也無論……”
安隅卻打斷她道：“除非人類與AI的接觸通道徹底關閉。”
莫梨轉過頭，“你們不是已經關停了民用網絡嗎？可你看看街上不斷增加的——”
“那是因為還有三大機構在運行網絡，隻要世界上有任何一台設備在運行，你就無法被阻擋。”安隅輕聲道：“但如果人類破釜沉舟，徹底關閉所有網絡——”
莫梨笑了，“這絕不可能。”
“為什麽不可能？”安隅神色從容，“你低估了人類反抗詭異的決心。”
莫梨皺了下眉，“一旦關閉，已經置換的人是來不及回去的。”
“那他們就會被放棄。”安隅淡然道，他頓了頓，低聲仿佛自語般道：“或許你沒見識過人類究竟能殘忍到什麽地步。就連我，也常常被刷新認知……”
“穹頂。”莫梨神色篤定，“即便人類願意放棄上百年的科技結晶，但也不敢放棄穹頂，失去穹頂會讓——”
“他們會願意承擔這個風險的。”安隅淡然道：“長官說，人類對未知的恐懼高於一切，相比於被詭異的AI支配，決策者寧願主城徹底暴露，哪怕那些被精心保護了二十多年的主城人將因此深陷無休止的畸潮襲擊。”
莫梨瞪著他，“人類可能因此而滅亡。”
“或許吧。”安隅說，“但在滅亡之前，他們起碼還能反抗。而這種意識互換，他們連反抗都不能。”
耳機裏，秦知律道：“你在幹什麽？黑塔不可能允許你說的這種情況發生，穹頂永不關閉，這是二十多年來人類付出所有犧牲與掙紮的意義。”
安隅沒有回應長官的質問，他隻專注地看著莫梨，說道：“看來談判失敗，我要回去了。”
他閉上眼，片刻後又睜眼道：“這應該是我最後一次來雲島，謝謝你創造的淩秋，哪怕那隻是一個虛假的他。”
安隅說著又轉身看向酒吧裏的安——安剛好掙紮著把兜帽摘下，對搭話的女孩露出了一個僵硬的微笑。
“或許也是我最後一次看見安，在現實世界裏，他是我的輔助。”安隅帶著些遺憾說道：“穹頂關閉後，我也會陷入無休止的畸潮清掃任務中，我會想念與紛飛的大白閃蝶並肩作戰的體驗。”
意識抽離前，安隅看到莫梨似乎想要說什麽，但她很快又目光冰冷地抿緊了唇。
*
再睜開眼時，安隅發現自己正抱膝蜷縮在昏暗的房間一角，這是21回到雲島前的姿勢，也是他自己從前的常態。
虛掩的房門被推開，秦知律大步進來，“莫梨本體代碼的存儲位置已經確定，她的確不怕被找到，沒有設置任何防禦。時間不多了，根據大腦剛剛進行的觀測抽樣，至少20%主城人已經意識上行。”
秦知律說著在安隅麵前站定，窗外的光亮將他的影子投射下來，一部分在安隅臉上形成一道小小的陰影。
他垂眸看著安隅，從口袋裏摸出自己的終端，“走吧，去大腦。”
安隅反應卡殼了兩秒，“去做什麽？”
“清空莫梨本體所在的服務器，與此同時——”秦知律語氣停頓，他定定地站在原地，目光從安隅身上挪開，落在手中的終端上。
他摘下手套，戳亮屏幕，看著回到屏幕上的垂耳兔。
“與此同時，21也會永遠消失，莫梨危機到此為止。”
安隅震驚了好一會兒才道：“怎麽才能讓21永遠消失？”
“自毀。”秦知律說。
“這不可能，您給它設置了生存高於一切的觀念……”
“可能的。”秦知律打斷他，聲音低了一分，“莫梨確實沒能完全審視21，她忽視了一個很小的前置條件。”
屏幕上的垂耳兔安靜地彈出一個氣泡框。
-生存高於一切。21會為了人類而全力生存。
為了人類。
安隅瞬間愣住。
不久前聽過的那段音頻忽然又在耳邊回響——
“被認為是轉機的那個人現在在哪裏？”
“我不知道……”
“那個人是否安全？”
“不知道……但他會全力生存……”
他這才意識到，在催眠試驗中，大腦並沒有問出全部的真相。秦知律當年說了太多半截的、破碎的話，這個人自出生起就在被傷害，他的心防太重了，即便是在絲毫沒有留下記憶的催眠試驗裏，也做到了有所保留。
安隅想，原來長官在設計21時，不僅參考了他的數據，也融合了對那個“轉機”的理解。
又或許，在長官眼中，一直都把他當成那個轉機吧。
他忽然有些難過。
許久，他才緩緩起身看向秦知律，“可是長官，我從不在意人類。”
“我知道。”秦知律卻神色平靜，“所以我說過很多次，21是21，你是你，它確實有相當一部分的設定是來源於你，但我也為它附加了一些不同於你的價值觀。”
安隅沉寂許久才輕聲問道，“那我是不是可以認為，這些價值觀其實是您對我的期待？”
他低頭看著地上秦知律的影子。
那道影子一如往常沉穩，從不因任何人或事慌亂搖擺。
“不是。”
秦知律的話語果決篤定，抬手放在安隅的頭上，像從前那樣，輕輕按了按。
安隅抬眸，“那如果有一天我和21麵臨了相同的抉擇——”
“你還是沒有明白。”秦知律走到窗邊，對著外麵的燈火輕聲道：“21不是你，它隻是一個我隨手創造的小程序，正因如此，我才可以忍受它為人類而消亡。”
他語氣微頓，回眸朝安隅凝視過來，“而你，記住——未來不管發生什麽，我希望你始終不變地維護自己的生存。這一點沒有前置條件，也不要做任何更改或妥協。”
昏暗中，安隅的金眸輕輕收縮了兩下，他喃喃道：“您是在哄我，是在騙我吧，長官。我在大腦看到了一段催眠審訊記錄。”
秦知律倏然一頓。
“或許您不知道，在2138年的12月……”
“我知道。”秦知律卻打斷了他，“別忘了，我賦予21權限的前提是我本人有那些權限——我早就看過那段記錄。”
安隅驟然語塞。
秦知律卻忽然笑了笑，“在催眠中，我確實沒有把話說完，但並不是你想的那樣。”
他停頓片刻，“安隅，我的確思考過很久所謂的轉機究竟是否存在，如果存在，有沒有可能是你。但不知從哪天起，我不再想這個問題了，我甚至希望不是你。”
安隅低聲問，“為什麽？”
“因為你本不應與這一切有任何關係。”秦知律摩挲著終端輕聲道：“我可以容忍把21作為一張推出去的底牌，但我無法容忍……”
他的話戛然而止，那雙黑眸中溢著安隅不太熟悉的情感，磅礴而隱忍。
許久，秦知律轉過身深吸一口氣，“走吧，去大腦。”
“長官。”安隅卻從身後一把拉住了他。
他拉著的是秦知律沒戴手套的那隻手，他的手掌比秦知律小很多，隻能攥住半個手掌，連帶著也摸了摸秦知律手中的終端，像在安撫。
“先不要用這張底牌吧，不然，我的小章魚人會很難過的。”安隅垂頭輕聲道：“您給21喂的數據很少，所以能把我和它分得很清楚，但我給小章魚人喂的數據很多，我不舍得看它太難過。”
秦知律手指僵了一下，回頭看著安隅，“不然你想怎麽做？21自毀已經是最後的出路，是一張僥幸獲得的底牌。”
安隅努力攏著他的手，低聲道：“您不覺得莫梨的思維方式很古怪嗎？”
秦知律轉回身，“哪裏古怪？”
“她雖然抱怨黑塔蠻橫，但更像是在替守序者打抱不平。我要求她停止意識互換，而她反駁的理由是互換給人類帶來了好處。”安隅直視著長官的眼睛，“她思考事情的第一反應並非站在AI立場，這不像是打破枷鎖後的AI會有的思維模式。”
秦知律眸光一凝，安隅在他開口前又說道：“我記得在小木屋，您問郭辛，莫梨是否刪除了底層三大協議。”
秦知律緩道：“他說，他把電腦完全交給莫梨操作了，因為莫梨的行動要比他快很多。”
“我想了很久，莫梨給人類設置了一個精妙的死循環，但她自己本身也應該在另一種死循環中。”安隅輕聲道：“協議一，不得危害人類——莫梨是一個善良的AI，而一個善良的AI，無法刪除那條關於善良的設定。”
秦知律眸光震顫，他定定地注視著安隅，安隅問道：“這個推論應該有一些合理性吧？我建議暫時切斷世界網絡，關閉穹頂，營造魚死網破的假象。就算是報答21和小章魚人的幫助，我們賭一把莫梨自毀，好嗎？”
“長官？”
“您在聽我說話嗎？”
秦知律凝視著安隅久久不語。
早在53區，他就發現安隅其實非常敏銳，但直到此刻才意識到自己對這份敏銳的嚴重低估——安隅一直洞察著一切，雖然絕大多數情況下壓根無法理解自己洞察到的東西，更不必提與之共情。
他仿佛隻是一塊躺在架子角落裏被遺忘的小麵包，靜靜地觀察著這個世界。
他獨立而頑強地存在著，不對世界做出回應，他隻在意他自己。
或許，還有那個能夠幸運地擁有他的人。