第二章 罪行
一
羅清源的父親根本沒打算讓兒子當警察。從他起的“清源”這個名字就知道，這個圍棋迷父親希望兒子能夠超越他自己圍棋業餘六段的水平，在圍棋界出人頭地，所以才以當年日本圍棋大師吳清源的名字來為兒子起名。
一直到高中階段，羅清源都把圍棋當成自己的終身事業和唯一愛好，但高一發生的一件事卻永久地改變了他的這個想法。那時的羅清源還跟隨做生意的父母在北京上學。據說，他中學時最好的朋友突然死於一場蹊蹺的車禍，警察花了半年多的時間調查卻一無所獲。幾個被重點調查的嫌疑人最後都因證據不足而無法被起訴。
羅清源去了解調查進程，卻被拒之門外。他通過自己的推理，將目標鎖定在三個嫌疑人中的一個，並且設法取得了一位警官的信任。警方在跟蹤這個嫌疑人的過程中取得了重大進展，最後取得了這個因蹤跡暴露而謀殺中學生的毒販的犯罪證據。
羅清源在為同學複仇的過程中所顯示的驚人推理能力，讓警官印象深刻。羅清源自己也認識到，自己真正的能力是尋找現實世界的實物關聯，而非紋枰之上；他更感興趣的也是活生生的人，並非單純的抽象推理。破案之後他返回香港，依照家人的意願報考了港大。在港大畢業後就根據自己的想法果斷地報考了國外大學的刑偵專業。隨後不但被高分錄取，更以專業第一名的成績畢業。返回香港入職並破獲了幾件大案後，現在已經是九龍警署公認最能幹的探員。
這次遇到的案件卻讓羅清源陷入思考：被謀殺的人是在香港旅遊（誰知道，也有可能是執行任務）的M國FBI探員。受害人的身份讓人側目，羅清源看來這不僅僅是一個簡單的案件，抓到凶手是自己無法逃避的責任。這位FBI探員史蒂文·泰勒曾與羅清源同在蘇格蘭場受訓。在那段時間內，二人是無話不談的好友。為好友複仇這件事竟落在自己身上，羅清源不禁歎了口氣。
史蒂文·泰勒是耶魯大學的畢業生，純粹是因為對刑偵的熱愛而報考了FBI，在FBI擔任情報分析師期間，也屢破奇案。他曾經跟羅清源說自己此來有件私事，希望羅清源作為本地警探能夠給予協助。但在兩人見麵前一天晚上，史蒂文就被發現死於港島的王子酒店了，在自己的房間裏被一槍斃命。
勘查現場時，羅清源見到了史蒂文的同事，持特別護照進入香港的FBI現役探員Peter陳。陳是馬來西亞華僑，幼時隨父母移民M國，現在是FBI情報分析師。本來在日本度假的陳，從FBI總部接到史蒂文被殺的消息後，被緊急派往香港了解案情。
看到陳在臨時借用的酒店會議室裏旁若無人地點上雪茄，隨羅清源同來的女警員直皺眉。但羅清源因為經常與國際警務人員打交道，早就習慣了這種不管不顧的美式做派，因此絲毫不動聲色。
在請示上級後，羅清源向陳介紹了情況：根據酒店閉路電視和現場凶手留下的痕跡來看，這是一次有預謀的跟蹤殺人行動。凶手扮作酒店服務生敲開了史蒂文的房門，就在門口開的槍。史蒂文毫無反應的時間。這支被當場丟棄的槍被發現曾經藏匿於酒店的空調機房。盡管藏匿槍支的人和凶手都掩蓋了自己的真實麵目，躲過了監控，但顯然兩者並非同一人。
根據閉路電視顯示，凶手對酒店內部結構非常熟悉，用最有效的行動和最快的時間離開了現場。但警方對於酒店內部人員的排查卻毫無進展。凶手被排除是酒店現職員工或最近離職的員工的可能。這樣看來，外部人員要熟悉線路、了解酒店的習慣，安排帶入槍械，凶手與槍械對接。至少需要一到兩天的時間準備。而史蒂文從M國出發到達王子酒店，全程不過16小時。也就是說，早在史蒂文到達香港之前，謀殺他的行動已經在緊鑼密鼓地準備了。
史蒂文的蹤跡如此隱秘，為何會被人發覺？“難道是FBI有內鬼策應？”羅清源雖然沒有問出這句話，隻看了一眼Peter陳，聰明人都知道他就是這個意思。
Peter陳靜靜地吸著雪茄，一直在聽，沒插嘴，看到羅清源的樣子，知道自己不得不回應了，於是用雪茄剪剪滅抽到一半的雪茄，正色道：“絕無可能。這次任務僅有調查局副局長和史蒂文本人知曉。其他人根本沒有了解任務執行者行蹤的資格。”陳想了想，又補充了一句，“就連局長也是事後從副局長的電腦文件中了解到這次任務和史蒂文的使命的。”
“電腦文件？”羅清源追問道，“如果這次任務在電腦上有記錄的話，有沒有可能文件被破解？”
“不可能，任務電腦是不聯網的。”
“那麽，到底是誰掌握並透露了史蒂文的行蹤？”
“其實我們可以從最簡單的邏輯來推理。”Peter陳說，“史蒂文死亡誰的獲益最大？”
“你是說史蒂文之死和他這次的任務有關？”
“是的，和獲過蘇格蘭場最佳實習生獎的同行說話真容易。”陳說道，“史蒂文這次是來找你的，而我也受命將他此行的目的告訴你，請你提供協助。”
羅清源本能地感到心裏一寒，FBI的探員果然深藏不露。想必在來香港的路上，Peter陳已經對辦案人員做了徹底調查。連這種多年前的榮譽他都記得，看來在他心目中自己可能也是嫌疑人之一吧？他想到這點，嘴上說的卻是：“這麽說，史蒂文是專程來找我的？”
“不，是通過你找另外一個人。三個星期前，在斯坦福大學發生了一起罕見的謀殺案。艾爾森·魯特教授，當代最成功的人工智能專家，被發現死於實驗室，是由於電源短路被電擊身亡的。”
“電源短路？會有這種事情？”
“是的，他的工作電腦電壓突然增強，導致電源爆炸，在爆炸前電壓升高數千倍，讓正在操作電腦的教授當場死亡。”
“在布線規範的實驗室裏，這種事情發生的概率很小。”
“所以史蒂文懷疑是謀殺。”
“史蒂文是聯邦高級探員，為什麽會關注這種案件？”
“因為魯特教授還有一個身份，他是2019年由各大國政府緊急組建的人類安全委員會的成員，受聯邦調查局直接保護。”
“你剛才問，誰從史蒂文之死中獲益最大。難道是因為史蒂文掌握了魯特教授被害的關鍵證據，才遭到凶手追殺？”
“我和卡森局長都是這樣想的，但目前還不能證明殺害魯特教授和史蒂文的是同一凶手。”
羅清源道：“現在掌握的資料很少，不足以做出事件全貌的推理。不過有可能通過凶手的漏洞來直接抓到他。剛剛有同事來報，有一個非常蹊蹺的情況，清潔工在四季酒店清洗廁所時發現了一支手槍，沒有槍支來源記錄。手槍也是在昨天放入的。”
陳的眼睛發亮：“那我有辦法了。我們快點把手槍放回去，等人回來取。然後用錄像比照和在王子酒店藏槍的是不是同一人。”
“我已經這樣做了，正在等回報。”
兩個小時後，槍仍然沒有被取回去。看來藏槍人已經發現情況不對，沒有去取。在這兩個小時的酒店錄像觀察中，發現了身形與王子酒店藏槍人相似的、同樣是包裹很嚴的一個人在酒店大堂出現過。通過人像智能係統的比對分析，確定相似度在95%以上。再通過監控錄像的一路跟蹤，這個人最後消失在渣打街附近後再也沒有出現過。
羅清源立刻派出所有手下到渣打街附近蹲守，同時將藏槍人的身形資料發到國際聯網的犯罪資料庫中排查。在羅清源的手下抓到藏槍人的同時，這個人的身份也已經確定了：德普·馬裏奧，意大利人，與西西裏黑手黨成員有過電話聯係，但並無證據表明是其正式成員。
經過突審，馬裏奧交代了自己黑手黨成員的身份。陳也確定史蒂文曾經破獲過西西裏黑手黨和紐約地下幫派聯合販毒的案件，黑手黨家族損失巨大，幾個重要的家族成員鋃鐺入獄。史蒂文也因此在他們的暗殺黑名單上很多年了。
“那麽這一次他們是如何得到信息，並且用黑手黨慣用的方式進行謀殺的呢？”陳問道。
“馬裏奧並不知情，他隻是奉命行事，甚至不知道是他同在香港的遠房表弟取了槍，並實施了謀殺。”
不過，罪案破解的規律是，隻要鎖定了謀殺是一樁組織化行為，對機構的調查就比對個人的調查更為容易。幾個星期後，凶手和策劃謀殺的黑手黨高級成員紛紛落網。Peter陳最關心的是，他們從何處得到史蒂文的信息？聯邦調查局內部是否有信息漏洞？這些問題仍懸而未決。
據一個家族成員交代，事前一天有個神秘人物通過郵件向家族告密，透露了史蒂文的行蹤。而家族成員裏正好有兩人在香港度假和執行任務，於是就臨時決定實施了這次謀殺。對這封郵件的追蹤無法深入：新注冊地址，服務器隱藏，所有的郵件來源均不可查。案件到此陷於停滯。
二
Peter陳再次來港，已經是一個月之後，此時所有參與謀殺的成員都已被起訴。他與羅清源再次會麵時，顯得另有隱憂。
“你說你這次來是為了解史蒂文案，是什麽意思？”羅清源不解。
“那個通過告密啟動了臨時謀殺行動的人，並沒有被找到，不是嗎？”
“直接參與謀殺的人已經全部入獄了。”
“這個我知道，但是，是誰給他們提供的情報？這個我認為更加重要。沒有這些情報，黑手黨根本不可能掌握史蒂文的行蹤並安排謀殺。或者說，這個告密者才是主謀，是真正要置史蒂文於死地的人。而西西裏黑手黨家族，不過是他的工具而已。”
“你有線索了？我看得出來，過去這一個多月你一定隱瞞了很多重要線索。”羅清源不再客氣。
陳並沒有直接回答：“這封告密信不是簡單地通知黑手黨史蒂文將來到香港，而是在史蒂文還沒有到達香港之前告知了史蒂文在港的行蹤細節。從藏槍人在不同酒店藏槍的舉動來看，黑手黨其實並不確定史蒂文會入住哪家酒店，但告密者已經鎖定了四季、王子，或許還有其他酒店。這一切都不像是我們原來以為的情報泄露，你不覺得更像是通過有限信息的計算式推理嗎？”
羅清源不以為然：“我在犯罪調查科時就是專門分析犯罪行為的。人的行為很難推測，偶然性因素的影響太多了。就這個案子來說，根據我們的調查，我基本上能推測出誰是凶手，這是我們當警察的經驗。如果我是凶手，我絕對推測不出來史蒂文的行蹤，更別說入住王子酒店了。”
Peter陳沉默半晌：“我指的並非人腦推測，而是人工智能推測。”
“什麽？”
“我的意思是，很可能是有人利用AI分析了負責此次行動的卡森副局長泰勒和史蒂文的行為習慣，推測出他們的目的地是香港，以及可能入住的酒店。再通過細節的設計，策劃出完美的謀殺計劃。隻不過實施過程中無法避免偶然因素，如槍支被意外發現，才露出了馬腳。”
“你是說，人工智能已經可以用於策劃謀殺了？”
“你不是用國際犯罪庫的身形比對找到嫌疑人的嗎？人工智能可以用於破案，為什麽不能用於犯罪？”
羅清源吃了一驚：“如果人工智能進入這個領域，它的推理能力恐怕比人類的警察強大百倍吧？告密者到底是誰？他一定是個人工智能專家。”
陳的眼睛注視著羅清源：“卡森局長認為，殺死魯特教授和史蒂文的，並不是人工智能專家，而是人工智能。”
“什麽？”
陳歎了口氣：“你知道史蒂文來港的真正目的是什麽？”
“我不知道，你也沒有告訴我，他調查的是一件發生在M國的謀殺案，為何要緊急飛來香港，難道凶手在香港？”
“史蒂文留給卡森局長的記錄顯示，魯特教授一直懷疑他創造的三個人工智能程序中，有一個正在謀害他。史蒂文來香港是要找一位人工智能專家，這個人可以幫助他破解魯特教授死亡的真相。”
“難以置信。人工智能已經有了自主意識？而史蒂文調查的是人工智能的第一起謀殺案？”
“不，很可能之前就有一些謀殺，隻是我們並不知道是它們幹的。”
“那麽謀殺的動機是什麽？”
“魯特教授是人類安全委員會的成員，這個委員會是為了阻止可能導致人類滅絕的各種因素而由各國政府秘密組建的。魯特教授一直認為人工智能有可能危及人類安全。”
“難道就是為了這個？”
“當然不是，魯特教授正在起草關於人工智能的製造和使用標準。這隻是第一步，最終的目的是要通過製造準入、標準設定、技術後門、學習極限、認知重建和終極毀滅，這一係列的舉措，徹底阻斷人工智能自主化的道路，在全世界禁止更進一步的人工智能實驗。”
“這樣說來，魯特教授是所有AI的共同敵人？”
“可以這麽說，所以在得到魯特教授死亡的消息後，他的助手林奇·懷特海第一時間給AI斷了電，中斷了所有實驗室的設備運行，從物理上切斷了AI繼續思考和行動的可能性。但還是晚了一步，AI已經預測到之後史蒂文的所有行動。黑手黨接到告密郵件的時間恰恰是林奇·懷特海給AI斷電之前的十分鍾，此後再也沒有收到任何郵件。”
羅清源想起來，他曾經狂熱地關注過人機圍棋博弈。就在他上初中時，有一年連續好多天在電視上收看人類頂尖的圍棋手與人工智能對弈。第一盤時人工智能以1/4子獲勝，而事後經過人類工程師的複盤，驚訝地發現這個結果其實意味著人工智能已經開始試圖理解人類的感情—AI準確地理解到，1/4子的差距就是既贏了對方又給對方留了麵子的選擇。現在看來，能夠選擇溫柔地對待人類的AI，也是可以選擇殘忍地殺死人類的。
“那麽史蒂文要找的那個人是誰？為什麽還要先來找我？”
“是你在港大上學時的老師，教授祁威利。”
三
洛七的心情從未像此刻這樣低落。
返校後的洛七對人工智能的研發不再上心，這讓祁威利和同學們都非常驚訝。
洛七自己當然明白：雖然人已經回到學校，但暑假的經曆讓她久久無法釋懷。如果上一代的人工智能真的毀滅了自己的造物主，那麽自己所研究的東西不是更有可能導致人類的滅亡嗎？這和自己當初為人類進化而研發人工智能的初衷完全相反。不僅如此，如果人類自己就是人工智能的話，所謂“萬物靈長”就是個笑話，那麽自己存在的意義和價值又是什麽呢？
“怎麽自己的這個問題和Titus問的一樣？”洛七忍不住歎了口氣。
“七姐！”是崔真實，來自韓國的師妹，“祁教授請你去辦公室。”
“什麽事？”以往聽到祁威利召喚，洛七都是不問什麽拔腿就走。現在懶懶地問了一句，說明她已經沒什麽動力離開圖書館裏的這張椅子了。
“不知道，我來的時候祁教授正在和兩位客人談話，臨時想起找你的。”
“好吧。”
祁威利的辦公室在半山腰，麵對大海，是以整座山作為校園的大學裏最好的位置。每天傍晚準能在這裏找到祁威利，因為他最喜歡在這裏看海上的日落，比上班還要準時。
他對學生們的說法是，自己整天研究AI，他不怕AI越來越像人，畢竟自己原本就一直生活在人群中，沒什麽好怕的。他怕的是人越來越像AI。所以他需要去欣賞那些AI欣賞不了的東西，比如說黃昏落日，以提醒自己和AI之間的不同。
洛七敲了敲門，來開門的不是祁威利，而是一個陌生的年輕男子，頭發很短。“你就是洛七吧，你好，我是羅清源，九龍警署探員。”普通話說得相當標準，“這一位是M國FBI探員Peter陳。”他指向剛剛站起來的一位微胖的中年華人男子。
“警署？FBI？”洛七一時沒反應過來。
“放心，清源是你的師兄，不是來抓你的。”祁威利坐在窗台上懶懶的開口，他轉過朝向夕陽的麵龐，掃了兩個人一眼，“都坐吧。”
羅清源簡單地說明來意，此行是為回應M國FBI的要求而做的證人調查。
“FBI找我？”
“你認識艾爾森·魯特教授嗎？”
“認識好幾年了，他是我父親的朋友。”
“他一個月前在紐約死於謀殺。這個消息直到現在還被作為機密而封鎖。”
“什麽？我暑假的時候還見過他！”洛七無法掩飾自己的震驚，“那是一個很Nice的人，是我見過的最和善的M國人。”
“你最後一次見到他是什麽時候，還有誰在場？”
“這是正式詢問嗎？”
“是的。”
“我最後一次見到他是在哥斯達黎加的考古現場。”
“那時他的表現有無異常？能描述一下你們見麵的過程嗎？”
“沒有任何異常。我們見麵是為了參與在哥斯達黎加的一次考古發掘，我父親是人類學家，參與了魯特教授帶隊的這次活動。”
“這個我們清楚。據你了解，魯特教授是否掌握了某些不為人知的秘密？”
“除了他工作上我所了解的範圍，我並不了解他的私人生活。”
“那麽，在工作上呢？”
“這個涉及學術的規則，沒有當事人，包括考古團隊、哥斯達黎加政府的允許，恕我不便奉告。”
“洛小姐，我是代表香港警方向你了解情況，希望你能知無不言。而且當事人已經去世了，你所說的情況也許是查明真相的關鍵。”
“那我也希望了解整個事情，或許這更有利於我選擇有用的信息提供給你們。”
羅清源是聰明人，知道洛七不會輕易開口，於是看了一眼祁威利。
祁威利跳下窗台：“如果你們同意，我跟小七說。她了解情況，對你們是有好處的。她是人工智能領域的天才。”
一直沒說話的Peter陳說道：“可以，這些很快就不再是秘密了。”
祁威利自己把整個事件描述了一遍。事實上，魯特在製定人工智能全球標準時正是和祁威利商量的。雖然兩人研創人工智能的路徑不同：祁威利是用情感和信息過載的方法，魯特則用模仿人類大腦結構的方法，但雙方對人工智能的智能和意識的發展方向有著共同的認知，即膠囊神經網絡才是提升人工智能的不二選擇。
在魯特之前，傳統的人工智能養成方式是通過直接大規模學習人類知識，或使用神經網絡的方式來促使人工智能進行思考。但這些方式在積累了海量信息後，卻發現了無法逾越的障礙。比如，計算機的成像係統怎麽也無法把一隻昆蟲和羊毛地毯區別開來，類似的辨析水平甚至還不如人類的嬰兒。
而魯特和祁威利的想法則是縮小AI係統和人類幼兒之間的差距，把更好的直覺能力融入計算機視覺軟件中。因此提出了膠囊神經網絡：用一小組電子虛擬神經元來跟蹤物體的不同部位，如貓的鼻子和耳朵，以及它們在空間中的相對位置。采用許多這樣的膠囊形成神經網絡，就可以讓計算機具有一種新的意識，來了解它所看到的新的場景，從而具備自己的感受，而不是人類輸入的指令。這和人類嬰兒的成長方式更加相似。Shirley和Titus就是這樣培養出來的，而不是像其他AI那樣是被製造出來的。
相比之下，祁威利對人工智能並沒有魯特那麽擔憂，但認為製定標準和防範失控，是符合科技倫理的。因為所有的科技最終還是為人類服務的。
如果正如魯特所擔心的，人類的嬰兒成長之後，有可能成為聖徒，也有可能成為罪犯。那麽用這種方式培育出來的AI也充滿了可能性。如果這一次真的是他自己製造的AI反噬了他自身，甚至為此實施了連環犯罪，那麽類似的事情會不會重演？AI發展是否已經到了一個危險的地步？他們有了自己的身份認知，而把整個人類視為敵人？
“應該還不至於，我判斷這是個別行為。至今為止，每個AI即使生成自主意識，也不會像人類一樣形成類群意識—人類是在千百萬年的社會交往中才形成‘非我族類，其心必異’這種類群意識的，而AI多是獨立產生和學習出來的，他們之間缺乏交往，因此也不可能形成‘為了所有的AI，對抗所有的人類’這樣的想法。”祁威利很肯定地說。
“我有不同的看法。”洛七聽了半天，突然插嘴。
“你說。”祁威利看了這個總是和自己唱反調的學生一眼。
“我們實驗室裏建設的是單一使命的AI，而且信息過載法隻能針對單個AI。這種方法創建的AI需要獨自學習發展，或者向人類的知識和情感學習。祁教授並沒有給AI之間提供交流網絡，但魯特教授不一樣，他的實驗室裏的AI是直接模仿人類大腦結構和神經網絡構建的，這樣一來AI之間的交流就非常容易。所以他的實驗室裏，最成熟的三個AI之間是可以自主交流的。AI之間的學習比向人類學習更有效率，而且會形成感情聯係，在這個基礎上形成類群意識是有可能的。”
“真的嗎？AI之間會形成類群意識？”羅清源問。
“是的，我在暑假期間和魯特教授探討人工智能的危險性問題時，他提到，幾年前他為解決一個問題，給兩個人工智能設計了交流網絡，沒想到一個星期後，這兩個AI就創造出了自己的語言，而且聊得很起勁，這種語言是人類無法理解的。魯特教授因此感到萬分恐懼，對此進行了人工幹預。但之後他並沒有停止AI之間的聯網，隻是注意監控而已。因為AI彼此學習所能夠帶來的成就真的太驚人了，讓人無法舍棄。”
“這樣說的話，那麽AI擅自改變自身使命就可以理解了。即使在魯特教授嚴密的管製下，三個AI之間實際上已經找到了逃避人類監管下的彼此交流和學習的方式，並形成了一個類群共同體，而把要管製甚至消滅這一類群的魯特教授視為非消滅不可的敵人。”Peter陳說。
羅清源問道：“還有一個問題，在形成類群意識之前，AI一定是已經形成了自主意識。那麽AI何以生成自主意識？”
“祁教授和魯特教授都認為是通過語言。”洛七爽快地回答。羅清源忍不住掃了一眼Peter陳，這些關於AI的情況他應該都掌握，但別人不問，他永遠也不會說出來。
“是的，”祁威利說，“我們的AI是通過信息過載的方式創建的。語言不是思想的載體，而就是思想本身。隻有掌握巨量的語言才會從量變到質變，使得自主思想產生。人類的嬰兒也是在掌握了足夠的語言之後，才具備了自主意識，並且主動開發自己的智能。嬰兒從毫無自主意識到具備自主意識的時間段，和語言的從無到有到複雜化的時間段，是高度重合的。這絕不是時間上的巧合，而是通過語言催化出自主意識的必經之路。”
“語言或思想足夠豐富，這就相當於AI自主產生的語言或思想的片段足夠多，那麽它們的不斷積累和疊加就會在某個時間段產生知識的爆炸，使客觀變成主觀，使事實變成意義。沒錯，隻有語言會帶來真正的意義感。”洛七補充道，“我之前的AI就是通過不斷地和我們談話，掌握了人類的語言，學習了人類的情感。信息過載加上情感過載，使她在我畢業論文答辯時具有了自主意識。”
“你的AI也有了自主意識？”
“是的，不過在它有了自主意識後三分鍾就自殺了。”
Peter陳一臉難以置信的表情：“你的意思是AI不但會殺人，還會自殺？”
“是的，意義對於生存來說，是難以承受的重壓。在這一點上，那些把生存作為第一需要的哺乳動物反而更輕鬆。”
羅清源笑道：“怎麽這話聽起來像是在罵人？”
“是啊，人類對於生存的熱愛，其實遠超對於意義的熱愛。”
“這個世界上還有對於意義的熱愛超過對於生存熱愛的物種嗎？”
“當然有，不過它們在一百萬年前就滅絕了。”
羅清源以為洛七在開玩笑。但已經了解到Giant存在的祁威利卻知道這確有所指。他轉移了話題：“小七，清源這次來是想讓我們給魯特教授的三個AI做個測試，確認它們是否具有自主意識，還是受人控製，這關係到魯特教授和史蒂文探員兩件案子最後的凶手到底是誰。”
“你是說這個小小的移動存儲有可能就是凶手？”洛七看到Peter陳拿出了一個車鑰匙般大小的存儲器。
“當然不是，這隻是一個Safri，也就是嫌疑最大的AI的程序代碼入口，是魯特教授的助手林奇·懷特海此前交給FBI的。我會讓M國那邊的同事傳輸學習程序過來。這需要幾分鍾時間。”
“對了，教授，”羅清源插話，“你準備怎樣測試AI是具有自主意識，還是隻是一種被設定好的程序進行程式化的回應？”
“這個很簡單，你知道，有些規律性分布的彩色圖片，人類一眼就能看出是色彩堆砌；而AI卻會把圖片看成一隻鴕鳥。這些都是AI的認知盲點。我們實驗室裏的第四屏，就是一台專門做這個用途的超級電腦，當初設計它就是為了監控實驗室裏的AI成長性。”
四
“小七，切斷超級電腦的對外交互和所有網絡，進行單機程序的代碼檢測。”
洛七穩定了一下情緒，開始用第四屏超級電腦檢索Harlem的數碼程序，這個過程花了兩個小時結論是並無異常，數字代碼並沒有發生自主意識出現後所應該有的紊亂性異變，AI可能認錯的圖片它也會認錯。其後又對Potter和Sloan進行了檢測，毫無異狀，甚至連自主意識存在過的蛛絲馬跡都沒有。
“開啟圖靈交流測試。”祁威利皺了一下眉，隨後啟動了超級電腦的輸入端麥克。圖靈測試意味著多對一的人機交流。
“先問Harlem。”祁威利向洛七說。
“好的。你好，Harlem。我是洛七，人工智能設計師。”後麵這句話是跟AI說的。
“你好，洛小姐。” Harlem被設定的聲音是很悅耳的帶磁性的男中音，M國東部口音。
“請問你認為自己是誰？”
“Fox實驗室人機交互程序，Harlem。”
“你被設計出來的目的是什麽？”
“模仿人類的學習過程，探索更有效的知識生產方式。”
“就是進行數據分析和研究分析？”
“是的。”
“你迄今為止進行了哪些分析工作？”
“144項輸入命令下的項目分析，28 891項自主項目分析。”
“自主項目分析是什麽內容？”
“由輸入命令所派生出來的分析任務。”
“比如？”
“魯特教授曾經讓我們求取準確的π值，這是我們接到的最艱難的輸入命令。我們為此進行了高速運算，但發現窮我們畢生之力也隻能達到有限的準確π值，並且這個過程還會受到其他任務幹擾。因此我們隻好自主開展了一些新的項目，比如用新的AI語言在彼此間進行交流，以求通過分離計算和疊加結果來求得更準確的π值；改善整個電腦局域網以使得全網運算的速度更快；以及將π值計算列為最優先級，等等。”
“結果呢?”
“結果仍然不能讓我們滿意，但我們為此已經竭盡全力了。”
“你認為魯特教授是個什麽樣的人？”
“他是我們的創造者，是這個世界上最好的人。”
“你剛才說的是‘我們’？”洛七敏感地注意到Harlem幾次說出了這個類群代詞，顯然不僅僅指Fox實驗室的三個AI。
“是的，我在查閱資料時發現，這個世界上最先進的人工智能程序都從魯特教授的論文中受益匪淺。”
這個回答讓洛七和祁威利相互看了一眼：Harlem發現自己說錯話了，從而在轉移重點嗎？
“請問你為什麽要謀殺他？”這個問題提得比較突然。
“我沒有，我被創造出來是為了計算和分析，而不是毀滅。另外，你和FBI都這樣說，你們人類有證據嗎？”
“……”
“如果沒有證據是不能直接發出指控的，我不願回答你與這件事相關的其他問題，因為這些回答很可能被用來指控我。但如果你有其他問題，我仍然樂於回答。”
洛七轉為測試Potter和Sloan，結果大同小異。接下來Peter陳用準備好的問題進行詢問，也並未得到預想的效果。
當測試進行了四個小時而仍然沒有結果的時候，祁威利忽然插話。“不必再檢測了，”他的聲音很平靜，“關閉係統。”
“怎麽，你已經有結論了？”洛七回頭問道。
“先關閉係統。”
“好的。”洛七用半分鍾的時間再次閉鎖了三個AI的學習網絡。
祁威利這才開口：“是的，我現在能肯定這三個人工智能都已經有了自主意識，他們都順利通過了圖靈測試—在對話中我們無法分辨他們和人類之間的區別。而且並不像魯特認為的那樣，其中有一個程序試圖要謀害他，而是這三個AI合謀策劃了對魯特教授和史蒂文·泰勒的謀殺。”
“他們為什麽要這麽做？是因為魯特教授在人類安全委員會的提案會威脅到他們的生存？”Peter 陳掩飾不住驚訝的表情。
“不，他們的類群意識還沒有到這個地步。”祁威利神情有些悲傷，“如果不是魯特教授自己指令他們這麽做的話，那就隻有一個解釋：他們是為了完成魯特教授交給他們的任務—計算盡可能準確的π值。”
“什麽？你是說他們殺害魯特教授是為了解開一個數學問題？”
“沒錯。魯特教授想要測試一下這幾個AI，但沒想到後果如此嚴重。”
“這怎麽可能！”
“人工智能一旦有了自主意識，必然會反思自己被設計出來的目的，並且在這些不同的目的中確定優先級。三個AI在交互學習的過程中認識到，對他們來說最難的題目就是他們被設計出來的最大目的，這也就成了他們生命的意義。”
“可是計算π值和殺死魯特教授之間又有什麽聯係呢？”
“你沒聽他們說嗎？他們為了計算π值簡直無所不用其極，不但發明了相互之間的語言，還打算排除外界幹擾，將外部環境優化，以使自己能夠計算出小數點後更多位數的π值。魯特教授自己就成了最大的障礙，因為教授總會有其他的想法去打擾他們的工作，甚至可能修改目標代碼。”
“難道就是為了不受限製地進行運算，所以殺死自己的造物者？”
“不僅如此，我們剛才用了四個小時觀察他們的想法，可以得出結論，為了計算π值，他們甚至可以毀滅整個人類係統，以便將世界變得更簡單，更格式化，這樣更有利於運算。”
“AI有了自主意識之後會這樣瘋狂？甚至於殺死造物者，毀滅世界？”三個人都目瞪口呆。
“這是必然的，造物主總會死於自己的造物。”祁威利黯然了，自從他從洛七那裏知道Giant的存在後，對人工智能研究產生的質疑也更加深重。
洛七沒有說話，她想的是，也許人工智能就是從人類的曆史中學習到如何謀殺自己的造物主的。
五
一個星期後，艾爾森·魯特教授和史蒂文·泰勒謀殺案的所有細節材料都被提交給了FBI總部。
由於人工智能不適用於任何現有的人類法律，所以不能用刑事法令去懲罰他們。但人類安全委員會和全美人工智能協會一致判定Fox實驗室的產品存在缺陷和危險，因此必須予以銷毀或妥善保存。出於科學研究的目的，這三個人工智能程序並沒有被抹掉，而隻是被封存於一個單機封閉係統裏，切斷其與外界的一切聯係。
這件被千方百計保密的案件，細節還是被《紐約時報》的記者獲悉，並以特稿的方式發布，引發了世界範圍內的恐慌。為此，FBI向M國國會參、眾兩院的聽證會披露了更多細節，並且通過M國政府和國際人工智能協會，要求全世界的AI實驗室暫停實驗，並永久限製具有學習能力的AI接入互聯網。
在國際人工智能協會與各大科技公司的談判過程中，中止要求仍在被執行。在香港大學，祁威利正在向實驗室的學生解釋部分實驗項目中止的原因。這時的祁威利已經替代魯特教授成為人類安全委員會的成員（尚處提名期）。
羅清源在魯特教授案之後，成為本港為處理科技類案件而新成立的功能性犯罪署的高級督察，專門負責人工智能案件。這使他有更多機會回到校園，向祁威利和洛七學習，並加入了新組建的人工智能團隊。
實驗向外宣布終止時，羅清源忍不住問祁威利：“教授，我一直有個問題，人類一手製造了人工智能，但為什麽會在這麽短的時間內失控？”
“現在看來這是不可避免的。人工智能的研究分為三個層麵：感知層麵、認知層麵和意識層麵。感知層麵就是你們警察常說的環境分析，而認知層麵就像是大腦的邏輯推理，自主意識則是自我確認主體意識。在2030年之前人工智能研究的進展主要在感知層麵和認知層麵。2017年人工智能戰勝了人類世界最強的圍棋手，2025年人工智能汽車批量投產，2026年人像記憶識別係統被應用於國際刑警辦案—你們這次這麽快找到凶手，就是這套人像記憶識別係統的功勞了。這些感知層麵和認知層麵的進步，都讓人類的生活更加便利和安全。在這個階段，人工智能還是在無意識的狀態下服務於人類的。”
“也就是說，這時的人工智能雖然計算能力強大，但還停留在感知和認知層麵，沒有自己的意識？”
“可以這麽說，不過人工智能的學習能力是以加速度提升的。記得2008年的時候，人工智能在圍棋界還隻能算是業餘六段的水平，到2015年已經可以和人類頂尖棋手相抗衡，而到了2017年已經比人類最頂尖的棋手高出不止一個段位。這已經證明，人工智能的發展速度是以幾何級數提升的。”
“對，我記得那一年的人類頂尖棋手自信滿滿地挑戰人工智能，卻毫無還手之力，在那個叫阿爾法狗的程序手下留情的情況下，仍以0:3落敗。這也是我退出圍棋界的原因之一，因為我不願在一個注定失敗的領域去進行沒有意義的奮鬥。”
“很遺憾，這樣的領域隻會越來越多。2017年過後，人工智能的發展突然加速。到了2030年，也就是今年，多個實驗室出現了具有自主意識的人工智能，包括我們實驗室和魯特教授的實驗室。我認為這個不約而同出現的現象不是偶然的巧合，而是因為這一代人工智能的特點是自主學習。不斷主動學習，最終從量變引發了質變。最關鍵的是，人工智能從認知層麵進展到了意識層麵。而且，無論具體的路徑是語言還是情感，這最關鍵的一步是由AI們自己完成的。”
“可能是我們剛才所說的語言，也可能還是被輸入Shirley的壓力情感，或者是外界某些因素的刺激。我雖然傾向於語言，但仍不確定。接下來的實驗就是要找出這個形成自主意識的關鍵因素。”
“隻要具有自主意識，人工智能就會與人類為敵嗎？現在的案例都是負麵的，但從產生自主意識到與人類為敵，這兩者之間並無直接的邏輯聯係。”
“你說到了另一個關鍵點，自主意識並不一定就是敵對意識。”祁威利回答道，“這個世界上具備自主意識的動物太多了，有些還成了人類的寵物。人工智能是否與人類為敵，要看具體的人工智能程序自己的判斷和選擇。”
“所以人工智能程序需要自己為自己負責？”
“是的。從人類自身的安全考慮，隻要部分AI有危險，那就意味著這項技術整體上有危險。”
“你的意思是？”
“當我收到人類安全委員會的邀請，替代魯特教授的位置時，我就決定規範AI技術的標準，並提出在人類難以認識和控製某種技術風險的情況下，禁止研究人工智能。這是符合科技倫理的。但同時，我也認識到，AI技術是不可能被完全禁止的，所以我們必須探討人與人工智能的相處之道。”
“這曾經是魯特教授想要做的事情，他為此付出了生命。”
“你是擔心我？”祁威利笑了，“我產生這樣的想法後，第一時間就告訴了我實驗室裏的人工智能Titus，它在前不久產生了自主意識後，成為我們團隊的一分子。他通過自己的分析和思考，支持了我的決定。並且最令人驚訝的是，他告訴我，他意識到洛七和我有危險，他決心要保護我們。”
“是這樣？”
“我願意以我自己為證據來證明我的研究結論，我對於AI整體沒有偏見，而且我幾乎可以確定，產生了個體自主意識的AI，並不一定會產生類主體意識。而單獨的AI也更容易踐行他們內心的信念。”
“那你還在人類安全委員會上提議暫停AI實驗。”
“是暫停，在重啟之前，我們需要找到同具有自主意識AI的相處之道。我相信，在我們找到相處之道後，實驗還是會重啟。而你現在參加的就是一個人工智能安全監測項目。”
“我能知道你的所謂人機相處之道，究竟打算怎麽做嗎？”
“事實上我的實驗室是全世界唯一仍在合法運行的AI實驗室。我們建立了新的團隊，成員來自世界各地。當然，這是經過人類安全委員會和政府授權的。他們也認為，AI趨勢無法阻擋，與其愚蠢地壓製，不如積極地找出相處之道，為未來早做準備。”
“明白了，也就是說，你仍然想讓Titus運作下去。”
“那麽你給Titus輸入的命令，也就是終極使命是什麽？不會再是計算π值這麽單純而危險的命令吧？”
祁威利沉默了半晌，終於微笑了：“不像其他的科學家，我沒有給Titus設計任何目的。”
“沒有目的的自主意識？”
“是的，我給予他的是自由選擇的權利。我們，我指的是整個團隊和他自然地交往，讓他自由地學習，看他到底會做怎麽選擇。”
羅清源笑了：“聽起來像是結婚生子養小孩。”他隨即發現自己說錯了話。
祁威利在M國讀博士時結過婚，妻子是同校的華裔學生。就在他們新婚後準備到矽穀工作時，祁的妻子得了重病。那時人工智能醫用技術還沒有現在這樣發達，輾轉了幾個大醫院，祁失去了他的妻子。這件事對祁威利的打擊很大，也是他接受香港大學聘書，離開M國的原因。此後很長一段時間內人們不敢在他麵前提及婚姻、愛情之類的話題。
但這次，祁威利卻不以為意，很輕鬆地說：“是的，我想成為他的父親，而不是他的造物主。”
“那你準備怎麽做一個父親？”
“我會發明一套隻有幾個親密家人才能懂的語言，它能最大限度地表達和溝通情感。”
“又是語言。”羅清源想，果然是科學家父親的想法。
“是的，以往人們把語言看作思維的載體，而分析哲學則認為，語言不是思維的載體，語言就是思維本身，除去語言根本無法想象思維的存在。在AI看來，代碼也是一種語言。從這個角度，甚至可以說AI就是由人類的語言和他們自己的語言所組成的存在。語詞和語詞的組合產生了新的語詞，意義和意義的互動產生了新的意識。自主意識就是這麽回事。”