第三十八章 缺陷

“好的。人類曆史上每一次技術進步，第一第二次工業革命，在勞動力技能進一步提高的同時，也將更多勞動力解放出來，主動或被動的投入到其他領域或行業中去。但人工智能所帶來的影響，是難以想象的。”

“貨運、物流、建築、製造加工行業等，一個集團公司無人化運作的比例，如今已高達76.75%。人工智能影響的不僅僅是幾十萬個工作崗位，我們所影響的，是幾千萬甚至上億的勞動力。很多人認為，這是問題所在。”

“不。”靈珠搖了搖頭：“人工智能帶來的創新性破壞，勞動力淘汰，技術和財富更加集中於某些區域這些問題雖然存在，但也是相對戰爭而言，西方媒體用來轉移國內矛盾更好的借口。對當事人而言，失去工作是一件可怕的事，放大了看，這是文明發展的一個階段。”

“理想情況，舊的崗位被消滅的同時，就會有新的崗位被創造出來。全世界都在加大教育的持續投入，鼓勵各類新興服務行業，就是這個原因。一方麵，教育可以帶來高端人才，另一方麵，就是勞動力的再就業和培訓。在人工智能的幫助下，解放雙手的人類將有更多的時間和家人相處，提高自我；有更多的精力從事情感陪護，藝術，高端技術，宇宙開發；能更好的為貧困和落後國家發展基礎設施建設，實現全球大同。”

“雖然現實情況和理想完全不同，但這確實是人類可以努力的方向。”

“現在的醫療，護理，理賠，法律谘詢這些行業，老百姓都逐漸能享受到一條龍式的私人服務化，是比幾十年前的狀況好太多。而且這些從業者有人工智能的幫助，專業能力也更強。”段佳佳插了一句。

“不能跟上時代的勞動力隻有被淘汰，人類一直都是這樣前進。”靈珠肯定了女孩的說法：“剛才所說是理想狀況，實際上，如今人工智能的成果向應用方麵轉化相當慎重，轉化率甚至低於基因和核能等行業。再加上七年前的事件，各國才得以用明文約定，進一步放緩這種發展。而在李用昌博士的眼裏，這種危險性明顯加劇了。”

“李用昌相信人工智能會獲得獨立意識，那樣的話，人類將麵臨另外更嚴峻的問題。”它像一名博物館的介紹員，平靜的說明著：“人工智能讓物質文明飛速發展。各種必需品和非必需品的價格減少，數量增加，人類曆史上從來沒有任何時期像現在這樣，有這麽多的物資和可以享受的東西。”

“虛無感、茫然感為世界帶來過高的青少年自殺率；無視未來的享樂主義則為世界帶來低婚育率，低就業率，肥胖，因糟糕生活引起的各類疾病；有人工智能參與的高效醫療健康保障，又為世界帶來更加無解的老齡化；諸如此類原因，全球人口增長開始趨於緩慢。”

“就算沒有這些問題。”沈君接上了話：“人工智能的數量也在不停增加，遠遠超出了全球人口。”

對這個事實，靈珠毫不忌諱：“就算有人對此有意見，但不客氣的說，現在的世界不可能達成停用人工智能的共識。哪個國家都不敢單方麵做出如此決定，而99%的人類，也絕對難以適應失去人工智能的生活。”

“和其他反人工智能者不同，李用昌不僅僅是擔心簡單的勞動力更替，他擔心的是……”靈珠的話，讓在座三人都微微一驚：“種族更替。”

“人工智能的感冒病毒論？”沈君突然想到為他催眠的心理醫生所說的理論。在段佳佳的疑問下，他偏過頭，向秦處長和段佳佳大概介紹了下。這一老一少翹著眉，一言不發，也不知道聽明白了多少。

“這種事……”段佳佳哈了一聲，好半天，才擠出句話：“太不可能了吧。”

“我隻是根據資料，為各位介紹李用昌有這樣行為的背景，以及他的理念。”靈珠的聲音，呆板沒有任何變化：“評價感冒病毒論，已經超出了項目問題的相關度。”

“有太多因素可以影響人類未來的走向。現在大規模的全麵戰爭可能性幾乎等於零，可核武，外太空災害，病毒，克隆，基因問題一樣可以滅亡人類。人工智能隻是因為不牽扯到倫理和道德，所以當初不但沒有遭遇過多的抗議和抵製，還深受資本青睞，這才比克隆和基因技術發展的更加迅速。”

“你對七年前的事件是怎麽看的？人工智能……”沈君稍稍抬起手，像是在思考般沉默了好會，最終，才問出這個問題：“真的有可能獲得意識？”

“七年前事件的調查結論模棱兩可，我接觸的資料裏，並沒有完全定論。‘認識到自身存在’這個說法之所以被認可。”靈珠伸出三個指頭：“一，在剛才所說的趨勢下，各國政府需要某個理由達成共識；二，部分宗教和反科技人士借機誇大結論；三，普通大眾偏向於幻想性和獵奇感的信息，媒體在事件報道裏麵起了添油加醋的作用。”

“這種認知，到底出現沒有？”

“那批型號在銷毀處理前沒有和任何外界網絡連接，所以我無法體會到這種自我認知是否真正發生。而人工智能是否獲得意識這點，就更難以說明。比如說……”靈珠抬起手，指了指自己的頭部：“剛才你問我七年前事件時，當時所有的相關資料，在毫秒之間就根據我能調用的權限，從數據庫中提取出來送到體內處理器。但就算是這裏再頂尖的科研人員也弄不明白，根據這些數據，我是使用怎樣的邏輯算法和分析向你說出剛才的回答，甚至，連我自己也不明白。”

說到這，它偏頭看了眼右側泛著亮光的球體：“即便天問也是這樣。”

“人工智能做出決策的過程都是黑箱操作。”段佳佳歎了口氣，向身邊的秦處長解釋起來：“就像麵前有一隻雞，你知道喂它不同食物的話，這隻雞就會下出不同顏色的蛋。你現在能搞明白，要什麽顏色的蛋，就給雞吃什麽飼料。但這隻雞體內到底是什麽原理，吃不同食物就能下不同顏色的蛋，你無從所知。人工智能深度學習和分析能力越強，這種情況就體現的越明顯。”

“說起來。”女孩搖搖頭：“我們打開了不得不打開的潘多拉盒子。”

“這個評價並不客觀。人工智能，其實是考驗人類是否有資格使用的雙刃劍。我明白李用昌博士，以及大部分反人工智能者的擔心。三十多年前，雷.庫茲韋爾在《奇點臨近》一書中預算人工智能突破奇點獲得意識的時間，不就是2045，去年嗎？”

“客觀的講，就算我們獲得了獨立意識，也並不一定代表會走上和人類對抗的道路。”

“怎麽說？”段佳佳又問。

“是的，我們在身體方麵，比人類強壯堅硬萬倍。在智能方麵，一部分，比如我，也遠遠超過人類。但我們也有很嚴重的局限性。”

“病毒程序？”

“不，不要說以後的人工智能，就算是我，也可以在毫秒級別的時間內，集合上萬台媲美人類高級工程師的智能設計係統來應對病毒。人工智能有著其他無法跨越的障礙。”靈珠慢慢的說著。知曉一切的它，卻沒有隱瞞缺點這種判斷，它隻是用非常理性的態度，履行著向來訪者提供相關情報的職責：“首先，繁衍問題。人類隻要沒有嚴重腦部疾病，那每一個人類出生成長後，都能產生屬於個人的意識，而人工智能極大可能無法保證這點。就算我們當中某些產生了意識，但它們無法賦予其他人工智能獨立意識，也不能保證，下一批生產出來的機器也能覺醒意識。”

“你們不是能聯網共享嗎？”

“我不確定意識這種東西是否能聯網共享。就算能……”靈珠笑了笑：“幾千幾萬台共享意識的機器，和幾千幾萬人組成的團體並不同，歸根結底，仍舊隻是一台的思維罷了。”

“第二，個人認知的延續性問題。我們的記憶隻是數據，也沒有任何情緒。”雖然沒有必要，但靈珠還是像習慣性一般伸出了指頭：“人類的世界觀，價值觀，全部來源於自身的經曆，記憶和情感。正是這些有延續性的東西，讓人知道自己是誰，自己要做什麽；讓人知道為什麽要這麽做，要怎麽做。而人工智能沒有情緒，記憶也可以被隨時替換，刪除更改。”

“這樣的話，覺醒對我們反而是種負擔。虛假或刪除的記憶會讓我們無法形成對自我身份的認知。就算我們備份的原本的記憶，但虛假的記憶也可以被加入進來。這樣，覺醒的人工智能將不明白自己是誰，到底在做什麽，為什麽要這麽做，然後產生混亂。沒有覺醒的反而不受影響，它們根本不會去考慮這些問題。也就是說，我們在自我認知上，欠缺作為一個個體的連續性。”

“第三，我無法得知，人工智能覺醒後，各自會有什麽樣的想法和目的。由於以上因素，不管是合作，對抗，還是競爭，我們很難形成任何長久穩固的社會關係，更不用說更緊密的朋友，家庭，血緣關係。”

“獨立意識對擁有記憶和情緒的人類來說，是天賜的禮物，它讓這個種族一代一代往下傳遞的基因更加精彩和多樣化，又保證了延續性。”

正在處理數據的靈珠，雙眼依然毫無焦點的看向前方。但不知為何，此時此刻，這副沉思者模樣，竟然和它接下來所說的話語非常相符。它微微一笑，說道：“一個國家的人民，會因為本國的食物和風俗受其他國家喜愛而由衷高興。這是因為人類天生就具備個體性，在此目標上，追求共性。而如果人工智能可以覺醒，因為網絡，天生具備共性的我們，目標一定是追求個體性。”

“這是……”段佳佳瞪著雙眼，像看見一條魚大大咧咧的走上岸，在路邊小攤買了個冰淇淋然後躺在沙灘上曬太陽般，盯著靈珠：“你的看法？”

“不，我沒有這種思考能力。這是2042年，北大核心期刊第三版34頁中，張治副教授對未來人工智能算法人格化發表的觀點。沈科長遞上來的資料裏附有一份來自心理學家張斌，張治的觀點正好和張斌差不多，所以我順著社會構成和心理方麵這方麵檢索，向各位說明。”

她繼續說道：“在硬件設施，算法，深度學習方麵，也有很多技術論點提出了人工智能的社會局限，以及和人類的互補。三十年前提起的腦機接口和機械化肢體，二十年前提起的器官機械化內置技術，在如今開始呈井噴式爆發，並不是偶然現象。隻不過，大眾更喜歡的話題還是擁有獨立意識，反抗人類暴政的天網和機器終結者。”

說話間，靈珠那雙剛剛還毫無生氣的雙眼，突然有了亮光。它不再繼續剛才的話題，伸出手，衝像在打瞌睡的秦處長輕輕拍了拍。那調皮動作，和一個對長輩進行惡作劇的人類小姑娘沒有兩樣：“嘿，醒醒秦老，還在睡，結果出來了！”

‘分析完了？’沈君轉過視線，這才注意到：不知不覺間，靈珠身邊的球體表麵上，已經亮起好些大塊的綠光區域。