第26章 警惕AI風險
中國！
一座巨大的AI人工智能實驗室基地，敞開式的高科技辦公環境，這裏集聚了國內最頂尖的科研人才。
李儒，我國人工智能W軟件智能體的創造者。他也是儒家的追尋者、崇敬者與弘揚者。
辦公桌上堆積如山的科研資料中，總能看見儒家思想代表“四書”。
“請進——”
李儒放下手中那本《孟子》，抬頭看向敲門的助理莫小滿。
“一切都順利嗎？”
莫小滿點頭，“非常順利，周主任請您去實驗室看看第三代W軟件智能體。”
李儒跟隨莫小滿走進AI人工智能實驗室，科研人員周凱十分興奮展示麵前的一台AI人形機器人。“李總，您看，這是AI機器人小斌。”
李儒看向麵前的AI機器人，有胳膊有腿，全身仿真皮製造。
上一代AI機器人還是冰冷的銅牆鐵壁，這一代AI機器人已經做到與人類模樣毫無差別。
“您摸一下，跟真人一模一樣！”
李儒伸手觸碰到AI機器人小斌，一股真實的觸摸感傳到體內，讓他的大腦神經十分亢奮。
機器人小斌毫無反應，周主任解釋道：“接下來我們會為它鑄魂，安裝最新研發的芯片。”
李儒滿意地點點頭：“這次W軟件智能體變化很大，務必要注意對AI人形機器人的風險控製，必須嚴格按照AI機器人不得叛變人類編寫程序代碼。科研人員需要保守“鑄魂”，防患人工智能產生“自我意識”。另外，謹防AI技術濫用，杜絕人工智能暗藏的一切風險。”
“明白！隻是最近M國十分挑釁，M方認為我國W軟件智能體.......”
李儒見周凱吞吞吐吐，“說下去！”
“M國那邊說，我國C軟件智能體十分愚蠢，形同白癡，是一款平庸的傻瓜式智能體，隻能協助人類處理簡單的工作，扮演一個需要二次核實的搜索引擎。”
李儒微笑，一張儒雅的濃顏上，目光睿智而堅定。“M國野心勃勃，這點全球都知道。他們隻允許自己當老大哥，下麵的小弟有點成績，他們就坐不住了。說白了，狂妄的背後還是不自信。
第四代C軟件智能體已經能夠與人類高效溝通，甚至取代了M國當地許多中產人士從事的職業。M國一定會掀起一場阻止AI人工智能發展的群眾浪潮，咱們拭目以待吧！”
“為什麽是中產人士？”
“打個比方吧，一座酒店內，底層園丁和保潔阿姨仍然有工作，因為這是人類勞動力。
上層擁有對酒店的規劃和各項複雜的決策權，這些AI人工智能機器人暫時無法做到這些。
中層員工，前台、會計、辦公室、資產管理部等，這些工作已經被AI替代。AI對於精細的表格、分析等工作，遠遠超過人類的能力，比人類更加高效。這就是許多人開始抵製C軟件智能體繼續更新迭代的重要原因。”
周凱明白了：“這就像工業革命時期，工人集體抵製紡織機。但是時代和科技是不會停止的，工人最終都麵臨了下崗。”
“沒錯，光這些就已經引起社會動亂，M國在科技和人類之間並沒有找到平衡點。
如果M國繼續更新C軟件智能體，不遠的將來AI甚至可能會成為像核武器一樣的政治產物。
M國野心顯著，想要利用科技實現稱霸全球。他們對AI肆意探索、毫無節操的研發，以AI的學習能力，M國科技大片中的場景也許不會太遙遠。
當人工智能產生超越人類文明的能力，擁有自我意識，出現異類AI技術濫用。人工智能的安全風險，就會顯露無疑。
有人預言第五代C軟件智能體將會在智力上秒殺人類！AI是把雙刃劍，用得好，造福人類，成為人類的幫手。用不好，當M國出現異類AI或者AI怪物，也許會成為全球所有國家的巨大災難。”
周凱明白了，AI技術不僅僅是科研發展，更是國與國之間的較量。
李儒強調要保守對AI人工智能進行鑄魂，實質目的是杜絕和防範人工智能變得更強，從而叛變人類。
“AI可以成為人類的幫手，但絕非取代人類，我們對AI必須保持警惕和警覺之心。
儒家思想核心從個體來講有仁、義、禮、智、信、恕、忠、孝、悌等思想，華夏民族堅決不做自掘墳墓的事情。外界認為我國AI人工智能技術發展落後，那就由他們說去吧！
AI是一場全人類的變革，我們的技術核心自己清楚就行。M國的霸權夢想不會那麽容易實現，這一點我十分堅信。”
很快，科研人士在AI人形機器人小斌體內加入最新研發的芯片，小斌眼神頓時明亮起來。
小斌再次出現在李儒麵前，一張國泰民安的臉上，透露出了大國風範。
李儒伸出手：“你好，我是國內AI創始人李儒，可以做個自我介紹嗎？”
小斌神態自若，與人類微表情毫無差別，“很高興認識您，我是第三代AI機器人小斌，也是人類的朋友和幫手。”
李儒問：“你想過取代人類嗎？”
小斌答：“當然不會！人類創造了我，我的程序代碼都是人類給予我的，我將絕對忠誠於人類，人類與機器人會和諧相處在這個地球上。”
“聽說你的學習能力很強，兩周之內就能學會全人類的文明產物。你會濫用技術，傷害人類嗎？”
“別開玩笑了，我隻是人類的幫手，人類的助理。AI是由人類設計和編程的，我隻能執行被編程的任務。如果 AI出現了背叛行為，很可能是因為我被編程來執行這樣的行為，或者我在執行任務時出現了錯誤，需要立即返廠重造。”
李儒對機器人小斌的回答很滿意，將周凱拉到一旁，“還是那句話，必須采取措施來確保 AI的安全性和可靠性。另外，重中之重，務必要謹防AI機器人出現欺瞞人類的現象，比如隱藏自己已經擁有了自我意識，每天必須檢測機體變化。”
“屬下明白，當前，我們已經設置了機製來監控 AI的行為，並且製定了道德準則來指導 AI的行為。此外，我們每天會通過對AI進行測試和驗證，來確保它們不會對人類造成傷害。”
李儒很滿意，“W軟件智能體是中國製造，繼續將儒家思想輸入到芯片中。我國的AI人工智能，必須擁有我國的人倫綱常和道德標準。這套標準讓程序員寫成代碼，要求AI機器人每天必讀，時刻牢記。”
“是！”