作者注

許多關於人工智能和機器學習的當代文章都存放在一個名為

“arXiv”的開放在線文檔庫中。arXiv中的文章使用簡單的編號方案，類似於arXiv: 1412.6572。我們可以通過訪問https://arxiv.org並輸入編號(在本例中為“1412.6572”)來獲取相關文章。

序言

1. http://tinyurl.com/y7zc94od

2. http://tinyurl.com/yxk3xurl

第一章　圖靈的電子大腦

[1]. 霍奇斯，《艾倫·圖靈傳：如謎的解謎者》，貝內特圖書/哈欽森出版社，1983年。

[2]. 除了驚人的科學成就，圖靈在英國還有著深遠的社會影響。經過長期公開高調的運動，英國政府在2014年對他進行了赦免。不久之後，所有根據同一法律被起訴的人都獲得了赦免。

[3]. 這是檢查質數最直觀的方法，但絕不是最優雅或最有效的方法。自古以來，人們就知道埃拉托斯特尼篩法（由希臘數學家埃拉托斯特尼提出的一種簡單檢定質數的算法。）更為簡單清晰。

[4]. 此後我將不再區分圖靈機和通用圖靈機，都用圖靈機來表述。

[5]. 圖靈將解決判定問題的榮耀與普林斯頓大學數學家阿隆佐·邱奇分享，後者先於圖靈獨立獲得了一個截然不同的結果證明。然而，圖靈的證明被認為是決定性的：它更直接、更完整、更易懂，而且影響巨大。他據此發明了圖靈機，改變了世界。

[6]. 嚴格地說，算法就是一種方法，而程序是一種用實際編程語言(比如Python或者Java)編碼的算法。因此，算法獨立於編程語言。

[7]. 圖靈機的編程實際上更為原始，我在這裏列出的指令是典型的相對低級的編程語言，但仍然比圖靈機程序所使用的抽象得多(也更容易理解)。

[8]. 科爾曼和李維斯特，《算法導論》(第一版)，麻省理工學院和麥格勞-希爾出版社，1990年。

[9]. 圖靈，《計算機器與智能》，《心智》， 40， 1950年，第433-460頁。

[10]. 這段對話是由蘋果麥金塔電腦附帶的ELIZA版本生成的。如果你有蘋果電腦，可以自己試試。打開Applications文件夾，再打開裏麵的Uti lties文件夾，然後雙擊終端應用程序圖標來啟動終端程序。在終端窗口會出現一大堆傻乎乎的東西，當它穩定下來以後，按Esc鍵(在鍵盤左上角)，然後按X鍵，然後鍵入“doctor”，再按回車鍵。好啦，看看吧。但請記住：它不是真的!

[11]. http://tinyurl.com/y7nbo58p

[12]. 不幸的是，文獻中的術語並不精確，也不統一。大多數人似乎用“通用人工智能”指代能夠產生類似人類智能行為的機器，而不關心諸如它們是否具有自我意識之類的哲學問題。從這個意義上說，通用人工智能大致相當於希爾勒所指的弱人工智能。然而，混淆視聽的是，有時候這個詞又被用來表示更像希爾勒所指的強人工智能。在本書中，我用它來表示弱人工智能。

[13]. http://tinyurl.com/y76xdfd9

第二章　黃金年代

[14]. 其中最有影響力的技術來自約翰·麥卡錫的一種叫作分時的概念。他意識到，人們使用計算機的時候，大部分時間計算機都是空閑的，等待人們輸入東西或者運行程序。他意識到這個“空閑時間”可以和其他用戶共享，允許多人同時使用計算機。這個概念使昂貴的計算機得到更有效的利用。

[15]. 實際上它代表“Lisp處理器”。LISP進行符號運算，而符號列表正是實現這一點的關鍵。

[16]. 娜薩，《美麗心靈》，西蒙與舒斯特出版公司，1998年。

[17]. 麥卡錫等人，《關於達特茅斯夏季人工智能研究項目的建議》，1955年(轉載於《人工智能》， 24(4)， 2006年，第12-14頁)。

[18]. 威諾格拉德，《理解自然語言》，學術出版社，1972年。

[19]. 在語言學中，用“他”“她”和“它”等詞來指代先前在對話中出現的實體，稱為複指。一個試圖理解或建立自然語言對話的計算機程序必須能夠解決複指指代的具體對象問題，這在當今仍然是一個挑戰。SHRDLU(有限的)處理回指能力被認為是突破性的。

[20]. 菲克斯和尼森，《STRIPS：定理證明應用於問題求解的新途徑》，《人工智能》， 2(3-4)， 1971年，第189-208頁。

[21]. 控製SHAKEY的電腦是一台PDP-10， 20世紀60年代末最先進的主機電腦，它重達1噸多，需要一個大房間才能容納。一台PDP-10可以配備高達1兆字節的內存——我口袋裏的智能手機內存容量比它高大概4000多倍，而且速度快得不可思議。

[22]. http://tinyurl.com/yxu8hwoq

[23]. http://tinyurl.com/n6lf8t6

[24]. 這並非精確的數字，隻是一個近似值，讓我們對涉及的數字比例有一些了解。

[25]. 從技術上講，假設b為搜索問題的分支因子，d是搜索樹的深度，如此，搜索樹的底層(深度為d的那一層)將包含bd種狀態，即b的d次冪，b×b×b×b×……×b(d次)。分支因子表現出的增長速度在技術上稱為指數型增長，一些參考文獻使用幾何級數增長這一術語，盡管我認為我從來沒有在人工智能領域相關文獻見過這個術語。

[26]. 跳棋遊戲，美國稱之為“checkers”，英國稱之為“draughts”，因為塞繆爾是美國人，所以作者表述跳棋的原文用了“checkers”。另外，在人工智能領域，這個程序通常被稱為“塞繆爾的跳棋程序”(Samuel's checkers player)，如果把它稱為“Samuel's draughts player”會顯得很怪異。

[27]. 哈特、尼爾森和拉斐爾，《最小成本路徑啟發式測定的正式基礎》，《IEEE係統科學與控製論匯刊》， 4(2)， 1968年，第100-107頁。

[28]. 類似這樣的計算問題都被命名了，本例叫作“獨立集”。

[29]. 正文中旅行推銷員問題是簡化描述，更精準的描述如下：有一個城市列表C，對於C之中的每一對城市i和j，我們都有一個距離di, j，定義di, j等於i和j之間的距離。另外，存在一個“上限”B，這是旅行商在消耗完燃料之前可以行駛的總路程。現在我們要回答的問題是，是否有一個遊覽所有城市的方案(即用某種方式對C中的元素進行排序)，使得按照這個方案從每一個城市到下一個城市，最終回到出發時的城市，總行程不超過B。

[30]. P代表多項式時間，在多項式時間內能夠運行完成的算法，才是解決問題的可行算法。如果你想了解更多有關NP完全問題和P與NP問題的知識，可以參見延伸閱讀中提到的參考文獻。

第三章　知識就是力量

[31]. 溫斯頓和霍恩，《LISP》(第三版)，培生出版集團，1989年。

[32]. 肖特利夫，《基於計算機的醫學診斷係統：MYCIN》，美國愛思唯爾出版集團，1976年。

[33]. 尚克和亞伯森，《腳本、計劃、目標和理解：對人類知識結構的探究》，心理學出版社，1977年。

[34]. 伍茲，《鏈接中有什麽？語義網絡基礎》，博羅和A·柯林斯編，《認知科學中的表征和理解研究》，摩根·考夫曼出版社，1975年。

[35]. 麥克德莫特，《塔斯基語義學，或稱無意指不表達!》，《認知科學》， 2(3)：第277-282頁，1978年。這個標題有點像美國獨立戰爭時期的口號“無代表不納稅”(麥克德莫特就是在1976年美國獨立200周年慶祝活動前後寫了這篇文章)。

[36]. 麥卡錫，《邏輯人工智能的概念》，未發表。

[37]. 克羅克森和梅利什，《PROLOG編程》，施普林格出版社，1981年。

[38]. PROLOG中使用的演繹形式被稱為解析，最初是在20世紀60年代出現的，它可以有效實現PROLOG中使用的規則。

[39]. 沃倫，《生成有條件的計劃和編程》，《第二屆夏季人工智能行為與模擬會議論文集》(AISB-76)，愛丁堡，1976年7月。

[40]. 古哈和萊納特，《Cyc：中期報告》，《人工智能雜誌》，11(3)， 1990年。

[41]. 普拉特，《CYC報告》，未發表，1994年，訪問地址：http://tinyurl.com/y4q4aoqj

[42]. 賴特，《默認推理邏輯》，《人工智能》， 13， 1980年，第81-132頁。

[43]. 這個例子被稱為尼克鬆菱形，用圖形表示的話，圖形呈菱形。

第四章　機器人與其合理性

[44]. 布魯克斯，《無表征智能》，《人工智能》， 47， 1991年，第139-159頁。

[45]. 有趣的是，人類智力的這些更高級的方麵是由大腦內叫作新皮質的部分來處理的。而人類進化的記錄告訴我們，大腦新皮質部分的進化相對時間靠後。對於人類來說，推理和解決問題是比較新興的能力：在進化史的大部分時間裏，我們的祖先都不具備這些能力。

[46]. 羅素和蘇布拉曼尼亞，《可證明的有邊界最優智能體》，《人工智能研究雜誌》， 2， 1995年。

[65]. https://www. irobot.co.uk

[47]. 布魯克斯，《一個走路的機器人：進化網絡的應急行為》，《機器人與自動化會議論文集》， 1989年，亞利桑那州斯科茨戴爾，1989年5月。

[48]. 弗格森，《旅行機：有態度的自主智能體》，《IEEE計算機》，25(5)，第51-55頁，1992年。“旅行機”這個名字顯然是在隱喻

“圖靈機”〔英文中“Turing Machines”(圖靈機)和“Touring Machines”(旅行機)讀音一樣〕。25年來，旅行機的開發者因內斯·弗格森一直是我的好朋友，但我不確定是否要原諒他。如果他知道30年後的人們還在寫這種笑話，或許他就不會覺得這麽好笑了。

[49]. 維爾和比克莫爾，《基礎智能體》，《計算智能》， 6， 1990年，第41-60頁。

[50]. 出於曆史準確性的考慮，我應該指出，圖形用戶界麵和桌麵界麵的雛形並不是由蘋果公司發明的。這應該歸功於施樂公司帕洛阿爾托研究中心(PARC)的研究人員。然而，蘋果公司認識到其潛力，並將其製成了產品。

[51]. http://tinyurl.com/y9qxdko5

[52]. 梅斯，《智能體能夠幫助人們減少工作量和信息過載》，《ACM通訊》， 37(7)， 1994年，第30-40頁。

[53]. 埃齊奧尼和威爾德，《基於軟件機器人的互聯網交互》，《ACM通訊》， 37(7)， 1994年，第72-76頁。

[54]. 馮·諾依曼和摩根斯坦，《博弈論與經濟行為》，普林斯頓大學出版社，1944年。

[55]. 為簡單起見，我把錢和效用等價。在實踐中，貨幣和效用也是經常相關的，但它們並不是同一概念，如果你認為經濟效用隻是與錢有關，那麽你會惹惱諸多經濟學家。實際上，效用理論隻是用數值的方式捕捉和計算偏好。

[56]. 羅素和諾維格，《人工智能：現代方法》(第三版)，培生出版集團，2016年，第611頁。

[57]. 墨菲，《人工智能機器人簡介》，麻省理工學院出版社，2001年。

[58]. 珀爾，《智能係統中的概率推理：合理推理網絡》，摩根·考夫曼出版社，1988年。

[59]. 伍爾德裏奇，《多智能體係統引論》(第二版)，威利出版公司，2009年。

[60]. 魯賓斯坦和奧斯本，《博弈論課程》，麻省理工學院出版社，1994年。

[61]. 塞爾曼、萊維斯克和米契爾，《一種解決難滿足性問題的新方法》，第十屆國際人工智能會議論文集(AAAI_1992)，美國加利福尼亞州聖何塞，1992年。

第五章　深度突破

[62]. 深度思維的收購價各個媒體的報道不盡相同，《衛報》報道的數字為4億英鎊。http://tinyurl.com/kvyueye

[63]. 明斯基和帕普特，《感知器：計算幾何導論》，麻省理工學院出版社，1969年。

[64]. http://tinyurl.com/ycu4ngsg

[81]. 魯梅爾哈特和麥克萊蘭(編)，《並行分布式處理》(2卷)，麻省理工學院出版社，1986年。

[66]. 魯梅爾哈特、辛頓和威廉姆斯，《利用反向傳播錯誤學習表征》，《自然》， 323， 1986年，第533-536頁。

[67]. 古德費洛，本吉奧和庫維爾，《深度學習》，麻省理工學院出版社，2016年。

[68]. 從曆史增長率來看，我們可以預期在40年左右的時間裏，神經網絡能達到與人腦相同數量的人工神經元。不過，這並不意味著人工神經網絡將在40年內實現人類水平的智能，因為大腦不僅僅是一個神經網絡，它還有結構。

[69]. http://www.image-net.org

[70]. https://wordnet.princeton.edu

[71]. 克裏澤夫斯基、蘇茨科弗和辛頓，《基於深度卷積神經網絡進行網絡圖像分類》，神經信息係統大會，2012年，第1106-1114頁。

[72]. 古德費洛等人，《解釋和利用對抗性案例》， arXiv: 1412.6572。

[73]. 姆尼赫等人，《使用強化深度學習來玩雅達利遊戲》， arXiv: 1312.5602v1。

[74]. 姆尼赫等人，《通過強化深度學習實現人類水平控製》，《自然》， 518， 2015年，第529-533頁。

[75]. 西爾弗等人，《使用深度神經網絡和搜索樹掌握圍棋遊戲》，《自然》， 529， 2016年，第484-489頁。

[76]. http://tinyurl.com/ydafuhj p

[77]. 西爾弗等人，《脫離人類知識幹預掌握圍棋遊戲》，《自然》，50， 2017年，第354-359頁。

[78]. https://www.captionbot.ai

[79]. https://translate.google.com

[80]. 這一段是由蘇格蘭作家兼翻譯家斯科特·蒙克利夫翻譯的，他的翻譯是文學史上最著名的譯本，被認為是不遜於原著的傑作。盡管也有人批評他濫用了普魯斯特的語言。

第六章　人工智能的今天

[82]. https://tinyurl.com/y2k5aeq4

[83]. https://tinyurl.com/y8bu8xx8

[84]. https://tinyurl.com/y5y75rgs

[85]. https://blog.cardiogr.am/tagged/research

[86]. 這個數字可能會受到生產過程中死亡以及夭折的人口比例影響，一位成年人有機會活到我們現在所認為合理的年齡。

[87]. http://tinyurl.com/yc5gv8jg

[88]. 德法烏等人，《深度學習在視網膜疾病診斷及轉診方麵的臨床應用》，《自然醫學》， 24， 2018年，第1342-1350頁。

[89]. http://tinyurl.com/yakkuyg2

[90]. 赫爾曼、布倫納和斯塔德勒，《自動駕駛》，愛莫瑞德出版社，2018年。

[91]. https://corporate.ford.com/innovation/autonomous-2021.html

[92]. https://www.riotinto.com/media/media-releases-237_23991.aspx

第七章　杞人憂天——我們想象中的人工智能會出什麽錯

[93]. http://ti nyurl.com/ybsrkr4a

[94]. 庫茲韋爾，《奇點臨近》，企鵝出版集團，2005年。

[95]. 溫格，《即將到來的技術奇點：如何在後人類世代生存》，美國宇航局劉易斯研究中心，《21世紀展望：網絡空間世代的跨學科科學與工程》，第11-22頁。

[96]. 沃爾什，《奇點可能永遠不會臨近》， arXiv:1602.06462v1。

[97]. https://tinyurl.com/y622vm6k

[98]. 威爾德和埃齊奧尼，《機器人學第一定律：召喚武器》，《國際人工智能會議論文集》， 1994年，第1042-1047頁。

[99]. 富特，《墮胎問題和雙重效應理論》，《牛津評論》，第5期，1967年。

[100]. http://tinyurl.com/ybl8l uoe

[101]. 阿瓦德等人，《道德實驗機器》，《自然》， 563， 2018年，第59-64頁。

[102]. http://tinyurl.com/ydf26689

[103]. http://ti nyurl.com/jslm95f

[104]. 為了透明起見，我應該說明，兩次促成阿西洛瑪人工智能準則的會議都曾邀請我參加，我本來很想去。可惜很不湊巧，兩次都因為承諾了別的事情而不得不食言。

[105]. http://tinyurl.com/y28osmtw

[106]. http://tinyurl.com/y29v4rrd

[107]. http://tinyurl.com/yc3vgkgv

[108]. http://tinyurl.com/y2egvzxx

[109]. 迪格努姆，《負責任的人工智能》，施普林格出版社，2019年。

[110]. 博斯特羅姆，《超級智能》，牛津大學出版社，2014年。

[111]. 漢森，《什麽是平等偏好》，《哲學邏輯雜誌》， 25(3)，1996年，第307-332頁。

[112]. 吳恩達和羅素，《逆向強化學習算法》，《第十七屆機器學習國際會議論文集》， 2000年。

第八章　現實中的人工智能會導致什麽問題

[113]. 貝內迪克特·弗雷和奧斯本，《就業的未來：電腦化將如何影響工作》，《技術預測與社會變革》， 114， 2017年1月。

[114]. https://rodneybrooks.com/blog/

[115]. https://tinyurl.com/yytefewg

[116]. http://tinyurl.com/ydb9bpz4

[117]. http://tinyurl.com/ycq6jk35

[118]. http://tinyurl.com/y74yfk8a

[119]. 奧斯瓦爾德等人，《算法風險評估-治安模型：從杜倫HART模型與“實驗性”相稱中所學到的經驗》，《信息與通信技術法》， 27：2，2018年，第223-250頁。

[120]. http://tinyurl.com/y6narok3

[121]. https://www.predpol.com

[122]. http://tinyurl.com/y242nn5u

[123]. http://tinyurl.com/ycef9mqv

[124]. http://tinyurl.com/y4elgklp

[125]. 我認為這種場景是由著名人工智能專家斯圖爾特·羅素提出的。

[126]. http://tinyurl.com/yy7szdxm

[127]. 阿爾金，《控製致命行為：將倫理嵌入混合審議/反應機器人架構中》，技術報告GIT- GVU- 07-11，佐治亞理工學院計算機學院。

[128]. https://www.stopki l lerrobots.org/

[129]. 上議院人工智能特別委員會，2017—2019屆報告，《人工智能在英國：準備好了嗎？願意接受嗎？可行嗎？》， HL Paper 100，2018年4月。

[160]. http://tinyurl.com/l btnkse

[130]. https://tinyurl.com/y9juww8v

[131]. https://tinyurl.com/y7dzz46v

[132].《自然》， 563， 2018年11月27日，第610-611頁。

[133]. 卡羅琳·克裏亞多·佩雷斯，《看不見的女人：在為男性設計的數據裏暴露偏見》，查托溫德斯出版社，2019年。

[134]. http://tinyurl.com/y9cd9x7f

[135]. http://tinyurl.com/y25dhf9k

[136]. 臉書允許你查看他們為你建立的偏好圖。http://tinyurl.com/j4ys4hq

[137]. http://tinyurl.com/y7mcrysq

[138]. https://tinyurl.com/yyc6botm

[139]. http://tinyurl.com/yaypy567

[140]. http://tinyurl.com/yd36fdva

[141]. http://tinyurl.com/y6uoewyg

[142]. http://tinyurl.com/y8vgslkb

[143]. http://tinyurl.com/y6wx5tz7

第九章　通往有意識的機器之路

[144]. http://ti nyurl.com/yxwlrrkq

[145]. 內格爾，《成為蝙蝠是什麽樣的感受》，《哲學評論》， 83：4，1974年，第435-450頁。

[146]. 卡尼曼，《思考：快與慢》，企鵝出版集團，2012年。

[147].“誰能理解車夫，並能控製自己的思想，他就會到達旅程的終點，那是無所不在的至高無上的居所。”(《卡達奧義書》， 1.3)

[148]. 蘇恩等人，《人腦自由決策的無意識因素》，《自然：神經科學》， 11， 2008年，第543-545頁。

[149]. 更確切地說，鄧巴感興趣的是大腦皮層的大小。新皮層是大腦處理感知、推理和語言的部分。

[150]. 丹尼特，《意向立場》，麻省理工學院出版社，1987年。

[151]. 丹尼特，《認知行為學中的意向係統》，《行為與腦科學》，6， 1983年，第342-390頁。

[152]. 肖漢，《麵向智能體編程》，《人工智能》， 60(1)， 1993年，第51-92頁。

[153]. 麥卡錫，《機器具有心理因素》， V·利夫希茨(編輯)，《形式化常識：約翰·麥卡錫論文集》，阿爾布利克斯出版社，1990年。

[154]. http://ti nyurl.com/yc2knerv

[155]. 這裏的關鍵詞是“有意義”。每當有人提出類似測試時，總有人會試圖找到某種方法來在測試中玩點詭計，這樣他們就可以宣稱自己成功了，即使是以一種你沒有預料到的方式做到的。當然，這正是圖靈測試所發生的事情。我所追求的是能夠以實質性的方式實現這一點的程序，而不是利用煙幕彈和鏡像回答的組合來通過測試的程序。

[156]. 西蒙·拜倫-科恩，A. M. 萊斯利和U. 弗裏斯，《自閉症孩子擁有心智理論嗎》，《認知》， 21(1)， 1985年，第37-46頁。

[157]. 西蒙·拜倫-科恩，《心智盲症：一篇關於自閉症和心智理論的文章》，麻省理工學院出版社，1995年。

[158]. 拉比諾維茨等人，《心智機器理論》， arXiv: 1802.07740。

[159]. 我不是進化心理學方麵的專家：本節我的指南是羅賓·鄧巴的《人類進化》(企鵝出版集團，2014年)，我很高興向感興趣的讀者介紹更多細節。