# 史蒂文·平克：理性時代的人工智慧 > 認知科學家談語言與理性的演化基礎、AI 帶來的風險與機遇，以及啟蒙價值在當下的意義。 - 原標題：Steven Pinker: AI in the Age of Reason - 期數：特別節目 - 釋出日期：2018-10-17 - 嘉賓 / 主題：史蒂文·平克 - 網頁版：https://lex.qiaomu.ai/tw/ep/steven-pinker/ - 官方頁面：https://lexfridman.com/steven-pinker/ - 精讀字數：約 8599 字（閱讀約 19 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 埃隆·馬斯克說過，人工智慧比核武器危險得多，很可能摧毀人類文明。史蒂文·平克（Steven Pinker）的回應只有一句：這個類比從根本上就錯了。 核武器的全部設計目的就是摧毀東西，人工智慧的設計目的是解決問題。把它們放在一起比較，就像因為錘子和外科醫生都涉及"打擊"這個詞，就把它們歸成一類。 這場訪談裡，Lex Fridman 把平克請來，聊的正是這件事。平克是哈佛大學的認知心理學家，寫過《語言本能》《心智探奇》《白板》《人性中的善良天使》《當下的啟蒙》。他花了三十年研究語言、心智和暴力史，習慣用資料說話，也習慣對流行的恐慌潑冷水。AI威脅論逐漸成為矽谷某種預設共識的那幾年，他的立場顯得很不合群。 ## 先回答一道關於生命意義的選擇題 訪談一開始，Lex 給平克出了一道選擇題。生命的意義是什麼？ A，像柏拉圖說的那樣追求知識。B，像尼采說的那樣追求權力。C，像歐內斯特·貝克爾（Ernest Becker）說的那樣逃避死亡。D，像達爾文說的那樣傳播基因。E，像虛無主義者說的那樣根本沒有意義。F，像平克二十年前在《心智探奇》裡推演的那樣，理解生命的意義超出了人類的認知能力。G，以上都不對。 平克的答案是A，但要修正一下。他認為最接近的是"追求知識"，不過應該把它擴大為更寬泛的**圓滿**（fulfillment）：生命、健康、刺激、接入活著的文化和社會世界。 他補了一句關鍵的區分：這是"我們的"生命意義。基因的生命意義是另一回事，它的任務是複製自己。基因所造就的大腦，會給自己設定另一套目標。兩套意義不必一致。 Lex 追問，追求知識到底是平克個人的偏好，還是人性的基本面？平克的回答是兩者都是。人類有能力追求知識，因為這是我們之所以為人的東西。人類在動物界格外突出的一點，就是獲取知識並用它來生存：我們造工具，用語言達成協議，提取毒物，預測動物行為，研究植物的功效。 這裡的"我們"指作為物種的人類，遍佈地球每一個角落，不分現代西方還是其他地區。正是這種能力使人類佔據了所有生態位，也把其他動物逼向滅絕。 平克說，用理性去追求人類福祉，去追求健康、幸福、社會豐富度和文化豐富度，是當下最重要的挑戰。說白了，就是用我們的智力搞清楚世界如何運轉、我們自身如何運轉，然後做出發現、達成協議，讓所有人長期過得更好。 ## 生物神經網路裡那個說不清的東西 聊完意義，話題轉到智慧本身。 二十年前在《心智探奇》裡，平克推測人類思維可能是大量高度互聯的神經元網路的產物。互連之中湧現出思想。今天用來做機器學習的神經網路，跟這套生物神經網路相比，是不是有某種更復雜、更神秘、甚至更魔幻的東西？ 平克的回答分兩層。 第一層，確實有點神秘。每個身為神經網路的人都知道自己是有意識的。這裡說的有意識，跟感知環境不是一回事，跟感知內部狀態也不是一回事，它指的是擁有主觀的第一人稱、現在時的體驗。看到紅色的時候，紅色不只是跟綠色不同，它還有一種"紅感"，我能感覺到。 一個人工系統會不會有這種體驗，平克說：我不知道，我也不認為我能知道。這就是它神秘的地方。 假如有一個跟人類在行為上完全無法區分的機器人，我們會認為它有意識嗎？應該認為它有意識嗎？這個問題很難回答。 第二層，把意識這個偏哲學的問題放到一邊，還有另一個問題：今天的神經網路和人類大腦在組織方式上的差異，會不會意味著我們沿著現有軌跡走下去，永遠做不出一個行為上跟人無法區分的機器人？ 平克認為兩者有重疊，但差異也很大。他給出的判斷是：**現在的深度學習系統，實際上並沒有那麼深。**它們非常擅長提取高階統計規律，但大多數系統沒有一個語義層，沒有那種"誰對誰做了什麼、為什麼、在哪、怎麼發生、什麼導致了什麼"的真正理解。 Lex 追問：如果網路更大、連線更豐富更怪異，這種語義層面的推理能力能不能湧現出來？ 平克先把意識拆開。意識跟複雜度是兩回事。蝦的複雜度不高，但我們可以合理地追問蝦有沒有意識，它會不會感到疼痛。所以意識這塊先放一邊。 至於結構化的知識，單純的規模不夠，但如果是精心設計過的，那為什麼不行？自然選擇對人腦做了一種相當於工程設計的操作。矽基系統做人類大腦能做的事，在原理上沒有障礙。會不會真的發生，取決於我們工程做得多聰明，也取決於我們想不想，甚至取決於這件事本身是不是一個合理的目標。 ## 木頭和棉花的啟示 平克在這裡講了一個很有意思的類比，用來解釋為什麼"造出和人腦完全一樣的東西"可能根本不是一個值得追求的目標。 你可以問，有沒有哪種移動方式比人更好？足式運動這件事，我們最終大概是想要超過人類的。沒有理由非得把人當作基準。工具比人更強，完全可能。 有些自然系統，我們造不出完全一樣的替代品，但原因並不神秘，只是複製它的每一步都不划算。 比如木頭。我們至今用木頭蓋房子、做傢俱。我們喜歡它的觀感，喜歡它的手感，它有某些合成材料沒有的特性。木頭裡面沒有什麼魔法，只是要合成出木頭的一切特性，一步接一步地做下去，太費勁了，而我們本來就有木頭。 再比如棉花。平克說他身上正穿著棉質衣服，感覺比滌綸舒服得多。棉花裡也沒有魔法，我們也不是永遠合成不出跟棉花一模一樣的東西，只是到了某個點，不值得。我們已經有棉花了。 平克把這套邏輯套到人類智慧上：想要造一個跟人腦一模一樣的人工系統，這個目標我們大概會一直追到某個程度就停下。因為如果你要的是比人幹得更好的工具，你根本不在乎它像不像人。診斷癌症、預測天氣，為什麼要以人類為基準？ 但 Lex 接了一句：即便人不該是基準，也不該被模仿，研究人類對造AI仍然有大量可學之處。平克同意。造飛行機器的時候，我們想弄懂空氣動力學，包括鳥的飛行原理，但不去模仿鳥。因為鳥和飛機遵循的是同一套物理規律。 ## 兩種AI末日論，平克說都不成立 接下來進入正題。 平克把關於AI的生存性威脅分成兩種，他認為兩種都站不住腳。 第一種是對AI接管的模糊恐懼。邏輯是：就像我們征服了動物和技術上不那麼先進的人群，如果我們造出比我們更先進的東西，它必然會把我們變成寵物、奴隸，或者某種被馴化的動物。 平克的診斷是：**這種恐懼把智力和權力意志混為一談了。**在人類身上，這兩種特質確實捆在一起，因為我們是自然選擇的產物，而自然選擇是一個競爭過程。跟我們解決問題的能力綁在一起的，還有一堆惡劣特質：支配、剝削、最大化權力、榮耀、資源和影響力。 但純粹的解決問題的能力，沒有理由把支配設為自己的目標之一。它的目標就是我們給它設定的目標。只要沒有人去造一個權力狂式的AI，就沒有理由認為它會自然朝那個方向演化。 有人可能會說，萬一我們給它設的目標就是最大化自己的權力呢？平克說，那是個蠢到家的目標，你不會給一個自主系統設這種目標。這屬於顯而易見的愚蠢。 回看歷史，有很多機會讓工程師把破壞力裝進某個系統，他們選擇不那麼做，因為這就是工程的自然過程。 Lex 插了一句：除非是武器。造武器的時候，它的目標就是殺人，所以有充分理由不去造某些型別的武器。平克順著說，造核武器就是一個巨大的錯誤。 ## 核武器類比錯在哪 Lex 追問：這是說核武器在早期就該被攔住嗎？還是說它只是一個不幸的發明？有沒有可能攔住？ 平克說，倒轉時鐘很難。核武器誕生在二戰背景下，當時擔心納粹先造出來。一旦因為這個理由啟動了，就很難停下來，尤其因為戰勝日本和納粹是當時每個負責任的人壓倒一切的目標，人們願意做任何事來確保勝利。 如果二戰沒有發生，核武器很可能不會被髮明出來。這沒法確知，但他不認為這是必然，就像其他一些被設想卻從未實施的武器系統一樣：像農用飛機那樣在城市上空播撒毒氣的飛機，在敵國製造地震和海嘯的系統，把天氣武器化，把太陽耀斑武器化。這些瘋狂的方案，我們最後都想清楚沒有去做。 然後他給出關鍵判斷：**核武器和人工智慧之間的類比從根本上就是誤導的，因為核武器的全部意義就是摧毀東西，人工智慧的意義是解決問題。** 這一點值得停下來想一想。當年關於AI威脅的公共討論裡，核武器是被引用最多的參照物。它給人強烈的畫面感：蘑菇雲、末日、不可逆。但平克指出的是，這個參照物在最基本的層面就不匹配。核彈不需要被"設計得善良"，它的存在本身就是危險。一個AI系統的危險程度，幾乎完全取決於設計者給它設定了什麼目標。參照物選錯了，恐懼的傳播方式也就跟著錯。 ## 回形針假設自己拆自己臺 第二種恐懼是附帶損傷。 我們給AI設定一個目標，比如生產回形針，它會以極高的效率追求這個目標，還沒等我們反應過來，它就把我們變成了回形針。我們給它設定治癒癌症的目標，它會把我們變成致命實驗的豚鼠。我們給它設定世界和平的目標，它理解的世界和平是沒有人類，因此沒有打鬥，於是它把我們全殺了。 平克說這些設想極其荒唐，而且本身就自我拆臺。它們首先假設我們聰明到能設計出一個治癒癌症的AI，同時又蠢到沒法把"治癒癌症"這件事說明白到它不會順手殺了我們。它假設這個系統聰明到能治癒癌症，又蠢到想不通我們說的治癒癌症不包括殺死所有人。 他還提到"價值對齊問題"（value alignment problem），認為這個附帶損傷的場景同樣基於誤解。 Lex 承認，目前我們既不知道怎麼造這兩種系統，也談不上接近知道。這些東西可能一夜之間改變。但此時此刻，往任何一個方向去理論化都很難。這正是問題的核心：缺少對眼前真實工程問題的推理能力時，想象力就會失控。 ## 馬斯克為什麼一邊造車一邊害怕 Lex 問得更具體。他自己研究自動駕駛，認為特斯拉的自動駕駛是當今世界最大規模AI應用之一，對社會有潛在的非常正面的影響。那麼一個正在造這種出色"狹義AI"系統的人，為什麼會對"通用AI"如此擔憂？動機是什麼？ 平克的回答很直接：這得去問他本人。他出了名地張揚、衝動，就像我們剛看到的那樣，甚至到了損害自己公司健康的程度。他也不知道馬斯克腦子裡在想什麼。 不過平克提到，馬斯克當時發過一條推文，大意是：如果連平克都搞不懂狹義AI（比如一輛車）和通用AI的區別，而後者算力是前者的一百萬倍、還帶一個開放式效用函式，那人類就麻煩大了。平克說，那不是馬斯克最後一次發火氣很大的推文。 但他不認為專用AI和所謂通用AI之間的區分是關鍵。專用AI也不會為了達成目標而做任何想得出來的事。所有工程系統都被設計成在多個目標之間做權衡。造車的時候，我們不會忘記裝剎車，因為車的目標是跑得快。人們想到了，是的，你希望它跑得快，但不是一直快，所以也裝了剎車。 同理，如果一輛自動駕駛車被程式設計為走最短路徑去機場，它不會走對角線碾過行人、樹木和柵欄，因為那不在我們對"最短路徑"的定義裡。這就是智慧系統的定義：它把多重約束考慮進去。 如果系統真是通用智慧，這一點更成立。它就不會一根筋地追求某個目標，把其他所有考慮和附帶效應都忽略掉。那不叫通用人工智慧，那叫通用人工愚蠢。 Lex 也表達了對自動駕駛改善人類福祉的信心。他說這個前景是驚人的，讓他驚訝的是媒體很少注意到：僅在美國，每年就有大約四萬人死於公路，遠遠超過死於恐怖襲擊的人數。我們花了一萬億美元打一場反恐戰爭，而美國平均每年死於恐怖襲擊的只有六個人左右。年復一年，四萬人在公路上被屠殺，而這個數字本可以降到接近零。 他補了一句個人的感受：作為一個造這些車的人，說工程師會蠢到不去把安全性設計進系統，讓他有點被冒犯。他常常熬夜想著那四萬人。他做的每一件事都是為了救這些人的命。他在深度學習文獻、CVPR 和 NIPS 會議上興奮的每一個新發明，落腳點都是讓它更安全、幫助人。 所以他看不出這條軌跡怎麼會突然滑向一個智慧產生極大負面影響的狀態。 ## 被AI消滅的工作，本來就是糟糕的工作 平克同意自動駕駛的人道主義價值，並且認為這只是AI潛在人道收益的開端。 他指出了一個被忽略的角度。關於AI讓哪些人失業，人們投入了巨大的關注，但很少有人注意到：**即將被淘汰的那些工作，本來就是糟糕的工作。** 不再有人去摘莊稼、鋪床、開卡車、挖煤，這些是摧殘靈魂的工作。我們有一整套文學作品在同情那些被困在卑微、消磨心智、危險崗位上的人。如果能消滅這些崗位，對人類是天大的好事。 當然，解決一個問題會冒出另一個問題：怎麼讓這些人有體面的收入。但平克說，如果我們聰明到能發明鋪床、收碗、照顧病人的機器，我們大概也聰明到能想出怎麼重新分配收入，把巨大的經濟節約分一部分給那些不再需要鋪床的人。 這段話的分量在於，它把討論的框架換掉了。通常的討論是"AI會不會搶走工作"，隱含的假設是那些工作值得保留。平克直接把假設翻過來問：那些工作真的值得人去做嗎？如果一臺機器能替你鋪床，你是失去了意義，還是獲得了自由？這個問題沒有統一答案，但它至少讓"失業焦慮"這個預設情緒變得可以被重新審視。 ## 擔憂預算和想象力學 Lex 提到薩姆·哈里斯（Sam Harris）的觀點：AI最終成為生存性風險是顯而易見的。不知道什麼時候，但最終是顯然的。正因為不知道什麼時候，所以現在就該擔心。 Lex 覺得這個論證很有意思，問：我們該怎麼考慮時間尺度？怎麼考慮一個我們幾乎不瞭解的威脅，它可能明天就來，但很可能是一百年以後？ 平克先反問：我們害怕的那個"它"到底是什麼？是AI奴役我們，還是把我們變成回形針？ Lex 說，從哈里斯的角度看，最有說服力的是回形針那種情形。 平克的回應：我覺得它完全是幻想。不要造那樣的系統，不要給它那樣的目標。工程的第一條守則就是，在測試之前不要部署一個擁有巨大控制權的系統。也許工程文化會徹底改變，那我會擔心。但我看不到任何跡象表明工程師會突然幹蠢事，比如讓一座電廠受一個沒測試過的系統控制。 他還指出，這些設想裡，AI 不僅被賦予近乎魔法的能力，包括治癒癌症（這本身可能是個不連貫的目標，因為癌症有很多種）或者帶來世界和平（這目標本身怎麼界定都是問題），還被賦予了控制宇宙中每一個分子的能力。這本身不太可能，而且我們也不會不測試就把這類系統接到基礎設施上，就像對待任何工程系統一樣。 也許會有不負責任的工程師，那就需要法律和監管上的責任機制，讓工程師不做按他們自己的標準來看也很蠢的事。但他從未見過一個足夠可信的生存性威脅場景，值得投入大量腦力去預防。 他還提到，AI 的進步確實可觀，尤其是最近十年。但"突然出現一個階躍函式、在我們意識到之前它就無所不能、還有某種遞迴式的自我改進"這種想法同樣是幻想。現在叫人印象深刻的這些技術，比如深度學習，需要拿幾十萬上百萬個樣本去訓練。而"治癒癌症"這種問題，根本沒有幾十萬個同類樣本可訓。過去五年讓AI進步的那些方法，不會導向那個指數級突然自我改進的幻想。這是魔法思維，不符合我們對AI實際運作方式的理解。 接著他談了"擔憂預算"這個概念。我們得排優先順序。得把接近確定性的威脅，比如氣候變化，跟那些僅僅可以想象但機率極低的威脅區分開。還要考慮人們的擔憂預算。你不可能什麼都擔心。如果你播撒恐懼、宿命論和絕望，它會導致一種麻木：這些問題太沉重了，工程師反正會把我們全殺了，那要麼摧毀整個科學技術的基礎設施，要麼趁還能享受就享受吧。 Lex 總結：存在一條界線，越過它，擔憂就變成了讓人癱瘓的恐懼，產出的成分沒了。平克說，正是如此。 他還指出，人類的努力跟風險是不匹配的。認知心理學的一個基本結論是：**驅動風險感知、進而驅動恐懼感知的，是可想象性，資料起不了多少作用。** 所以我們把巨量資源錯配到避免恐怖主義上，它平均每年殺死約六個美國人（9·11 那一年是例外）。我們入侵別的國家，設立全新的政府部門，耗費巨量資源和生命，去防範一個微不足道的風險。而確定會發生、必然發生的風險，比如交通事故，以及不在眼前但足夠可信、值得擔心的風險，比如大流行病、核戰爭，得到的關注少得多。總統辯論裡沒有關於如何最小化核戰爭風險的討論，卻有大量關於恐怖主義的討論。 平克說，把我們用於恐懼、擔憂、關注和規劃的預算，校準到實際的傷害機率上，至關重要。 Lex 提到了喬·羅根（Joe Rogan）。羅根是他喜歡的人之一，透過想象力探索理性的邊界。羅根曾經相信很多陰謀論，後來透過理性把其中不少信念剝掉了。看著他透過理性丟掉大腳怪和9·11之類的想法，很有意思。平克說，羅根已經成了一個真正的好力量。 平克上過羅根的播客，聊得很精彩，但沒怎麼談AI。他幾周後還要再去一次。羅根很擔心AI的生存性威脅，代表了很多從一萬英尺高空看AI這個話題的人。 ## 怎麼跟普通人聊AI Lex 問：如果讓你教我一個AI研究者，該怎麼跟羅根和公眾談AI，你會給什麼建議？ 平克的短答案是：去讀《當下的啟蒙》裡他寫AI的那些章節。 長一點的答案是：強調工程文化。它確實是以安全為導向的。在《當下的啟蒙》裡，他畫了各種原因導致的意外死亡率曲線：飛機失事、車禍、職業事故，甚至被閃電擊中致死。它們全都在急劇下降，因為工程文化就是想辦法擠出致命風險。死於火災、溺水、窒息的比例全都大幅下降，靠的是工程進步。他說，在看到那些圖表之前，他並沒有真正體會到這一點。 而這正是因為有像 Lex 這樣的人，熬夜想著，天啊，我發明的東西會不會傷到人，並且調動聰明才智去防止它發生。他說自己在MIT待了22年，對工程文化有些瞭解，理解工程師就是這麼想的。至關重要的是，面對AI，這種文化不能突然被關掉。 Lex 說，確實需要更多工程師站出來，為這種興奮、為這種對人性的正面看法發聲。平克同意。他說，我們想發明的一切都是為了給世界帶來好處。 ## 悲觀讓你顯得更聰明 Lex 問了一個關於心理學的問題：撇開具體話題不談，對未來悲觀似乎會讓你顯得比樂觀更聰明。這個觀察對不對？如果對，為什麼？ 平克的回答引了諷刺作家湯姆·萊勒（Tom Lehrer）的一句話：**永遠預測最壞的情況，你就會被譽為先知。** 這可能跟我們整體的負面偏見有關。作為物種，我們對負面比對正面更敏感。我們害怕損失甚於享受收益。這就給"先知"們留出了空間，讓他們提醒我們那些可能被忽略的傷害、風險和損失。這種不對稱確實存在。 這段話其實點出了AI威脅論流行的部分心理機制。預言災難的人幾乎不用付出代價：說對了，他是先知；說錯了，沒人記得。而預言進展和好處的人，一旦落空就會被嘲笑天真。這種激勵結構本身就偏向悲觀敘事，跟實際的風險機率無關。 ## 影響平克的書 訪談後半段轉向書。 Lex 說比爾·蓋茨也是平克的粉絲，說《當下的啟蒙》是他有史以來最喜歡的新書。他問平克，早年哪本書對他看世界的方式影響深遠？ 《當下的啟蒙》受大衛·多伊奇（David Deutsch）的《無窮的開始》影響。那本書是對知識和知識改善人類處境之力的一次相當深刻的反思，裡面有這樣的智慧：問題是不可避免的，但只要有正確的知識，問題就是可解的；而解決方案會創造新的問題，需要被再次解決。平克說，這是關於人類處境的一種智慧，影響了這本書的寫作。 他還提到一些優秀但冷門的書。他讀過一本《武力的歷史》（The History of Force），是政治學家詹姆斯·佩恩（James Payne）自費出版的，講暴力的歷史性下降，是《人性中的善良天使》的靈感之一。 再往前，青少年時期，他喜歡一本叫《一、二、三……無窮大》（One, Two, Three, Infinity）的書，作者是物理學家喬治·伽莫夫（George Gamow）。那本書用非常通俗幽默的方式講了相對論、數論、維度、高維空間，出版七十年後讀起來仍然令人愉快。 他還喜歡《時代生活》科學系列。他母親訂閱的，每個月寄來一本，每本一個主題。一本講電，一本講森林，一本講進化，然後有一本講心智。他當時就被"可能存在一門關於心智的科學"這件事吸引住了，也會把那本書算作一個影響。 大學時期，他讀了喬姆斯基的《語言反思》。理查德·道金斯的兩本書《盲眼鐘錶匠》和《自私的基因》影響巨大，既因為內容，也因為寫作風格，那種用生動散文解釋抽象概念的能力。斯蒂芬·傑伊·古爾德的第一個文集《自達爾文以來》也是生動寫作的絕佳例子。心理學家喬治·米勒提出了人類記憶容量是七加減二個組塊這個觀點，可能是他最著名的貢獻，但他還寫了幾本關於語言和傳播的書，平克本科時讀過，同樣寫得漂亮，思想深刻。 訪談在輕鬆的氛圍裡收尾。平克道了謝，Lex 也道了謝。整場對話沒有得出什麼結論，但它提供了一套看AI恐慌的另一種眼光：把風險放回它該在的位置上，跟其他真實的風險一起，按機率排隊。 ## 給讀者的行動結論 - 下次看到關於AI末日的說法，先問一句"那個它到底是什麼"。是奴役，是回形針，還是別的什麼？把模糊的恐懼逼成一個具體的場景，很多恐慌就會自己散掉。 - 給自己建一個擔憂預算。把氣候變化、大流行病、核戰爭這類機率高、後果重的風險，跟僅僅可以想象、機率極低的場景分開對待，別讓後者佔走你全部的注意力。 - 警惕可想象性偏差。你害怕某件事的程度，往往取決於它有多容易被腦補出畫面，跟它實際發生的機率關係不大。恐怖襲擊和交通事故的對比就是最好的例子。 - 別把智力等同於權力意志。一個系統解決問題的能力很強，不代表它天生就想支配別人。目標是外部給的，跟智慧本身無關。 - 關注工程文化裡的安全本能。想理解AI為什麼會朝好的方向走，去看飛機失事率、車禍死亡率這些曲線，它們下降靠的是工程師的日常習慣，跟道德呼籲無關。 - 如果想系統地瞭解這套反恐慌的論證，去讀平克《當下的啟蒙》裡關於AI的章節，還有大衛·多伊奇的《無窮的開始》。 - 當你發現自己在為某個遙遠的災難焦慮時，先分清這是有產出的擔憂，還是讓你癱瘓的恐懼。前者推動你做事，後者只會讓你想躺平。