# 斯科特·阿倫森：計算複雜度與意識 > 圍繞量子計算、P 與 NP 的邊界展開，探討計算複雜度能否解釋意識與自由意志。 - 原標題：#130 – Scott Aaronson: Computational Complexity and Consciousness - 期數：第 130 期 - 釋出日期：2020-10-12 - 嘉賓 / 主題：斯科特·阿倫森 - 網頁版：https://lex.qiaomu.ai/tw/ep/scott-aaronson-2/ - 官方頁面：https://lexfridman.com/scott-aaronson-2/ - 精讀字數：約 12302 字（閱讀約 27 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 給一個物理系統算一個數，叫 phi。phi 越大，系統越有意識。人腦有一個 phi 值，一塊只做糾錯碼的晶片也有一個 phi 值。算完發現晶片贏了。 這是整合資訊理論（IIT）的直接推論。斯科特·阿倫森（Scott Aaronson）在部落格上把這個推論擺了出來：構造一個只做重複性糾錯、跟智慧和意識毫無關係的系統，它的 phi 可以遠超人類大腦。 朱利奧·託諾尼（Giulio Tononi）的回應是：對，那它就是超級有意識的。 阿倫森在 Lex Fridman 播客裡複述這段交鋒時，語氣裡還帶著當年的錯愕。他說這是他在整個職業生涯裡見過最膽大的一次"咬牙吞下"（bite the bullet）。對方沒有爭辯任何細節，直接承認結論，然後反問：科學本來就不用來確認直覺，它用來挑戰直覺，你怎麼證明我錯？ ## 一個理論算錯了一堵空牆 阿倫森把意識問題拆成兩個。一個是那個臭名昭著的"難問題"（hard problem）：物質宇宙裡為什麼會有感受質，為什麼體驗會"像點什麼"。另一個是他自己命名的"相當難的問題"（pretty hard problem）：哪些物理系統有意識，程度如何。胎兒在第幾周開始有意識？狗和青蛙怎麼比？如果意識是個多維向量，能不能告訴我這兩個東西各在哪些維度上有意識、哪些維度上沒有？ 這個問題的口氣聽起來溫和，其實是所有實際爭論的戰場。要不要給昏迷病人拔管，AI 到什麼程度該被當作道德主體，全都卡在這裡。 IIT 是少數正面進攻這個問題的理論。它把系統抽象成一組互相連線的元件，規定資訊怎麼流動，然後算出一個 phi。phi 的定義在十幾年裡改過好幾版，核心始終跟電腦科學裡的"圖擴充套件性"（graph expansion）有關：想讓 phi 大，你就沒法把系統切成兩個只有微弱連線的部分。任何一刀切下去，兩側之間都得有密密麻麻的連線。 阿倫森說，讀到這裡他的第一個反應是後頸發涼。託諾尼團隊先列了一堆關於意識應該滿足的公理，接著是一段自然語言的討論，然後 phi 就憑空出現了。中間沒有任何像推導的東西。 > 他們表現得好像存在一個推導，你應該把它當成推導來讀。實際上什麼推導都沒有，那個公式是直接從帽子裡拽出來的。（斯科特·阿倫森） 這個批評還算溫和。真正致命的是下一步：如果 phi 真能度量意識，它必須透過一些我們已經有答案的測試。它通不過。 一塊巨大的異或門規則網格，結構均勻得像一堵空牆，phi 值可以輕鬆超過任何人。按照理論，這堵牆比你的母親更有意識。阿倫森說，事情到這一步，這個理論談論的東西我就不打算再叫"意識"了，得換個詞。 他給出的理由是關於定義的一般原則：**一個定義只有在匹配我們下定義之前想談的那個東西時，才算好定義。**託諾尼給出 phi 之前，所有人說的"意識"指的都不是異或門陣列。理論算出來跟這個前理論直覺完全對不上，那就是理論錯了，不能反過來要求直覺讓步。 託諾尼的反駁是"科學就是要挑戰直覺"。這句話本身沒錯，可科學挑戰直覺有先後順序：**先拿理論去測那些我們已經知道答案的案例，測過了，才敢相信它在未知領域的預測。**一個新的溫度理論，得先說沸水比冰熱，你才會相信它說太陽比什麼都熱。IIT 連沸水比冰熱這一關都沒過。 ## 完美模擬按定義就不可被發現 話題轉到模擬假說。阿倫森的處理很乾脆：模擬如果是完美的，它按定義就不可分辨，你永遠拿不到關於外面那層宇宙的任何直接證據。模擬如果不完美，能找到 bug，那我們會跨過那座橋，不過到那時候"模擬"和"奇蹟世界"的區別也就模糊了。 真正有意義的是旁邊那個問題：世界可計算麼？ 這是丘奇-圖靈論題（Church-Turing thesis）的物理版本。給定任意一個物理系統的初始資料，能不能用圖靈機把它模擬到任意精度？阿倫森說目前證據相當強，我們的世界看起來滿足這一條。萬一不滿足，我們還沒發現哪裡不滿足。 彼得·肖爾（Peter Shor）開過一個玩笑：也許廣義相對論和量子力學一直統一不了，是因為那部分宇宙根本沒被完整指定，一旦有人嘗試在黑洞奇點附近做實驗，宇宙就會丟擲一個溢位錯誤。阿倫森說他喜歡這個笑話，奧卡姆剃刀卻指向另一邊。宇宙已經穩穩跑了 140 億年，我們不知道某個現象的物理定律，不構成"探測它會弄崩宇宙"的證據。 至於 Eric Weinstein 和 Stephen Wolfram 的工作，阿倫森的評價很剋制：他們有的是希望某天能通向萬物理論的想法，還稱不上萬物理論本身。而且"everything"這個詞本身就含混。即便拿到了基本相互作用的統一理論，所有湧現行為仍然原封不動地等著被探索。那只是某個特定定義下的一切。 ## 彭羅斯疊了五層投機 羅傑·彭羅斯（Roger Penrose）關於意識的理論，阿倫森十幾歲讀他的書時深受震撼，幾年前在明尼蘇達的一個會議上還有機會當面長談。他欽佩彭羅斯敢於提出這種級別的問題，不過要把這個理論拆開看，得數一數里面疊了多少層假設。 第一層，彭羅斯說的東西比"量子力學與意識有關"要激進得多，那種說法對他而言太溫和。**他的主張是量子力學本身還不夠。**即便大腦是一臺量子計算機，量子計算機也能被經典計算機模擬，只是需要指數級更多的時間。這對他不夠。他要的是大腦在利用尚未知曉的量子引力定律，那些定律在原則上是不可計算的，位置比停機問題神諭還高，比整個算術層級還高。 第二層，得存在這樣一種量子引力理論。大多數研究量子引力的物理學家不會同意，他們從 AdS/CFT 對偶裡學到的東西，恰恰支援自然是可計算的。 第三層，得讓這種只在黑洞奇點和宇宙大爆炸尺度上顯現的物理，影響到大腦。大腦在常溫下用普通化學運轉，它的底層物理被量子場論遮蔽得相當徹底。肖恩·卡羅爾（Sean Carroll）把這個論證講得很細：無論量子引力帶來什麼新效應，都會被量子場論篩掉。 第四層，量子力學本身得是錯的。彭羅斯需要"客觀坍縮"（objective reduction），量子態大到一定程度會自發坍縮。這類理論（比如 GRW 模型）的好處是可測試，麻煩也在這裡：可測試意味著未來幾十年可能被證偽。Dirk Bouwmeester 這些人一直在做這類實驗，只是還沒做到能驗證彭羅斯提案的程度。 第五層，也是最玄的一層，得讓意識能夠影響坍縮的方向。否則坍縮就是純隨機的，你的性情和選擇插不進去。 再往上，整個塔的重量壓在哥德爾不完備定理的一個論證上。 ## 哥德爾的論證，圖靈七十年前就回過 論證的結構是這樣：任何足夠強、足夠一致的形式系統，都證不出自己的一致性。人類站在系統外面，一眼就能看出它是一致的。所以人類的心智不屬於形式系統，不屬於計算機。 阿倫森說，絕大多數思考過這個問題的電腦科學家和數學家，不認為哥德爾定理能幹成這件事。這個反駁本身也不新。圖靈 1950 年寫圖靈測試那篇論文時，已經把它當成一個"古老且眾所周知"的錯誤想法來處理了。 反駁的要點在於：機器完全可以不困在單一形式系統裡。它可以不停往系統里加新公理，說"我現在假設我的一致性成立，看看能推出什麼"，然後在更強的系統裡繼續。哥德爾定理對此一句話都說不了。**它只能保證一件事：機器每次加新公理時，不存在絕對的正確性擔保。** 彭羅斯抓住的正是這一點。圖靈的回答同樣適用於人。我們加新公理的時候也從來沒有過絕對擔保，現在沒有，將來也不會有。數學史上加錯公理、走錯路的例子多得是。 順著這條線，阿倫森聊到了"幽靈在量子圖靈機裡"（The Ghost in the Quantum Turing Machine）那篇七年前的文章。他當時探索的是一種不依賴觀察者的說法：大腦因為混沌疊加量子力學不確定性，存在一些即便用任意先進的未來技術也無法預測的方面。這個性質如果成立，至少能把大腦跟目前所有計算機區分開，儘管區分不開"任何可能的計算機"。 ## 把預測裝進密封信封 Lex 問了一個更私人的版本：如果有人把你一生的全部行為寫成一個預測，裝進密封信封，事後開啟全部應驗，這會不會摧毀你對自己有意識的感受？ 阿倫森的回答很精確。這不會摧毀他對自己有意識的感受，卻會徹底摧毀他對自己有自由意志的感受，摧毀得比任何哲學論證都徹底。 於是問題變成：這樣的預測在物理上可能嗎？ 如果大腦有一個乾淨的數字抽象層，每個神經元像電晶體一樣執行數字函式，那理論上可以派奈米機器人進去掃描每個神經元的狀態，做一個足夠好的副本。如果必須深入到分子或原子層面，就會撞上量子態的不可克隆定理，撞上噪聲。 這裡藏著一個更難的問題。假設有人做出了一個副本，別人誰也分不出來，它說的話跟你像極了，只是不完全是你會說的話，因為噪聲確實存在。只有你自己會說：不，我知道那不是我的意識，我的意識還在這裡。問題來了，別人憑什麼信你？ 阿倫森在這句話上停了一下，沒有給出答案。 ## 從 ELIZA 到 GPT-3 2014 年，一個叫 Eugene Goostman 的聊天機器人被一堆媒體寫成"第一個透過圖靈測試的程式"。它模擬一個 13 歲的烏克蘭男孩。記者打電話給阿倫森，他第一反應是我做量子計算的，不屬於 AI 圈子。記者說你可以上網試試。他試了。 他問它：珠穆朗瑪峰比鞋盒大嗎？ 機器人開始打太極。阿倫森說問題出在它根本不知道你在說什麼，談不上聰明不聰明。這些問題之所以"顯然"，是因為人類會把句子轉換成物件的表徵，再在物件上做常識推理。它沒有這一層。 他還補了一句更狠的：這東西相對 1960 年代的 ELIZA 沒有實質進步。ELIZA 只是把你說的東西換個方式拋回給你，效果卻好得驚人，幾百行 Lisp 程式碼就能讓人掏心掏肺。Eugene Goostman 相對 ELIZA 的進步，跟它的媒體聲量完全不成比例。 然後他話鋒一轉：最近這幾個月，整個討論變得有意思多了。 > GPT-3 並不透過圖靈測試，也沒人聲稱它透過。不過跟 Eugene Goostman 顯然不如 ELIZA 一樣顯然，GPT-3 是一次重大飛躍，越過 ELIZA，越過此前世界上出現過的一切。（斯科特·阿倫森） 他引了 Scott Alexander 那個著名說法：OpenAI 基本上是把整個網際網路磨成了漿，然後灌進模型裡。阿倫森說他之前一直納悶，為什麼沒人試過這一招，直接在整個網路語料上做深度學習，做一個聊天機器人。現在有人做了，結果非常驚人。 他也把邊界劃得很清。讓 GPT-3 匹配括號，它做不好。做算術，它做不好。做涉及空間位置關係的應用題，它做不好。這幾件事恰恰是計算機一百年前就碾壓人類的地方。原因在於它只做一件事：預測下一個詞。它不知道什麼時候該停下來，切換到另一種完全不同的模式，做精確的邏輯推理。 他的推測是：人腦裡確實有大量預測處理，預測處理又跟其他機制耦合在一起。視覺推理是一套，符號運算是一套，需要的時候可以像呼叫子程式一樣呼叫。**GPT-3 展示了單一機制能達到的深度，也暴露了單一機制的天花板。** 天花板在哪裡，他說沒人知道。GPT-3 相對 GPT-2 只是網路更大、語料更多、訓練更久，結果就明顯更好。他沒看到收益遞減的確鑿證據，只是隱約覺得事情不可能這麼簡單，同時承認這個直覺沒什麼依據。 ## 通用性：一次宇宙級的扁平化 Lex 問理論電腦科學裡最美的想法是什麼。阿倫森沒怎麼猶豫：通用性（universality）。 他講了自己小時候學 GW-BASIC 的經歷。剛學會寫程式那陣，他以為這只是起點，接下來必然要學更復雜的語言、更復雜的構造，才能做出真正有意思的東西，比如自己夢想中的任天堂遊戲。那感覺像第一次知道嬰兒從哪來，屬於"怎麼之前沒人告訴我"的震動。 然後他學到了通用性。**幾個簡單規則就夠了，已經足以表達一切。**與、或、非，甚至只要一個與非門，就能表達任意位數的任意布林函式。用與非門可以搭出整個宇宙。BASIC 的那幾條指令，忽略記憶體定址這類細節，表達力已經等同於任何程式語言。證明方式極其簡單：在 BASIC 裡寫一個 C 或 Java 的直譯器就行了。 這套東西可以追到 1930 年代圖靈寫下的那臺機器。指令集被削到只剩讀、寫、左移、右移、停機、改內部狀態。然後圖靈證明它能模擬一切。還有第二層通用性：存在一臺通用圖靈機，只要你把任何其他圖靈機的描述寫在它的紙帶上，它就能模擬那臺機器。 阿倫森說，他當年以為會存在一個無限層級的、越來越強大的程式語言塔。後來發現自己這個想法很蠢。更讓他安慰的是，哥德爾在 1930 年代也有過一樣的猜想，讀了圖靈的論文之後，哥德爾承認自己完全錯了。 這件事的意義是雙向的。一邊是巨大的扁平化，宇宙被壓平了，你不可能發明一種 BASIC 表達不了的語言。另一邊是解放，一旦知道規則就這麼幾條，剩下的全看你如何使用。**你手裡的武器跟世界上最強的程式設計師是同一種。** ## 複雜度問的是需要多少資源 通用性回答了"能不能算"。複雜度理論回答"要花多少"。這是兩個完全不同的問題，後者才是日常生活的全部。 加法是線性的。兩個數長度翻倍，時間翻倍，就這樣。小學豎式乘法是二次的。長度翻倍，時間四倍。後來人們找到了接近線性的乘法演算法，這是複雜度的第一個實戰案例。 因式分解是另一個故事。給你一個很大的數，找它的質因數。除了偶數、末位是零這類明顯情況，如果質因數都很大，你幾乎無從下手，只能在一個天文數字的候選空間裡窮舉。今天最快的公開演算法（數域篩法）耗時大致按位數的立方根做指數增長。那個立方根是全部聰明才智的所在，外面還罩著一層指數。 這個不對稱撐起了整個網際網路的加密體系。它屬於一個信念：因式分解對現有計算機而言本質困難。定理談不上，信念而已。 阿倫森順著講了一個細節。1024 位的金鑰，用幾億美元的計算資源大概就能拆，斯諾登洩露的檔案看起來很像 NSA 在幹這件事。如果真是這樣，反而讓人安心：**說明他們的極限就在那兒，2048 位他們也沒轍。**找不到高效演算法，這是硬牆。 量子計算的所有焦慮都來自這裡，Shor 演算法在這堵牆上開了一個洞。 ## 答案容易檢查，是否也容易找到 P 是所有能用常規計算機在多項式時間內解決的問題。排序、基本算術、收發郵件、玩憤怒的小鳥，全在 P 裡。 NP 經常被誤解成"非多項式"，這個簡稱害了不少人。NP 指那些只要答案是"是"，就存在一個短證據、能在多項式時間內驗證的問題。因式分解的判定版本是標準例子：讓你找出一個數的三個非平凡因子，可能要找幾百萬年；如果你把三個因子擺在我面前，我除一下就知道對不對。 P 顯然包含在 NP 裡，你可以直接無視證據自己算。 整個理論電腦科學的核心謎題就是：P 等於 NP 嗎？答案容易檢查，是否也意味著答案容易找到？ 阿倫森押 P ≠ NP。他的部落格上寫過具體賠率：97% 到 98%。這個數字有講究。如果有人問他一堆同級別的開放問題，每個都猜，他希望 50 個裡對 49 個。這才是 98% 該有的含義。 他把 P ≠ NP 比作一條自然律：如果我們是物理學家，早就宣佈它是自然定律了，順手給自己發個諾貝爾獎。正因為我們是數學家或數學家的後代，才必須管它叫猜想。 高德納（Don Knuth）有個相反的猜想：P 等於 NP，那個演算法效率低到沒法用。阿倫森說他不確定高德納真有理由，還是這個說法好聽。邏輯上完全可能：演算法可能是 n 的一萬次方，或者 n 平方而常數是谷歌。這種情況下 P = NP 會摧毀整個複雜度理論，得從地基重建，實際影響卻接近於零。 如果演算法真的能用，世界會變成什麼樣？ 先破掉所有加密，包括比特幣，想挖多少挖多少。再往深一層，你會得到一個理論上最優的方法來訓練任意神經網路。問題從"能不能找到那個能生成整個維基百科內容的小網路"變成"那個網路存不存在"。存在就能找到。 阿倫森還給了一個漂亮的說法。克雷研究所那七個千禧年大獎難題，P vs NP 是其中最大的一個，因為一旦有了這個快速演算法，另外六個全能解。你只要問計算機：黎曼假設有沒有一個短證明？只要這樣的證明存在，機器就在多項式時間內找到它，用不著暴力搜尋。 ## 動物園裡最該被記住的那個類 2002 年，阿倫森建了一個網站叫 Complexity Zoo，收錄各種複雜度類，現在大概有 500 個。他把它比作化學的元素週期表：這些是理論電腦科學最基本的物件。 往上是 PSPACE：多項式記憶體、可能指數時間，因為記憶體可以反覆複用。國際象棋和圍棋在任意大棋盤上的推廣版本在這裡，數獨那類約束滿足問題也在這裡。PSPACE 被認為嚴格大於 NP。 再往上是 #P（讀作 sharp P），計數問題。給你一個約束滿足問題，問的成了"有多少解"，不再是"有沒有解"。旅行商問題問有沒有路線，計數版本問有多少條路線。它卡在 NP 和 PSPACE 之間。 還有 EXP，指數時間。1960 年代就證明了 EXP 嚴格大於 P，這是我們少數能證明的分離結果。可惜這套技術（跟對角化、跟停機問題有關）在面對跨資源比較時全部失效，幫不上 P vs NP。 BPP 是有界錯誤機率多項式時間，允許演算法犯錯，只要求錯誤機率小。BQP 是量子計算機能高效解決的問題。鏈條是 P ⊆ BPP ⊆ BQP ⊆ PSPACE。量子計算機解決不了停機問題，也做不了任何在可計算性意義上超越的事。BQP 包含於 PSPACE 的證明很漂亮：費曼的影象把量子計算看成枝蔓狀的路徑樹，每條路徑掛一個複數振幅，測量機率等於把所有通向該結果的振幅加起來再取模平方。這個求和落在指數空間裡，你可以複用同一塊記憶體逐項累加，於是歸到 PSPACE。 阿倫森個人最偏愛的類是 BQP/qpoly，量子建議。假設你手裡有一個特殊的初始量子態，製備它可能需要指數時間，也許它是宇宙大爆炸時留下的，一直躺在那裡，你碰巧撿到了。這個態不知道你要輸入什麼，只知道輸入的長度。他開玩笑說自己的郵箱地址就是這個類的奇怪組合，令人驚訝的是居然沒人搶先註冊。 他認為真正被低估的類是 SZK，統計零知識。定義簡單得不像話：給兩個從 n 位字串上取樣的機率分佈，判斷它們接近還是遠離。凡是能歸約到這個形式的問題都在 SZK 裡。 這個類最初從完全不同的方向被發現，零知識證明。Goldwasser 和 Micali 靠這個拿了圖靈獎，今天一些加密貨幣的核心也是它。所謂零知識證明，是向別人證明某事為真，又不洩露任何關於"為什麼為真"的資訊。 阿倫森舉了個例子。要證明兩張圖不同構，你可能得窮舉所有置換，那是個天文數字。假設有個全知的巫師對你說：你隨便挑一張圖，隨機置換，發給我，我告訴你你挑的是哪張。你重複一百次，它每次都對。如果兩張圖同構，它每次只能靠猜，一百次全對的機率是 2 的負一百次方。你被統計地說服了，同時你對"為什麼不同構"一無所知。 SZK 就是所有存在這種不依賴密碼學假設的協議的題目集合。**它反覆出現在阿倫森自己的工作裡，也出現在很多人的工作裡。他覺得這可能是最基礎的複雜度類之一，只是被發現時沒人意識到。** ## 一部電影沒想到的事 2020 年，疫情橫掃全球。Lex 問這場變故怎麼改變了他的世界觀。 阿倫森說，所有人的生活都變了，上一次這個量級的事件得追溯到二戰。真正讓他震驚的是機構的失敗。CDC，那些我們以為可信的機構，還有大量媒體，表現之糟糕讓他目瞪口呆。 他提到 2011 年那部電影《傳染病》。片子幾乎預演了後來發生的一切：病毒從中國起源，擴散到全世界，一切停擺，直到疫苗研發出來，所有人待在家裡。太多細節都對上了。 > 他們唯一沒能想象到的是：電影裡從政府到疾控的每一個人都極度專業、極度敬業、把公共利益放在第一位。陰謀論者只是網際網路上的一些路人，是專業人士要去對抗的物件。製片人缺乏想象力的地方在於，他們沒想到陰謀論者、無能者和瘋子會佔據我們的機構，成為真正在管事的那些人。（斯科特·阿倫森） 他支援加速疫苗，支援人體挑戰試驗（human challenge trials）。志願者先接種，再主動暴露於病毒，用這種非常規手段壓縮時間線。他算過賬：疫苗早一個月，價值以萬億美元計，還有幾十萬條人命。 檢測基礎設施和接觸者追蹤，這些本來可以在疫苗之外獨立推進。兩樣都沒做成。他稱這是美國 240 年歷史裡最大的失敗之一，說這話時沒有加任何修飾。 Lex 插了一句自己的觀察：二戰那種舉國體制，除了打破規則把事情辦成，還有一種團結。如果他是總統，把病毒立為敵人是再簡單不過的事。讓他費解的是，分裂不但沒減少，反而加劇了。 阿倫森說這是令人心碎的。他補了一句：這個國家歷史上第一次出現一個連"假裝想團結國家"都不願意的總統。林肯打了一場內戰，還在說要團結。 ## 選舉、圍剿與沉默的支援 訪談錄於 2020 年 10 月，距離大選不到一個月。Lex 問他對結果的擔心，阿倫森說他願意留下記錄：如果選舉結果被質疑，他極度害怕接下來會發生什麼，會不會有暴力，權力交接還有沒有清晰的路徑。他沒有加"當然也可能是我多慮"的緩衝，只補了一句：如果這些都沒發生，我可能會顯得很蠢，但我還是要把話說出來。 話題順著轉到取消文化。阿倫森說他的反對態度用"強烈"形容是嚴重低估。他說自己不只是動嘴，也做過一些事：在部落格上替不受歡迎的人和不流行的觀點辯護，為公開討論的規範說話，然後被社交媒體罵成種族主義者、性別歧視者。 他講了一段需要完整聽的話。 > 我很樂意在時間允許的情況下說一萬遍：我痛恨種族主義、痛恨性別歧視、痛恨恐同。我不想做的是，把定義這些詞的權力讓渡給某一個政治派別，然後被告知：你還得同意這一堆極具爭議的其他立場，否則你就是厭女者、就是種族主義者。憑什麼？像我這樣的人，對"什麼是種族主義""怎樣才能最有效地對抗種族主義"這些問題，難道就沒有發言權嗎？（斯科特·阿倫森） 他給出了一個更實用的判斷：這場取消文化運動，用它自己宣稱的目標來衡量，對抗種族主義和性別歧視的效果極其糟糕。它把大量本來會站在同一邊的人推到了對面，把可爭取的中間派變成了敵人。手段和目標之間的錯配嚴重到讓人懷疑發起方到底想要什麼。 Lex 提到史蒂文·平克（Steven Pinker）。平克就是那個試圖對困難話題保持思考的人，然後不斷被圍剿。阿倫森說他驚訝於平克居然扛住了，幾個月前那次取消嘗試他挺過來了。他私下認識平克一點，說平克對那些攻擊有一種近乎不可思議的不為所動。阿倫森說他羨慕，也希望自己能那樣，但做不到。他被攻擊時的第一反應是想跟每一個匿名的推特使用者、每一個 Reddit 上罵他的人坐下來聊一小時，讓對方看看自己沒那麼壞。有時候真的有用。問題是還有另外兩萬個。 出路在哪？他說他不知道，某種程度上這問題比 P vs NP 還難。 他給了一個方向：支援開放討論這一側的人其實很多，只是沉默。**沉默的支援必須變得不那麼沉默。**大多數人都覺得這些圍剿荒謬，又不敢說，怕下一個輪到自己。這就是標準的獵巫動態，發起方非常清楚這一點，並且最大化利用了它。他說需要有人站出來講：我們也不接受種族主義，你們現在乾的事卻是荒唐的。難的地方在於這非常耗神，你得字斟句酌，得回應每一條指責，即便你覺得自己安全。站出來的人越多，往前走就越容易。 ## 一套樸素的測試標準 回到圖靈測試這條線，阿倫森的觀點前後一致。他和託諾尼的分歧、他和 Eugene Goostman 的分歧、他對 GPT-3 的評價，用的是同一個方法。 拿到一個新理論或新系統，先別問它在最難的問題上表現如何，先問它在已有答案的問題上表現如何。Eugene Goostman 連"珠峰比鞋盒大嗎"都答不上，它宣稱透過圖靈測試就沒有意義。IIT 說一堵空牆比人更有意識，它談論的東西就不是意識。GPT-3 能寫一首關於指定主題、模仿指定詩人的詩，能寫一篇在任何高中課堂大概能拿 B 減的論文，這些是可以核對的能力，所以它值得認真對待。 這套方法的另一面是，它允許你承認自己被打敗。阿倫森說 GPT-3 寫出的東西在很多情況下比他寫得更好，說這話時沒有保留。他還說，如果幾年前有人告訴他 2020 年會有一個這樣的系統，他會感到驚訝，任何否認這件事的人都是在迴避眼前的東西。 他也拒絕往前多走一步。GPT-3 是不是通往通用人工智慧的一步？他說這可以爭論。它是不是展示了某種類似人類認知的東西？他說這取決於你怎麼理解"預測下一個詞"這件事。人類做的全部如果就是這個，問題就被消解了；人類如果在做別的事，GPT-3 就只是一塊非常亮的拼圖。**他誠實的地方在於，他承認自己不知道答案，沒有假裝知道。** ## 一顆心的傅立葉變換 Lex 最後問了一個對電腦科學家來說有點奇怪的問題：愛在你的生活裡扮演什麼角色？ 阿倫森先答得很平常：我愛我的孩子，愛我的妻子，愛我的父母，我大概跟大多數人沒什麼不同，家人在我生活裡非常重要。然後他加了一句自我定位：我是理論電腦科學家，你要找關於愛之本質的深刻洞見，大概是找錯人了。 訪談結束前他講了一個漫畫。他記得是《XKCD》的一張：畫一顆心，然後對心做平方，做傅立葉變換，做積分，一步步操作，最後配文大意是"我平常那套方法今年不太好使了"。 這個笑話把整場訪談串了起來。阿倫森的所有工具，複雜度類、丘奇-圖靈論題、哥德爾的反駁、phi 值的反例，都是同一件事：把它拆開、形式化、算出結果。這套方法在物理世界和計算世界裡幾乎無往不利。到了意識、到了愛、到了一個人為什麼會被另一群人的憤怒摧毀，工具突然不好使了，他沒有假裝好用。 這也是他反覆強調那件小事的原因。節目開頭 Lex 引了他一句話：如果你總是贏，那你大概做錯了什麼。他解釋過，自己失敗時會很惱火，不管大事小事，那種感覺無價，前提是你能把它導向具體的改進計劃。 在一個由 P vs NP 這種幾十年解不開的謎題構成的學科裡工作，失敗屬於日常。在一個連"哪些系統有意識"都定義不清的領域裡工作，失敗更是常態。他的判斷標準從頭到尾只有一個：這個理論在我們已知的案例上透過了沒有。沒透過就承認它沒透過，別拿"科學就是要挑戰直覺"來做擋箭牌。 這個標準樸素得近乎土氣。它能擋住託諾尼，能擋住 Eugene Goostman，也能讓他在 GPT-3 面前誠實地說：這次是真的，我被打敗了。 訪談裡有幾句話值得單獨拎出來看。第一句是關於"相當難的問題"的定位。阿倫森說他願意接受一個能判斷胎兒第幾周有意識、狗和青蛙誰更有的理論，哪怕它給不出"為什麼會有感受質"的答案。這個讓步很大。多數討論意識的人卡在難問題上，一卡就是幾十年，什麼實際結論都產不出來。阿倫森選擇先要一個能用的東西，哪怕它不完整。這是一種工程師的姿態用在哲學問題上。 第二句是關於觀察者相對性。Lex 提了一個定義：一個東西算不算被模擬出了意識，取決於這個系統裡有沒有一個對觀察者來說的黑箱。阿倫森明確不接受這個方向。理由很硬：**如果意識這個詞還有任何意義，它一定是被那個有意識的實體自己體驗到的。**我不需要你來告訴我我有意識，你也不需要我來告訴你你有。意識如果變成相對於觀察者的東西，它就不再是原來那個詞了。這個反駁其實跟他對 IIT 的反駁是同一個：定義得匹配它原本想指的東西。 第三句是關於自指的限度。彭羅斯那條論證線的根，是想用哥德爾定理證明人心超越形式系統。阿倫森的反駁沒有停留在技術細節上，他把它拉回到一個更樸素的位置：人類加公理時也沒有擔保。這句話的殺傷力在於，它同時否定了人類這邊的特權和機器這邊的劣勢。你沒有辦法證明自己永遠正確，機器也不能，這一點上雙方扯平了。任何試圖用"人類能看出系統一致性"來立論的論證，都得先解釋人類憑什麼能看出。 第四句是關於機率的表達方式。阿倫森說他押 P ≠ NP 的賠率是 97% 到 98%，然後立刻解釋這個數字該怎麼讀：如果你拿一堆同級別的開放問題讓我逐個押注，我希望 50 個裡對 49 個。這個自我校準的習慣很少見。多數人在表達信念強度時隨口報個數字，報完就不管了。他把數字和可檢驗的校準記錄綁在一起，這是一種職業素養。 還有一處細節值得注意。Lex 問他有沒有參與 2014 年那場 Eugene Goostman 的展覽評審，阿倫森糾正說沒有，他只是被記者打電話問了，然後上網試了試。這個糾正很小，但符合他一貫的態度：把事實邊界劃清楚，哪怕這個邊界對自己有利與否無關緊要。 ## 一個電腦科學家能給的最好答案 整場對話裡最讓人印象深刻的，其實是阿倫森說"我不知道"的次數。 意識是不是計算？他說這是令人眩暈的問題，他自己感覺意識不能被還原為計算，但緊接著問：那你憑什麼信我？如果你對我說同樣的話，我又憑什麼信你？ GPT-3 的天花板在哪？他說沒人知道，他隱約覺得不可能這麼簡單，可這個直覺沒什麼依據。 取消文化的出路在哪？他說不知道，某種程度上這問題比 P vs NP 還難。 副本能不能替代本人？他停在"別人憑什麼信你"這個問題上，沒有硬給答案。 這跟人們想象中的頂尖理論電腦科學家形象有出入。他的工作恰恰是把模糊的東西變精確，把直覺變成定理，把"感覺如此"變成"可證明如此"。在複雜度理論裡，"我不知道 P 是否等於 NP"背後有一套精確的語言：我們知道什麼，我們知道怎麼證明什麼，我們知道哪些證明技術在哪一步失效。這種"精確的無知"跟"含糊的無知"完全是兩回事。 阿倫森在意識問題上的"我不知道"也屬於這一類。他能精確說出託諾尼的理論在哪一步出問題，能精確列出彭羅斯疊了幾層假設，能精確指出哥德爾論證的反駁在哪。說"我不知道"之前，他已經把周圍能清理的地形都清理乾淨了。剩下的那塊空白，是真正空白的部分。 這也解釋了為什麼他反覆拿"空牆比人更有意識"當反例。這個反例的威力不在於它荒謬，而在於它精確。它不是一個模糊的直覺抗議，它是一個可以構造、可以算 phi 值、可以擺到檯面上的具體系統。託諾尼只能承認它，或者修改理論。這就是理論電腦科學的做事方式用在哲學問題上的樣子。 ## 可操作的幾件事 - 遇到一個宣稱顛覆常識的新理論，先找它在你已經知道答案的案例上的表現。如果它在"一堵空牆有沒有意識"這類問題上算錯，就不用急著接受它對未知領域的判斷。 - 看到"第一個透過圖靈測試的聊天機器人"這類新聞，先自己上去問幾個常識問題。別問哲學問題，問"珠峰比鞋盒大嗎"就夠了。 - 用 GPT-3 這類工具時，把它當預測引擎，別當推理引擎。讓它寫詩、寫初稿、做改寫，這些是它的主場。算術、括號匹配、空間位置推理，你得自己核，或者乾脆交給別的工具。 - 評估自己的直覺時，區分兩件事：這個理論推翻了我的直覺，和這個理論在我確信的案例上都算錯了。前者值得認真對待，後者是理論有問題。 - 在公開討論裡，別把定義權讓出去。同意"種族主義是壞的"不等於同意某一方對"什麼是種族主義"的全部界定，也不等於同意它列出的一整套附加立場。把這兩件事分開講，是把討論拉回可辯論層面的第一步。 - 如果你也覺得某次圍剿荒謬又不敢說話，至少別裝作它不荒謬。沉默的支援會被當成不存在，發起方很清楚這一點。 - 表達信念強度時給出具體數字，然後回頭檢查自己準不準。報一個賠率比說"我相當確信"有用得多，也更容易被證偽。 - 面對解不開的問題，保留一個清醒的位置：承認工具在某個領域不好使，比硬把它用下去更有價值。真的不知道的時候，把周圍能清理的都清理乾淨，然後說不知道。