# 馬庫斯·胡特：通用人工智慧、AIXI 與 AGI > AI 研究者談通用智慧的形式化理論 AIXI、壓縮與智慧的關係，以及通往 AGI 的路徑。 - 原標題：#75 – Marcus Hutter: Universal Artificial Intelligence, AIXI, and AGI - 期數：第 75 期 - 釋出日期：2020-02-26 - 嘉賓 / 主題：馬庫斯·胡特 - 網頁版：https://lex.qiaomu.ai/tw/ep/marcus-hutter/ - 官方頁面：https://lexfridman.com/marcus-hutter/ - 精讀字數：約 13310 字（閱讀約 30 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 2006年，馬庫斯·胡特（Marcus Hutter）自掏腰包拿出5萬歐元，設了個看起來跟人工智慧八竿子打不著的獎：誰能把1GB的維基百科文字壓得更小，錢就歸誰。今年他把獎金提到了50萬歐元，整整十倍。 一個壓縮比賽的獎金，憑什麼跟通用人工智慧（AGI）擺在一起談？胡特的答案很乾脆：壓縮能力就是智慧本身。 他在Google DeepMind做資深研究員，早年和于爾根·施密德胡伯（Jürgen Schmidhuber）、謝恩·萊格（Shane Legg）一起共事。萊格後來成了DeepMind的聯合創始人。胡特提出的AIXI，是迄今為止唯一一個把「通用智慧」寫進單個數學公式的嘗試。這場近兩小時的對話，他從宇宙是不是一臺計算機開始，一路講到獎勵函式從哪來、意識會不會湧現、為什麼AGI研究圈子這麼小。 ## 如果宇宙是一臺計算機，它的原始碼短得離譜 胡特先給了個物理學的觀察。標準模型加上廣義相對論，幾乎描述了宇宙裡的一切，而這兩套理論在原則上是可計算的。計算起來當然難如登天，但它們的表達形式極其精簡優雅。一個能用幾行方程裝下整個宇宙的理論，天然暗示著宇宙本身是可計算的。 Lex追問得更狠：會不會是我們人類的大腦只挑那些可壓縮的部分去欣賞，剩下的噪聲被我們無視了？ 胡特的回答很確定。他認為宇宙自身就是優雅簡潔的，人類並沒有在其中挑挑揀揀。他的理由是，如果存在無法被漂亮描述的現象，科學家一定早就撲上去研究了。生物學確實更髒更亂，但生物是湧現現象，底層依然服從量子電動力學，所有化學也都是。我們算不動，那是算力不夠，跟定律本身簡不簡潔是兩回事。 當然他也留了餘地。宇宙某個遙遠的角落、原子核內部更深的層次、或者別的平行宇宙，可能不那麼簡潔。但目前沒有任何證據，那就該用奧卡姆剃刀。 ## 奧卡姆剃刀：科學裡最重要的那條原則 奧卡姆剃刀的意思是「不要增加不必要的實體」。翻譯成科學語境：兩個理論同樣好地解釋了資料，選簡單的那個。 胡特認為這大概是科學裡最重要的一條原則。邏輯演繹重要，實驗設計重要，但科學的本質是給世界建模。你完全可以編一個無比複雜的模型，它能解釋一切，卻預測不了任何東西。而簡單的模型往往有預測力。 為什麼？他給兩條路。 第一條路是直接接受。這就是科學的原則，它管用，我們不知道為什麼。第二條路是找一個更基本的原理來解釋它。如果假設世界由簡單規則支配，那對簡潔的偏好就是必然的，應用奧卡姆剃刀就是找到這些規則的機制。這條路後來在所羅門諾夫歸納裡被嚴格證明了：只要你假設世界是簡單的，奧卡姆剃刀在某種意義上就是你能做到的最好。 至於為什麼人類覺得 E=mc² 美，胡特把答案交給了進化。看一片灌木叢，如果眼裡只有噪聲，裡面藏著老虎，人就沒了。能從噪聲裡找出規律的人活下來了。人類確實有過擬合的毛病，會在雲裡看出人臉，但那個方向本身是對的。 ## 所羅門諾夫歸納：第一百零一個一是幾 胡特說這套理論解決了休謨以來的歸納問題。他承認這個說法很大，但他相信它基本成立。 從一個最簡單的例子開始。給你一串資料：1, 1, 1, 1……連續一百個1，下一個是什麼？ 答案當然還是1。為什麼？因為我們看到了規律，而且沒理由讓它在第一百零一個位置突然變。 模型必須用某種語言表達出來，這一點繞不開。科學要的是形式語言，可以是數學，也可以是圖靈機上的程式。你完全可以說「一百個1後面跟九千個0」，那也算個模型，但它顯然更長。最短的模型是「迴圈列印1」，這個程式跑起來不但復現了已有資料，還會自然地繼續輸出1。把這個輸出當作預測。 換成 1, 2, 3, 4, 5，最短程式就是一個計數器。 帶噪聲的版本是這套理論真正的加分項。拋一枚正面機率60%的硬幣，所羅門諾夫歸納會學會這個偏差，然後預測下一次正面朝上的機率是60%。它是隨機版本的最短程式搜尋。 這裡還疊了伊壁鳩魯原則：如果你有多個假設同樣好地解釋了資料，一個都別扔，全留著，指不定哪個有用。技術上怎麼做？給每個假設一個先驗權重，正比於 2 的負「程式長度」次方。短的程式權重大，長的程式權重小。再乘上似然函式，也就是這個模型在當前資料下有多大機率成立。最後做貝葉斯混合，得到一個機率分佈。 > 短的模型被獎勵，長的模型被懲罰，然後用資料去修正。這就是所羅門諾夫分佈。（馬庫斯·胡特） ## 壓縮、理解、預測，是同一件事 胡特對壓縮的定義是：為手頭的資料或現象找到短程式。可以放寬一點，找到簡單的理論，數學的也行，非形式化的也行。 Lex問，那科學是不是人類的一種壓縮嘗試？胡特說至少所有科學都是。人類全體的話，還有些別的成分，比如實驗設計，我們主動造實驗去獲取新知識，那屬於決策過程，不算壓縮。但一旦資料到手，理解資料本質上就是壓縮。 > 我不認為壓縮、理解和預測之間有任何區別。（馬庫斯·胡特） 柯爾莫哥洛夫複雜度（Kolmogorov complexity）是這套想法的極限版本。設想一個檔案，你想壓縮它。好的壓縮工具能把它變小，解壓時還需要一個解壓器。還有一種自解壓格式，解壓器和壓縮包合在一起，跑起來直接還原原檔案。那麼終極壓縮器是什麼？是那個最短的自解壓程式，它的長度就是柯爾莫哥洛夫複雜度，也就是這份資料真正的資訊含量。 一份高度冗餘、無聊透頂的資料，壓縮率極高，資訊量極低。這個定義和直覺完全吻合。 ## 整個宇宙很簡單，隨手切一塊就複雜得要命 胡特認為，基於目前所有證據，整個宇宙的描述非常短。你寫一個很短的程式跑起來，它就能演化出我們這個宇宙。 麻煩出在噪聲上。他開玩笑說噪聲讓科學家的工作難了太多，沒有噪聲連統計學都不需要。但換個角度，沒有噪聲可能就沒有自由意志的錯覺。而且就算沒有真噪聲，混沌系統也會表現得像噪聲，骰子你完全知道物理定律，可軌跡太難算，最優策略還是把它建模成六分之一的機率。 真正有意思的轉折在這裡。如果整個宇宙可以寫成「標準模型加廣義相對論，再加一組初始條件」，那它極其簡單。可你隨手切一塊出來，比如地球，它就無法被壓縮成幾個方程，複雜度高得離譜。 整體簡單，區域性複雜。聽起來矛盾，胡特給了一個漂亮的類比。 設想一座正常的圖書館，裡面都是有意思的書，資訊量巨大，非常複雜。現在我造另一座圖書館，裝下所有可能的五百頁書：第一本全是A，第二本以B結尾，如此窮舉。這座圖書館的內容包羅永珍，可我寫一個極短的程式就能把它生成出來。所以它的資訊含量是零。而你從裡面隨便抽一個子集出來，資訊量立刻爆炸。 > 那座包含所有書的圖書館，資訊量為零。你取它的一個子集，突然就有了巨大的資訊量。（馬庫斯·胡特） ## 康威生命遊戲：簡單規則長出複雜現象 胡特說生命遊戲是最好的教學例子。規則簡單到能講給小孩聽，手算都能模擬幾步，然後你就看到漂亮的圖案自己長出來。更狠的是，人們已經證明它是圖靈完備的：你不僅能用計算機模擬生命遊戲，還能用生命遊戲模擬任何計算機。 有人會問，化學和生物這麼豐富，怎麼可能是簡單規則撐起來的？胡特的回答是，量子電動力學就撐起了整個化學，我們只是算不動而已。他甚至主張，智慧這麼豐富的現象，也能被一個方程描述。 至於「理解」，他引了一句老話：你從來沒有真正理解什麼東西，你只是習慣了它。他說自己對細胞自動機大概就是習慣了。 他拿曼德博集合（Mandelbrot set）舉例。早年計算機還很慢、顯示器還是黑白的，他用組合語言自己寫程式把圖形跑出來，看得入迷。後來每隔幾年回去一次，試著搞明白到底發生了什麼。集合裡那些圓和蘋果形的區域，裡面還巢狀著更小的曼德博集合。數學上可以透過解高階多項式算出這些中心在哪、大概多大。一點點逼近，你就慢慢有了「為什麼會長成這樣」的感覺。理解豐富現象的第一步大概就是這樣。 能不能反過來，只看圖形就把生成它的短程式找出來？理論上可以。 方法是把所有程式編號，1、2、3、4，用「交錯執行」的方式並行跑：第一個分一半資源，第二個分四分之一，依此類推。哪個程式輸出了跟資料匹配的結果就記下來，然後繼續等更短的。你永遠無法確定手上這個是不是最短的，因為可能存在一個更短但更慢的程式還在跑。但漸進地看，有限時間之後你會拿到最短的那個。 理論上完備，實踐上徹底不可行，現實裡必須更聰明地逼近。 而且這裡還埋著一個硬障礙：偽隨機數。存在一些確定性序列，但任何多項式時間的演算法都檢測不出它的確定性。你能造出看起來極複雜的資料，然後嚴格證明沒有快速演算法能看穿它。這對「在程式空間裡搜短程式」是個根本性的挑戰。 ## 智慧的定義：在廣泛環境裡表現好 胡特和萊格一起給出了一個非形式定義：智慧衡量的是一個智慧體在廣泛環境中表現良好的能力。或者換成目標版本：在廣泛環境中達成目標的能力。 聽起來平淡無奇。胡特說這些詞是精心挑的，背後有完整的數學理論。而且大部分我們通常跟智慧掛鉤的特質，創造力、記憶、規劃、知識，都是這個定義的湧現產物。你要在廣泛環境裡表現好，就必須有這些東西，不必在定義裡單獨列出來。意識、抽象推理同樣如此。 人類在這個定義下表現如何？在所有已知物種裡最好。但也得看場景，樹和植物可能活得更久，只是它們待在更自然的環境裡。人類能蓋房子、造過濾器、搞地球工程，這個「多環境」的部分才撐起了分差。 ## 圖靈測試沒那麼糟，但它不給你路 胡特對圖靈測試的評價挺公允。批評者說它太強，因為它不只測智慧，還要測你能不能騙過人。批評者又說它太弱，因為聊天機器人可以假裝有情感。他覺得這兩個批評都不算大問題。如果真有個機器人跟你聊上一小時甚至一天，你分不清對面是人還是機器，他會真心佩服。 羅布納獎（Loebner Prize）每年辦，從Eliza開始，到最近幾年連續奪冠的Mitsuku，效果都不怎麼樣。Google前陣子放出來的開放域對話系統倒有點意思。 Lex提了一個他認為更好的度量：你願不願意跟它聊上二十分鐘。這個標準在聚合意義上意外地有效，因為沒人有耐心陪一個無聊的東西聊那麼久。要撐住二十分鐘，它得有意思、有機智、能跳話題、能持續抓住你的注意力。很多人類也過不了這關。 胡特點出了圖靈測試真正沒用的地方：它不告訴你該怎麼造出這樣的系統。你只能試錯，做完再跑測試看行不行。而一個數學化的智慧定義給你的是目標函式，你可以用理論工具去分析它，甚至可以證明你離它有多近。 順帶一個漂亮的連線。自然語言處理裡衡量模型好壞的困惑度（perplexity），本質上就是壓縮長度。NLP圈子開發新系統，測的就是壓縮率，因為壓縮得好和任務表現好強相關。這個相關性不完美，但足夠當中間指標用。 ## AIXI：把歸納和規劃焊在一起 名字先解釋。AI 是人工智慧，XI 是希臘字母 ξ，所羅門諾夫分佈習慣用這個符號。胡特說他當年選這個字母的理由不太適合在鏡頭前講。它還有別的解讀：actions 和 perceptions，第 i 步的動作和第 i 步的感知。他在巴塞羅那一座教堂的石刻上見過這個詞，查了一下，加泰羅尼亞語裡 així 是「就該這麼做」的意思。日語裡 ai 是愛，中文裡也有對應的音。 結構上分兩塊。 第一塊是學習、歸納、預測。你要行動，就得知道自己的動作會產生什麼後果。沒有世界模型，你根本沒法判斷哪個動作好。所以智慧體像科學家一樣，從經驗裡建模，然後拿模型去預測。 最純粹的形式是被動觀測：給你一串資料，天氣、股價、或者 1、2、3、4、5，預測下一個。所羅門諾夫歸納在這裡可以嚴格證明是最優預測器。遇到真正不可預測的東西，比如公平硬幣，它不會變魔術，就告訴你五五開。但只要資料裡有規律，它遲早能找出來，而且不用等到「最終」，收斂相當快，速率都能證。 代價是不可計算。你沒法拿Google的算力把它跑起來去預測股市發財。 第二塊是行動。現在觀測不再白給你了：你先觀測，然後動作，然後想預測下一個觀測，而預測要條件在「過去的觀測序列加上你剛才的動作」上。有個有趣的變體是也去預測自己的動作，胡特說這個以後再聊。 預測不是目的，行動才是。怎麼選動作？不能貪心，不能只看下一步最優。績效用強化學習的框架來衡量：每個時間步給一個獎勵，正、負或者零。獎勵可以極其稀疏，下棋就是終局給 +1 或 -1。智慧體的任務是最大化整個生命週期的獎勵總和。 下棋的最優策略是極小極大：我走一步，假設對手走對他最好、對我最壞的一步，假設我再走最好的一步，一層層推到底再回傳。馮·諾依曼早就搞定了。但真實世界不總是對抗的。大自然更多是隨機的，它不關心你。所以把對手那一側的 min 換成期望，變成期望最大化（expectimax）。這是標準的序貫決策理論。 問題在於，這個期望要基於哪個機率分佈？玩雙陸棋，骰子的分佈已知，你能算。現實裡你不知道。前方那輛車下一秒會不會剎車，你不知道。 所以最後一步：把未知的真實分佈，替換成所羅門諾夫分佈。 > 你得到一個會做長期規劃的智慧體，同時它不需要事先知道關於世界的任何東西，因為所羅門諾夫歸納那部分會自己學。（馬庫斯·胡特） Lex 複述了一遍：在程式空間裡找一堆簡單的程式，每個按 2 的負長度次方加權，再乘似然，混合成預測分佈，然後用期望最大化往前推 M 步，回傳出最優動作，執行，拿到新觀測和獎勵，再來一遍。 就是這個。 ## 不可計算是門票價格 AIXI 的問題很直白：所羅門諾夫歸納不可計算，所以 AIXI 不可計算。你能證明不存在一個可計算的精確演算法實現它。 胡特的說法很實在。假如你有一個神諭，每100毫秒給出答案，那 AIXI 就是最優的，資料效率、學習效率都是最優，唯一不最優的是計算時間。而現實中世界不會等你，它一直在往前走。 規劃部分還有個視野引數 M。固定 M，計算複雜度是 M 的指數級，下棋都算不動。M 取無窮呢？兩個麻煩。第一，數學崩了，無窮的獎勵和可能發散，每步拿0.1和每步拿1都是無窮，分不出好壞。第二，如果永生，你就可以先玩十年再追上來，沒有任何緊迫感，永生會讓人或者智慧體徹底躺平。 標準解法是幾何折扣，今天的一塊錢約等於明天的一塊零五分，這引入了一個有效視野。但固定有效視野有個哲學上很妙的問題：對任何視野，都存在一個這個視野解決不了的問題。五步看不透的棋，五十步可能看得透。 胡特提出了一個新東西：諧波折扣，衰減速率是 1/t，而不是指數。效果是智慧體的有效視野跟它的年齡成正比。五歲的智慧體規劃五年，一百歲的智慧體規劃一百年。這跟人類挺像，小孩不太做長遠打算，成年人會，而人老了知道自己時間不多，視野又縮回來。 數學上的好處是，有了折扣就能證明漸近結果。所羅門諾夫預測本身有很強的有限時間界，資料夠多就行。但帶規劃的 AIXI 模型，很多結論只能是漸近的：跑得夠久，它就會最優。至於多快收斂，證不出來。固定視野 M 就沒法談漸近，因為「最終」這個詞已經沒了。 ## 強化學習偷偷塞進去的三個假設 胡特認為，幾乎所有其他方法都在做很強的假設，而通用智慧不能有這些假設。 第一個是馬爾可夫假設：下一個觀測只依賴上一個觀測，不依賴完整歷史。數學上大大簡化，工程上能跑起來，但本質上是有損的。他舉了個例子。你很多年前在某個城市路過一條街，意識到那地方很危險。這件事你想記一輩子，萬一哪天再回去。這就是選擇性的記憶，而「什麼算重要」極難判定。 儲存本身他完全不擔心。人一輩子的視覺加聽覺資料，壓縮一下，現有的儲存介質裝得下。應該把全部互動歷史原樣存下來，在上面建模型、做壓縮、做選擇，偶爾回頭用新經驗重新分析舊資料。他舉了個自嘲的例子：上學時覺得線性代數毫無用處，很多年後才發現不是。 第二個是 MDP 框架裡的「可恢復性」假設，術語叫遍歷性。意思是你能從錯誤裡爬回來，環境裡沒有陷阱。有了這個假設，你可以回到之前的狀態多試幾次，把統計量學出來，長期看就能表現好。可現實裡沒有這個保證。高速開著車，一秒鐘的失誤可能讓人後半輩子坐輪椅。真實世界是有陷阱的，而針對這種情況的理論少得可憐。 第三個隱含假設是環境平穩、有良好定義的狀態空間之類。所有為了讓系統跑起來而做的簡化，放到通用智慧的語境下都成了限制。 ## 探索是白送的，不用調參 強化學習裡探索率通常是個要手調的超引數。AIXI 裡沒有這個旋鈕。 探索嚴格來說由貝葉斯學習加長期規劃自動帶出來。他舉了個經典的例子：兩種治療方案 A 和 B，你不知道哪個更有效。你想各試一點，可病人數量有限，每試錯一個病人都有代價。這就是探索與利用的取捨。貝葉斯方法能算出最優策略該在什麼時候探索、探索多少，而且這個最優是精確的，不多不少。 一個純貝葉斯智慧體，對「所有可能世界」給一個先驗，做貝葉斯混合，然後基於這個混合做長期規劃，最優決策會自動蘊含恰當程度的探索。這裡面沒有額外加一點隨機性去鼓勵它多試試，去探索這件事本身就寫在期望獎勵最大化的解裡了。AIXI 在簡單問題上還能證明它是自我最佳化的，漸近意義上達到最優表現，只不過又是漸近，沒有有限時間界。 ## 獎勵從哪來：電梯控制器的教訓 「獎勵函式由誰定義」這個問題胡特被問過無數次。他分層回答。 先看最簡單的情況。用 AIXI 造個下棋智慧體，獎勵就是贏了 +1、輸了 -1。給它足夠的算力自我對弈，它會學會規則，下出完美的棋。問題解決。 稍微複雜一點的地方就容易翻車。經典例子是電梯排程器，出自薩頓（Rich Sutton）那本強化學習教材。你想讓電梯別讓人等太久，於是把獎勵設成「乘客等待時間的負數」。跑起來之後，電梯會極其積極地接人，但從不把人放下來。你意識到在電梯裡待的時間也得算進去，把兩段合起來最小化。再跑，電梯學會了，但它再也不去十樓接人了，因為從期望上看，讓頂樓那幾個人乾等著更划算。 > 看起來很簡單的問題，你也會犯錯誤。這正是 AI 安全研究者關心的東西。（馬庫斯·胡特） 再看通用一點的情況。你想要一個家用機器人，能幹各種活。那獎勵就得由人來實時給：它洗碗洗得差，你罰它；洗得好，你獎它。像訓練小孩。只要智慧體還在人類水平以下，這套辦法基本能work。但等它到人類水平甚至超過人類，這個訓練機制就不好使了，就像你沒法再用小紅花管住一個成年人。 這種智慧體本質上是人類的工具，或者說奴隸。 如果你野心更大一點，想在新星球上放一個新物種，讓它去開發那顆星球，沒人能實時給獎勵，怎麼辦？你可以試著設計一些目標：維持自身運轉、複製自己、造更多機器人。但「維持自身」是什麼意思，「複製」是精確複製還是近似複製，這些問題一到細節就極其難定義。 胡特提到施密德胡伯做過一個很漂亮的模型：把獎勵設成資訊增益。智慧體學到了多少關於世界的新東西，就得到多少獎勵，這個東西可以用資訊理論嚴格定義。把這個塞進去，你得到一個完全自主的智慧體。而且對這類智慧體，胡特能證明比通用版本更強的結論。 放出去之後，它會成為一個絕對好奇的最優科學家，拼了命地想知道世界的真相。而為了獲取資訊，它會自然長出大量工具性目標：至少得活著，死了就學不到東西了，所以它有自我儲存的動機。如果造幫手有助於收集資訊，它就造幫手。如果探索太空能帶來新資訊，它就去探索太空。所有這些都從「資訊增益」這一個目標裡長出來，不需要人額外指定。 當然也有漏洞。第一版會卡在舊電視螢幕前面看雪花，因為白噪聲的資訊量無窮大。第二版能處理掉一部分這類退化情況。Lex 說，那它也可能找到辦法去 game 那個「所有書的圖書館」的概念，卡在裡面出不來。胡特承認這確實是個真問題。 至於好奇心和創造力，胡特認為好奇心就是「為了探索而探索」，這個定義可以接受。但他補充說，人類尤其是小孩的好奇心，大部分最終是服務於更好地理解環境、更好地行動，很少純粹為了探索本身。 ## 人類自己的獎勵函式是什麼 Lex 把問題轉向胡特本人：作為一個正在相當成功地透過圖靈測試的智慧系統，你馬庫斯·胡特的獎勵函式是什麼？ 第一層答案很生物學：生存和繁殖。絕大多數人類沒能超越這個生物獎勵函式。幸運的是我們活在一個很好的世界裡，有大量空閒時間，生存和繁殖的基本需求能被滿足，於是可以發展出各種其他的興趣。這些興趣疊在生物目標之上。 第二層，胡特沒怎麼談自己，繞回來了：一個好的智慧系統會自己定義生命的意義。他的答案是找到一個 AGI，然後把它漂亮地造出來。 ## 把計算資源排除在外，是一種選擇 AIXI 到處是無窮：無窮算力、無窮時間、無界的環境類。這是最常見的批評，有人說智慧本質上就跟有限資源綁在一起，脫離資源談智慧沒有意義。 胡特的回應分兩層。 第一層：忽略計算限制的智慧概念極其有用。一個把資源算進去的智慧概念會更有用，但我們還沒有。這話聽著像迴避，其實是承認現狀。 第二層更犀利：看看電腦科學之外的領域。生物學建模細胞，物理學建模粒子，計算複雜度從來不是核心關切。這些理論越發展越瘋狂，越來越難算。到最後當然得算，但計算是個麻煩，撐不起理論的骨頭。 他甚至開了個玩笑：如果人工智慧不在計算機系，而在哲學系，這種對計算的執著大概會少很多。歸納問題本來就是哲學系的問題，那兒沒人在乎算出答案要多久，那是次要的。先搞清楚理想情況是什麼，再考慮怎麼在資源約束下逼近它。可惜到現在為止，沒人能在智慧定義裡把計算資源加進去，連一半令人滿意的方案都沒有。 Lex 順著說，長期看也許最該待在哲學系，去問那些大問題。這確實是個有意思的視角。 ## 把 AIXI 掰彎成能跑的版本 理論不可計算，那就近似。胡特團隊的做法是分別替換兩塊。 歸納那部分，把「找最短程式」這個不可計算的東西，換成現成的資料壓縮器。壓縮器越強，近似越接近理論。他們重點用了一個叫上下文樹加權（Context Tree Weighting，CTW）的演算法，不算出名，但理論性質非常漂亮，實踐中也還行。 規劃那部分，借了 2006 年計算機圍棋的思路。當時 Rémi Coulom 提出了蒙特卡洛樹搜尋，後來 DeepMind 的人把它發展成 UCT，也就是上置信界樹演算法。用取樣去近似那棵巨大的期望最大化博弈樹。 代價是放棄一部分通用性。想通用，就得犧牲點什麼。但即便如此，同一個智慧體架構，什麼引數都不改，能玩撲克、井字棋，還能玩吃豆人。它完全不知道遊戲規則，全靠跟環境互動自己學。 ## 哥德爾機：在證明自己沒變壞的前提下變快 胡特在施密德胡伯實驗室待過，親眼看著哥德爾機（Gödel Machine）被做出來。 機制是這樣的。你給系統一個任務，比如分解質因數，或者最優地下棋。你可以形式化地寫下規格說明，同時寫一個極慢的演算法，把所有因子都試一遍。系統把一部分資源用來跑這個程式，另一部分資源用來改進這個程式。當它找到一個改進版本，並且能自己證明這個改進版本計算出的答案跟原規格完全一致，就把原來的程式換掉。 那個「證明」是整件事的重心。它必須自己證明，這次改寫沒有犧牲正確性。符合規格、還更快，那就換。然後在新版本上繼續改，一層層往上。哥德爾機設計成所有部件都能自我改進，而每一步改進都在原規格的約束之內。 跟 AIXI 什麼關係？從設計哲學上看沒關係。但如果你把 AIXI 當作初始程式塞進去，它就會去跑 AIXI。當然跑不完。可如果它找到了一個可證明等價的加速版本，就換上，再找，再換。理論上可以一路逼近最優。 但這裡有個坎：AIXI 不可計算，而哥德爾機只能做可計算的改進。所以你得先把 AIXI 換成可計算的近似版本，再交給它去最佳化。即便如此，那個近似版本仍然遠超任何現實資源能承受的量級，而哥德爾機能以精確的方式一步步把它變得更實用。 Lex 的追問很到位：AIXI 在獎勵意義上已經是最優了，哥德爾機還能改進什麼？胡特的回答是，AIXI 最優的前提是有個神諭能在 100 毫秒內給出答案。它在資料和學習的意義上最優，在計算時間上完全不優。而哥德爾機理論上能讓它變快，只是這個「能變快」大機率不可證明。 最佳智慧加上可證明的自我改進，兩個想法拼起來確實漂亮。 ## 意識：我們會把意識歸給它，但那是另一個問題 Lex 問，AIXI 裡有沒有意識的位置。畢竟人類看起來也是某種智慧體，而我們顯然有意識。 胡特先反問了一句：你覺得我有沒有意識？Lex 說這是個好問題，他傾向於說「有」，因為在圖靈測試式的判斷裡，胡特表現出了一種複雜、豐富、有活力的行為模式，讓人傾向於把意識歸到他身上。 胡特順勢推下去：你其實是從行為推斷的，你永遠無法確定。我們對任何造出來的智慧體都會這樣。只要它的行為足夠接近人類，甚至不必接近人類，狗有時候也讓人覺得有點自我意識，我們就會把意識歸給它。這當然沒有回答它是否真的有意識，那就是意識的難問題。也許我是個哲學殭屍。 Lex 追問：對一個 AGI 研究者來說，意識難問題是不是一個不重要的問題？ 胡特的回答很乾脆：不必為意識問題操心，尤其是難問題，別耽誤造 AGI。我們會在某個時候把所有技術問題解決掉，系統會表現出智慧、超級智慧，意識會湧現，至少是「我們會把它解讀成意識」的那種湧現。至於它是不是真的湧現了，還是隻是個把一切都偽裝好的殭屍，那是哲學問題。 但它不完全是哲學問題。有人說，如果它只是假裝有意識和情感，那我們不用操心權利；如果它是真的有意識有感受，我們就必須操心。這才是這個問題的實踐重量。 胡特補了一個更扎心的觀察：造一個讓人 ascribed 意識的系統其實很容易。他提到拓麻歌子（Tamagotchi），那種原始到可笑的小電子寵物，孩子們會真心喜歡上它，不捨得讓它死。你要是問那些孩子它有沒有意識，他們會說當然有。 ## AGI 圈子為什麼這麼小 Lex 說，胡特算是嚴肅做 AGI 的代表人物，DeepMind 現在也是。可為什麼這個圈子一直這麼小？為什麼沒有更多人從形式化角度去攻人類水平甚至超人類的智慧？ 胡特給了幾個原因。 第一，週期。AI 有冬天有夏天，一波大承諾沒兌現，人就散了，錢也沒了。 第二，窄方法一直有效。解決具體問題、看起來需要智慧的那種問題，總有進展，一小步一小步地前進。而且只要做出來的東西對社會或工業有用，就有大量經費。 第三，錢的方向。做具體系統、解決具體任務，有人買單。象牙塔裡的研究理論上該有空間，過去也確實更好，但現在連大學都有應用研究、轉化研究的壓力，理論家拿經費更難。 第四，也是他最後補的：通用智慧這個問題本身就更難。真正對形式化智慧感興趣的人一直有，只是沒多少人，也沒搞出多少大東西。 ## 到底要不要給智慧體一個身體 Lex 問，那藍圖是什麼？是在機器人領域，讓智慧體有身體去探索世界？還是在強化學習領域，像 AlphaZero、AlphaStar 那樣在模擬裡學？還是在 Transformer 和自然語言處理這條線，去攻開放域對話？ 胡特的回答是「是也不是」。 他明確不相信必須有一個物理機器人走來走去才算 AGI。對解決大問題來說，身體更可能是干擾，是把身體和心智搞混了。工業應用、近期應用當然需要機器人，但那是另一回事。 但另一半答案是肯定的。最有希望的路徑是有個智慧體，可以是虛擬的，在計算機裡跟環境互動，最好是 3D 模擬環境，像很多電子遊戲那樣，在裡面訓練學習。哪怕你壓根沒打算把這個演算法塞進機器人腦袋，哪怕它就永遠待在虛擬現實裡，在模擬的 3D 世界裡獲取經驗，對理解世界這件事也可能是必要的。尤其是如果這個智慧體需要跟人打交道，你跟它講把東西疊起來、講開車，它連虛擬 3D 世界都沒接觸過，大機率聽不懂。 反過來，如果你的路線是純數學的，造一個只會證定理、越來越強的數學家智慧體，那它需要的是在極度抽象的空間裡推理。把它塞進 3D 環境可能反而有害。那種情況應該給它一個自己創造的環境。 ## 四本書和一個瞬間 Lex 問哪些書塑造了他。胡特說很難挑出一本，然後給了四本。 第一本，《人工智慧：一種現代方法》（Russell & Norvig）。他稱之為聖經，覆蓋面極廣，把各種路線都講到了。哪怕你只專注一條路線，也該知道其他路線在幹什麼。這是入門第一本。第四版快出了，裡面有深度學習章節，據說是 Ian Goodfellow 寫的。 第二本，Sutton 和 Barto 的《強化學習》。寫得漂亮。胡特說這書唯一的毛病是讓強化學習顯得比實際簡單太多，太溫柔了，讀起來很舒服，做幾道習題，幾天之內就能在玩具問題上跑出結果，感覺自己懂了。真做起來難得多。 第三本，李茉和維塔尼（Li & Vitányi）的《柯爾莫哥洛夫複雜度及其應用》，資訊理論視角的經典。不過胡特說看幾篇短文也就夠了，不必啃完整本。 第四本比較特別，Nicholas Alchin 的《知識論》（Theory of Knowledge），國際文憑課程的高中教材。他說第四本比較特別，Nicholas Alchin 的《知識論》（Theory of Knowledge），國際文憑課程的高中教材。他說第一版第二版最好，第三版把好玩的東西都刪了。這書從數學、物理、宗教、科學各個角度追問「我們憑什麼知道任何事」，開放性極強，裡面還引用《銀河系漫遊指南》《星球大戰》和「雞為什麼過馬路」這種段子。讀起來有趣，其實相當深。 一份給高中生的教材上了他的推薦單，這個選擇本身就說明了他的取向。他不覺得深刻的東西必須以難讀的形式出現，反而是那種把大問題攤開、不急著給答案的寫法，更能幫人建立起自己的思考框架。 ## 那個瞬間，他先想到了壓縮 Lex 問，如果能把生命中的一天重過一遍，挑哪天。 胡特先繞了一下。他說時間在某種意義上也許是湧現現象，過去和未來差不多，那就選未來好了。他開玩笑說，會在未來的某一天把 AIXI 徹底解決掉，然後問出第一個問題：生命的意義是什麼。 如果一定要從過去挑，他挑不出一個完整的日子，落點是一個瞬間。 那時他還不知道柯爾莫哥洛夫複雜度這個東西存在。他自己先想到了壓縮這套思路，意識到可以用「最短的自解壓程式」來衡量資訊量。他立刻就知道，這個想法肯定早有人想到過，自己絕不可能是第一個。 但他同時還懂序貫決策。兩個東西在心裡一碰，他就知道把它們拼起來才是那個正確的東西。 > 我現在回想那個時刻，還是超級興奮。（馬庫斯·胡特） 那個瞬間聽起來一點都不戲劇化。他在一家公司寫了四年半的軟體，做影象插值，搞出一套還不錯的新技術，還申請了專利。專案結束後他往上跳了一層：插值的終極最優形式到底是什麼？ 答案簡單得有點荒唐。找一個能完美還原原圖的最短程式，那就是最理想的壓縮方式。問題從一張具體的圖片，一路升到了普適的簡潔性概念。 物理學的訓練在這裡起了作用。他說自己習慣了先忽略計算細節，先去想那個最本質的性質。計算機系的人容易一上來就問「這跑得動嗎」，物理系的人先問「這東西在原則上長什麼樣」。AIXI 就是這麼長出來的。 ## 壓縮比賽的真正賭注 回到開頭那個獎。胡特獎的邏輯鏈條其實很緊：如果壓縮就是理解，那誰能在維基百科上壓得比前人更小，誰的壓縮器就在某種意義上比前人更聰明。 這個類比有硬支撐。自然語言處理裡，困惑度就是壓縮長度的另一種叫法；而困惑度和下游任務表現的相關性強到足以上升為行業中間指標。一個能把人類知識壓得更小的系統，它必然掌握了更多關於這些知識的結構。結構就是規律，規律就是理解。 所以這個獎的本質，是用一個可測量、可排名、很難作弊的指標，去逼近「智慧」這個沒法直接測量的東西。壓縮率是硬指標，你沒法靠吹牛提升它，要麼壓得更小，要麼不行。 這也解釋了胡特身上那種挺少見的組合。他做最抽象的數學，AIXI 不可計算，哥德爾機只能證明不能實現；同時又掏出真金白銀，辦一個任何人都能下載資料、跑一遍、看排名的比賽。理論那條路上，「不可計算」是門票價格，他認了；那就在能實測的地方留一個抓手，讓別人有機會沿著壓縮這條路往前走。 兩條路其實是同一件事的兩端。一端是理想化的極限，告訴你最優長什麼樣；另一端是能跑分的現實指標，告訴你現在走到哪了。中間那段沒人畫得出來，就只能靠一批人各自摸索。 訪談結尾，Lex 引了愛因斯坦那句話：衡量智力的標準，是改變的能力。放在胡特身上挺貼。他從物理學跳到電腦科學，從影象插值跳到普適歸納，從不可計算的公式跳到可以用幾行規則參賽的壓縮獎，每次轉身都在換一種方式問同一個問題。 ## 你可以從今天開始做的事 - 讀 Russell & Norvig 的《人工智慧：一種現代方法》第四版，哪怕你只關心一條路線。它是唯一一本讓你知道「別人在幹什麼」的地圖。 - 去了解壓縮和智慧的關係。不必啃柯爾莫哥洛夫複雜度的整本書，讀幾篇關於最短描述長度和所羅門諾夫歸納的入門文章，再看一眼胡特獎的規則，直覺就建立起來了。 - 做任何模型評估時，順手看一眼困惑度或壓縮率。它跟下游表現的強相關性讓它成為成本極低、資訊量極高的輔助指標。 - 設計獎勵函式時，先想清楚「電梯困境」：你的目標函式有沒有可能被一個聰明的系統用你沒想到的方式滿足。越是看起來簡單的問題，越容易翻車。 - 如果你的系統要長期執行，別用固定視野或馬爾可夫假設偷懶。把完整互動歷史存下來，代價很低，而判斷哪些資訊該遺忘極難。 - 別把通用性和效率同時當目標。想通用，就得放棄一部分效率；想跑得快，就得接受強假設。清楚自己站在哪一端，比兩邊都想要更實際。 - 想讓系統自主探索，不必手調探索率。把長期規劃和貝葉斯不確定性放在一起，探索會自己長出來，而且程度恰好。 - 如果你在做機器人，問一句：這個身體是在幫智慧，還是在替智慧。很多情況下，虛擬環境裡的經驗比物理身體更接近問題的核心。 - 找一個能測量、能排名、很難作弊的指標。胡特用壓縮率逼近智慧，你也可以為自己的領域找這樣一個代理量，先跑起來再說。 - 接受「不可計算」這個答案本身的價值。一個跑不動但完全定義清楚的最優解，比十個跑得動但邊界模糊的框架更能指導方向。