# 戴密斯·哈薩比斯：AI 的未來、模擬現實、物理與電子遊戲 > DeepMind 負責人談通向通用人工智慧的路徑、用 AI 模擬現實與物理，以及遊戲對他思維方式的影響。 - 原標題：#475 – Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games - 期數：第 475 期 - 釋出日期：2025-07-23 - 嘉賓 / 主題：戴密斯·哈薩比斯 - 網頁版：https://lex.qiaomu.ai/tw/ep/demis-hassabis-2/ - 官方頁面：https://lexfridman.com/demis-hassabis-2/ - 精讀字數：約 12211 字（閱讀約 27 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 Demis Hassabis（戴密斯·哈薩比斯）十幾歲的時候在英國遊戲公司寫物理引擎和圖形引擎。他後來回憶那活兒，用的是"極其痛苦地難"這個說法。要讓一段程式模擬透明液體被液壓機擠壓、變形、濺出去，得手動處理表面張力、折射、本構方程，引數調到懷疑人生。 現在他管著一個叫 Veo 3 的影片生成模型。這個模型在 YouTube 上看了一堆影片，就能生成透明液體被液壓機擠壓、飛濺、流走的畫面。他在 Lex Fridman 的播客裡說，自己特別喜歡刷這類影片，因為只有他知道二十多年前那些夜晚有多難熬。 這個反差把他引到了諾貝爾獎演講裡的一個猜想上。他當時覺得，諾貝爾演講有個傳統，得說點稍微帶刺激性的話，於是他提了一個：**任何在自然界中能被生成或發現的模式，都能被經典學習演算法高效地發現和建模。** 這句話聽起來像口號。但他給了論證。 ## 宇宙是一臺資訊系統，那麼 P=NP 就是一道物理題 哈薩比斯的論證起點是 AlphaGo 和 AlphaFold 這兩個專案。它們的共同點是面對一個組合爆炸到離譜的搜尋空間。圍棋有大約 10 的 170 次方種局面，蛋白質可能的結構有 10 的 300 次方種，兩個數字都遠超宇宙原子總數。暴力列舉到宇宙終結也算不完。 人類團隊做的事，是先建一個關於這個環境的模型，然後讓模型去引導搜尋。搜尋空間沒變小，但走的路對了。 憑什麼能建出這個模型？ > 蛋白質在我們身體裡幾毫秒就摺疊完了。物理本身解決了這個問題，我們現在只是用計算的方式也解決了一遍。（Demis Hassabis） 他給出的解釋是：自然系統有結構，因為它們被演化過程塑造過。他把這個叫"最穩定者生存"（survival of the stablest）。生命有達爾文演化，山脈有幾千年的風化，小行星的形狀被撞擊歷史打磨過，行星軌道被引力擾動篩選了無數次。凡是存續下來的東西，都經過了同一類過程的反覆作用。 既然不是隨機的，就存在可以被反向學習的流形。神經網路擅長跟著梯度走，只要地形上有梯度可跟，問題就從"列舉所有可能"變成"沿著坡爬"。 反過來說，如果某個問題真的沒有結構，這個套路就不成立。**大數分解可能就是這種問題。**如果數論空間是均勻的，沒有可利用的紋理，那就沒有模型可學，只能硬算，那種場景下你或許真的需要量子計算機。 Lex 追問，能不能定義一個新的複雜度類，比如"可學習的自然系統"（LNS）。哈薩比斯說，他業餘時間確實和幾個同事在琢磨這件事。 然後他說了一句更狠的話：**他認為資訊是宇宙最基礎的單元，比能量和物質更基礎。**能量和物質可以互相轉換，但都可以看成資訊的不同表現形式。如果宇宙是一臺資訊系統，那麼 P 是否等於 NP 就不再只是電腦科學的問題，而是一道物理題。 他也沒把話說滿。混沌系統是邊界地帶，初始條件極其敏感，最終狀態幾乎不相關，這類系統可能很難建模。元胞自動機反倒大機率在可建模範圍內，做個前向模擬就夠了。 ## Veo 3 打了具身認知理論的臉 過去十幾年，認知科學裡有個相當主流的看法，叫"行動中的知覺"（action in perception）。核心意思是，你要真正理解這個世界，必須在這個世界裡行動。所以具身智慧、機器人、至少是模擬行動，被當成理解物理常識的必要條件。 哈薩比斯說他五到十年前也會同意這個判斷。他自己就寫過物理引擎，知道"我推一下桌上的杯子，它會掉下去摔碎，液體灑出來"這類常識背後有多複雜。 Veo 3 讓這個判斷變得可疑。**它只是被動地看影片，就獲得了相當程度的直覺物理。** > 這種理解不是人類那種擬人化的、哲學意義上的理解。但這些系統確實建模了足夠多的動力學，能生成八秒鐘一致的影片，肉眼掃過去很難挑出毛病。（Demis Hassabis） 他把這種能力類比成小孩對物理的理解，而不是物理學博士的理解。小孩知道球會往下掉、水會流動、玻璃會碎，但推不出納維-斯托克斯方程。Veo 3 大概就在這個層次上。 這個觀察指向一個更深的判斷：如果被動觀察就能提取世界的結構，那說明現實本身存在某種低維流形。哈薩比斯說他喜歡看液壓機壓液體的影片，因為那類場景對物理引擎來說是最難啃的骨頭之一，而生成模型純靠看影片就逆向了其中一部分規律。 下一步是讓影片變成可互動的。你可以走進那個生成出來的世界，在裡面走動、推東西、改變它。他說以他的遊戲背景，這件事想起來就讓他興奮。 > 到那一步，我們開始接近我所說的世界模型：一個關於世界如何運作、世界的力學、世界的物理，以及世界裡那些東西的模型。而這正是真正的 AGI 系統所需要的東西。（Demis Hassabis） ## 遊戲是理解現實的微縮實驗室 哈薩比斯反覆強調，遊戲是他的初戀。他十幾歲就開始做遊戲 AI，那是他第一份職業工作。他做的遊戲幾乎全是開放世界，有模擬系統，有 AI 角色，玩家和模擬互動，模擬再根據玩家的玩法做出調整。 他參與早期開發的《黑與白》（Black & White）裡有一個早期強化學習系統。你養一隻神話生物，怎麼對待它，它就怎麼對待村裡的居民。你對它兇，它就兇；你對它好，它就護著人。 > 你其實是在和模擬系統共同創作這個遊戲。我們設定引數和初始條件，你作為玩家沉浸進去，然後故事是你們一起寫出來的。（Demis Hassabis） 這種做法在九十年代有個硬約束：內容做不出來。玩家往哪個方向走，你得在那個方向準備好內容，而且要足夠好看。當時只能靠元胞自動機這類經典系統製造湧現行為，效果總是有點脆，有點侷限。 現在他認為拐點快到了。五到十年內，AI 系統能圍繞玩家的想象動態生成內容，能隨時改寫劇情，能保證不管你選哪條路，故事都足夠戲劇性。他管這叫"終極版的自己選冒險"。 Lex 提了一個區分：**真正的開放世界和"選擇的幻覺"之間的差別。**《斯坦利寓言》故意把選擇的幻覺做成主題，《匕首雨》用地牢隨機生成給人一種無窮世界的感覺，但本質上還是預先寫好的分支。**哈薩比斯要的是在遊戲環境裡做任何事都成立，唯一的實現路徑是生成式系統。** 這也解釋了為什麼他對 AI 生成可玩世界那麼上心。開放世界遊戲和模擬遊戲是所有娛樂媒介裡唯一一種觀眾參與共創故事的形式。電影、小說、音樂都沒有這個屬性。 他被問到最喜歡的遊戲，答案是《文明》一代和二代。Lex 調侃說他顯然刻意避開了最新作，否則人就消失了。哈薩比斯承認，這類遊戲太吃時間，他得小心。 關於他和 Elon Musk 都是硬核玩家這件事，他給的解釋挺實在：八十年代末九十年代初，家用電腦剛普及，英國小孩手裡是 Spectrum 和 Commodore Amiga 500。學程式設計最有趣的入口就是寫遊戲。而遊戲又恰好把藝術設計和最前沿的程式設計焊在一起。**九十年代推動計算前進的東西，圖形、物理引擎、AI、硬體，甚至 GPU 本身，全都來自遊戲產業。** ## AlphaEvolve：LLM 出主意，進化做搜尋 AlphaEvolve 是 Google DeepMind 的一個系統，用大模型提出可能的解法，再用進化計算在搜尋空間裡找沒見過的新區域。 哈薩比斯把它歸為"混合系統"這一類。基礎模型加另一種計算技術，進化演算法是一種，蒙特卡洛樹搜尋是另一種。他認為這個方向還有大量東西沒被挖出來。 進化演算法在九十年代和兩千年代初被研究得很透，有個天花板一直沒突破：**它們沒法進化出真正新的性質。**你放進去什麼屬性，出來的還是那些屬性的子集和組合，湧現能力基本沒出現過。 但自然界的進化做到了。從細菌到現在的人類，全是新能力一層層長出來的。哈薩比斯覺得，把進化演算法和基礎模型結合，也許能跨過當年那道坎。 他也劃了界限。AlphaEvolve 目前的成果，比如更快的矩陣乘法，屬於在明確目標下的增量爬坡。這類系統很擅長做小步迭代，但讓它"造一個更好的自己"，或者"發明一個和圍棋一樣深、一樣美的遊戲"，它現在接不住這種模糊的高層指令。 > 真正的問題是，它能不能做出像 Transformer 架構那樣的躍遷？2017 年我們做出來的時候，AlphaEvolve 這類系統能不能也做到？現在看不太可能。（Demis Hassabis） 所以 AGI 的路徑上有個分叉：是現有的爬坡能力一路堆上去就夠，還是需要再來一兩次同量級的架構突破。他說這是五五開，DeepMind 的做法是兩條腿都壓上，大約一半資源投在藍天研究，另一半砸在現有能力的極限縮放上。 ## 虛擬細胞：一個想了二十五年的專案 哈薩比斯有個習慣，先立一個宏大到不現實的目標，再把它拆成可執行、可交付、單獨拿出來也有用的中間步驟。虛擬細胞（Virtual Cell）是他拆了二十五年的那個目標。 他和 Paul Nurse 從九十年代就開始聊這件事。Paul Nurse 是他在生物學的導師之一，創辦了 Crick 研究所，2001 年拿過諾貝爾獎。他們大概每五年回來重談一次：要模擬一個細胞的完整內部機制，需要什麼？如果能在矽基上做實驗，把大部分搜尋放在計算機裡，只把驗證留到溼實驗室，實驗速度能提一百倍。 現在他覺得零件快湊齊了。AlphaFold 解決的是蛋白質三維結構的靜態影象，但生物學裡所有有意思的事都發生在動態和相互作用裡。AlphaFold 3 是朝這個方向的第一步，處理蛋白質與蛋白質、蛋白質與 RNA、蛋白質與 DNA 的成對相互作用。 > 下一步可能是模擬一整條通路，比如跟癌症相關的通路。再往後，才有可能模擬一整個細胞。（Demis Hassabis） 起點大機率是酵母。酵母是單細胞生物，但它本身就是一個完整生物體，而且被研究得非常透。Paul Nurse 當年研究的就是它。 這裡有個技術難點：細胞裡的事發生在完全不同的時間尺度上。蛋白質摺疊是毫秒級的，某些調控過程是小時級的。**要處理這個，得讓多個模擬系統按不同時間動態並行執行，或者做成層級結構，能在不同時間層之間上下跳轉。** 另一個決策是粒度截斷。模擬任何自然系統，都得先定一個截止層級，往下不再細分。他判斷虛擬細胞大概到蛋白質層級就夠了，不必下探到原子層級。AlphaFold 恰好提供了這一層的地基，上面再搭高層模擬，湧現行為從這些積木裡長出來。 聊到生命起源，他推薦了 Nick Lane 的《進化的十大發明》。這本書討論的是"大過濾器"到底在過去還是未來。**他的判斷是，大過濾器更可能在過去。**從單細胞到多細胞這一步，地球上花了十億年。細菌在捕獲線粒體之前，安安穩穩地待了極長的時間。 他在意的是定義問題。我們到現在都沒有一個乾淨的定義區分生命與非生命，這件事一直讓他不舒服。 > 我們可以整天盯著彼此，盯著所有這些活物。我們可以用顯微鏡檢查，可以拆解到接近原子的層級，卻依然沒法用簡單的方式回答"活著"到底怎麼定義。這挺不可思議的。（Demis Hassabis） Lex 說，最終的答案可能是沒有那條線：從非生命到生命是連續的，物理、化學、生物之間沒有斷點。哈薩比斯沒有反駁，他說這正是他三十年做 AI 的理由之一，AI 可能是回答這類問題的終極工具。 ## AGI 怎麼驗收：一座燈塔和一屋子專家 他的公開估計是：**2030 年之前有 50% 的機率出現 AGI。** 難點在於怎麼知道自己到了。他給的標準裡有兩條線。 第一條是橫切面的一致性。現在的系統是鋸齒狀智慧，某些方面極強，某些方面莫名其妙地爛，而且不穩定。AGI 要求在整個人類認知譜系上保持穩定水準。測試方式是粗暴的：幾萬道人類能做的認知任務跑一遍。 第二條是燈塔式的時刻。**他想要的是 Move 37 級別的躍遷，而非分數表上的高分。** 他提了一個具體到讓人拍腿的測試：把知識截止到 1900 年，把 1900 年之前的所有文獻喂進去，看系統能不能自己提出狹義相對論和廣義相對論。或者，看它能不能發明一個和圍棋一樣深、一樣美、一樣優雅的遊戲。**而且不是在一個領域做到，是同時做到好幾件。** 還有一層人類紅隊測試：把系統交給各領域幾百位頂尖專家，比如每個學科的陶哲軒，給一兩個月，看能不能找出明顯的漏洞。找不出來，就可以比較有信心了。 Lex 提了個尖銳的反問：人類會飛快地把奇蹟當成理所當然，專家們幾周內就會跳過所有驚豔之處，死盯著"啊哈，這裡錯了"。哈薩比斯認可這一點。他舉的國際象棋類比挺有意思：如果加里·卡斯帕羅夫或馬格努斯·卡爾森走出一手妙棋，他自己可能根本想不到，但棋手能在事後解釋清楚這手為什麼成立。 > 如果系統也擅長解釋，用簡單的方式說清楚它在想什麼，那對頂尖人類科學家來說，理解它會非常可行。而能把複雜的事解釋簡單，本身就是智慧的一部分。（Demis Hassabis） Lex 追問：萬一大師第一反應是"這步是臭棋"呢？哈薩比斯說那很可能發生，但靠直覺他們會想明白。而且遊戲有個好處，它是科學判據：贏了還是輸了，結果會告訴你這步到底行不行，然後你回頭分析，把直覺補上。他說自己的大腦之所以這麼運轉，大概是因為四歲開始下棋，被那種硬核反饋迴圈訓練了十幾年。 Lex 補了一句自己的經驗。現在 AI 生成的程式碼，他第一反應經常是"這裡有個微妙的錯誤"，但隨即必須自問：會不會是我錯了，這裡其實有更深的東西？系統越強，這個自我懷疑的成本越高。**你得判斷這到底是 bug 還是 feature。** ## 三條縮放曲線，和一次六個月一輪的英雄訓練 關於縮放定律，哈薩比斯說現在有三條曲線同時在走：預訓練、後訓練、推理時計算。三個方向的空間都還很大。 他也承認，誰也不知道還需不需要新突破。五五開。他說自己其實喜歡地形變難的時候，因為那時候事情從純工程變成了真正的研究，而研究和工程的結合是 DeepMind 的甜區。 > 發明比快速跟隨要難。如果我判斷需要一次新的 AlphaGo 或 Transformer 級別的突破，我會押注我們是做出它的那個地方。（Demis Hassabis） 資料方面他不怎麼擔心。能不能造出分佈正確的模擬器、用模擬器生成合成資料，才是他真正上心的地方。前提是你得有足夠的真實世界資料把生成器訓起來。他覺得眼下正好站在這一步上。 他給了 Gemini 版本迭代的實際流程：一次完整的訓練跑加上產品化，大約六個月。這六個月裡，架構、資料、各種方向上的新想法不斷冒出來，團隊把它們收集起來，測試哪些對下一輪有用，打包，然後啟動新一輪巨型英雄訓練跑（hero run）。預訓練結束後是後訓練，那裡還有一大片實驗空間，能再榨出不少增益。版本號通常指基座模型，2.5 那些增量版本往往是同一套架構上加的補丁或後訓練技巧。 再往上一層是尺寸譜系。Pro、Flash、Flash-Lite，小的從大的蒸餾出來。他畫了一條帕累託前沿：縱軸是效能，橫軸是成本或延遲，不同模型覆蓋整條前沿，開發者按自己的取捨挑。 關於基準測試，他的態度是必須要有，但不能過擬合。**這是個多目標最佳化問題，目標是無憾改進：**在程式設計上提分，同時不能讓翻譯、寫作、科學推理掉下來。所以監控的基準套件越滾越大，同時還要看真實產品裡的使用者訊號。 還有個更軟的東西：人格。系統是囉嗦還是簡潔，是幽默還是嚴肅，不同使用者偏好完全不同。他說這幾乎是在做心理學研究了，他讀博時研究過五因素人格模型，沒想到這套東西現在要用來設計產品。每個人想要的味道不一樣。 ## 能源是解鎖一切的鑰匙 如果讓他押注二三十年後人類的主要能源，答案是聚變和太陽能。 太陽能本質上是天上那臺聚變反應堆。真正的瓶頸在電池和輸電，也許最終走向空間太陽能，甚至戴森球那種量級。聚變在工程上他認為肯定可做，前提是反應堆設計對、等離子體控制得夠快夠穩。DeepMind 和 Commonwealth Fusion 在等離子體約束上做過不少工作。 材料設計是他最看重的方向之一。新型太陽能材料、室溫超導、最優電池，這三樣裡任何一個被解決，對氣候和能源的衝擊都是革命性的。**室溫超導一直在他的夢想突破清單上。** 他描繪了一個資源不再稀缺的世界。能源近乎免費且清潔，海水淡化的成本問題就消失了，這項技術本身早就成熟了，只是貴，目前只有新加坡、以色列這類富裕國家在用。沿海國家全都能用上。海水電解出氫和氧就是火箭燃料。配上可回收火箭，上太空變成公交服務。小行星採礦成為產業。 > 人類歷史上第一次，我們不再受資源約束。這可能是一個全新的時代，不再是零和博弈。我有這塊地，你就沒有；老虎要有森林，旁邊的村子就不能用，他們靠什麼活？（Demis Hassabis） 他沒說這能解決所有問題。人性的其他弱點依然在。但至少抽掉了一條最容易引發衝突的主線。剩下的問題是分配：怎麼保證這些增量被公平地分享。 Lex 問，如果一百年後的文明達到了卡爾達肖夫一級，他會多驚訝。他說不會太驚訝。前提是我們沒在這條路上把自己搞死。 ## 從追趕到領先：Google 那一年發生了什麼 Lex 說得很直白：一年前 Google 在大模型產品側是落後的，現在領先了。這中間發生了什麼？ 哈薩比斯的回答集中在人和文化上。Corey、Jeff Dean、Oriol 帶的團隊，加上把 Google Brain 和原來的 DeepMind 合併，把最好的人和最好的想法聚在一起。他說這不容易，但整個團隊都很爭勝，也真的喜歡研究。他把這個叫"無情的進展"（relentless progress），配上"無情的交付"（relentless shipping）。 大公司的通病他也承認：層級、會議、管理者，是組織膨脹的自然產物。**他的對策是讓 Google DeepMind 保持創業公司的行為方式，規模大，但決策速度和能量按小組織來。**一手做世界級研究，第二天就能接入幾十億使用者的產品面，能同時提供這兩件事的地方很少。剩下的工作是不斷砍掉官僚主義，讓研究文化和交付文化有空間生長。 關於產品能力，Lex 提到 Gemini 產品與工程團隊對他的評價裡有一條他沒想到的：他不只是科學家，還是個很好的產品人。 哈薩比斯把這個追回到了遊戲設計。他當年給幾百萬玩家設計遊戲，那是在九十年代用最前沿的技術做產品。他說的核心技能是：能具身地想象使用這個東西是什麼感覺，以及有品味。科學裡用的品味，和產品設計裡用的品味，是同一種東西。 > 設計今天的 AI 產品，你不能為今天的技術能力設計，得為一年後的能力設計。所以你必須是個非常懂技術的產品人，得判斷現在做不出來的東西，研究進度在六個月或一年後能不能接上。（Demis Hassabis） 他對當下的互動形態很不客氣。文字框聊天很可能只是一個過渡形態，多模態系統成熟之後，回頭再看今天的介面會覺得相當原始。他想象的更接近《少數派報告》裡那種協作式互動。**打字的頻寬太低了，即便你打得很快。**下一步是智慧眼鏡、耳機，最終也許是某種神經裝置，把輸入輸出頻寬提高一百倍。 他甚至認為介面會走向 AI 生成：根據你的審美、你的思維方式、當前的任務，實時生成一套只屬於你的介面。喜歡引數全暴露的高階使用者看到全部旋鈕，喜歡極簡的人看到一片留白。 ## 程式設計師該往哪裡站 程式設計和數學成了第一批被攻破的領域，這件事本身有點反直覺。哈薩比斯給的原因很乾脆：**這兩個領域的輸出可以被驗證，因此可以大規模合成訓練資料。**對錯有客觀標準，合成資料的質量就可控。這跟寫小說、做戰略判斷完全不同。 他的預測是，未來五到十年，擁抱這些工具的人會變得超人般高效。頂尖程式設計師的產出可能是今天的十倍，因為他們最擅長把工具用到極限，也最擅長指定架構、判斷生成程式碼的好壞。 價值會重新分佈。前端介面這類工作更容易被直接生成；高效能後端、遊戲引擎、系統架構這類需要在約束下做取捨的決策，人的價值反而更集中。 > 這次變化的影響大概是工業革命的十倍，速度也是十倍。原來要一百年的事，十年就發生完了。兩者相乘，衝擊是一百倍。（Demis Hassabis） 他沒回避這帶來的痛苦。網際網路、移動、工業革命，每次都有大量崗位被重構，也每次都長出了當時無法想象的新職業。但這次留給社會適應的時間被大幅壓縮。他呼籲頂級經濟學家和哲學家現在就開始想這個問題，包括普遍基本服務這類機制：生產力增量的一部分透過服務的形式分配給全社會，想要更多的人再去打磨稀缺技能，讓自己變得獨特。 Lex 把話題往政治哲學上推了一步：政府本身也是一種技術，如果它不能快速迭代，就會在劇烈變化中被撕裂，而政客恰恰擅長用分裂換選票。哈薩比斯同意需要新的治理結構和制度。但他強調順序：**第一優先順序是把資源總量做上去，從零和變正和；第二才是怎麼分配。**沒有前者，後者無從談起。 ## 馮·諾依曼、斯賓諾莎，和理性的邊界 Benjamin Labatut 的《瘋狂之夢》（The Maniac）裡有哈薩比斯的影子，書的主角是馮·諾依曼。Lex 說這本書是對天才與瘋狂、以及發現之雙刃劍的一次令人不安又優美的探索。 馮·諾依曼參與過曼哈頓計劃，親眼看著核物理從方程變成能改變世界的東西。他同時也預見了計算的未來。哈薩比斯說他大概不會對今天的局面感到意外，甚至在 1950 年代就已經預見到了。有一個細節他特別提到：**馮·諾依曼把學習機器稱為"被培育出來的系統"（systems that are grown），以區別於被人程式設計的系統。** Lex 問，馮·諾依曼會給什麼建議。他見過原子彈的誕生，見過官僚系統如何介入科學，見過政治人物如何定義敵人。哈薩比斯說，那個年代的書他讀了很多，那批人極其出色，但今天確實需要更多對話和理解。他認為區別在於，AI 是通用技術，用途遠比核技術廣泛，能治所有病、能解決能源和稀缺，風險也同時在。他猜馮·諾依曼兩頭都看到了。 關於《瘋狂之夢》裡"理性的瘋狂之夢不足以指引人類"這個判斷，哈薩比斯是同意的。他把這東西稱為精神維度或者人文維度，不一定要跟宗教掛鉤，但必須有。**那個讓人類之所以為人的火花，那個也許跟意識有關的火花，必須放在這件事的核心位置。** 他站在費曼那一邊：科學與藝術是同伴。理解一朵花的顏色為什麼那樣演化出來，只會讓它更美。文藝復興時期的達·芬奇，大概根本不區分科學、藝術、宗教，全都屬於生而為人、被世界打動的一部分。這是他試圖採取的哲學立場。他提到自己最喜歡的哲學家之一是斯賓諾莎，因為斯賓諾莎把理解宇宙、理解人在宇宙中的位置，當成了理解宗教的方式。技術、意義、人是什麼，在他眼裡是同一件事的不同側面。 他也提了個警告。搞技術和做研究的人容易只懂技術，視野太窄。這也是他支援 AI 峰會、支援各國政府參與討論的原因之一。他覺得聊天機器人時代有個好處：普通人能親手摸到最前沿的 AI，能親身感受它，被迫參與到這場討論裡來。 ## 科學是唯一還在一起幹活的地方 Lex 問，會不會出現某種 AI 領域的曼哈頓計劃，各國按老思路把它當武器技術來升級對抗。 哈薩比斯說希望不會，那會非常危險，也是對這項技術的誤用。他更希望最終走向 CERN 那種模式：以研究為核心，全世界最好的頭腦聚在一起，謹慎走完最後幾步，確保負責任地交到世界手上。他也承認，以當前的地緣政治氣候，合作很難看到，但事情會變。至少在科研層面，研究者之間保持聯絡、保持主題上的貼近，很重要。 Lex 補充了一個更樸素的看法：教育的雙向流動、移民的雙向流動，人和人混在一起生活，紐帶就長出來了，老派的對抗思維就割不裂。多元文化、多學科的研究團隊一起啃科學問題，這是希望所在。**科學歷來是最能連線人的東西**，科學家自己也清楚這是集體事業，彼此都能從對方身上學到東西。 關於 P-Doom，也就是人類文明自我毀滅的機率，哈薩比斯說他沒給一個數字。原因不是迴避，是給數字意味著一種根本不存在的精度。他不知道那些人怎麼算出具體數值的。 > 我可以確定的是：它非零，而且大機率不可忽略。光這一點就夠讓人清醒了。（Demis Hassabis） 他的框架是：在高度不確定、但兩頭賭注都極大的條件下，唯一理性的做法是保持謹慎的樂觀前行。一方面要把好處拿到，另一方面這些風險確實存在但無法量化。**所以最好的辦法是用科學方法做更多研究，把風險定義得更精確，然後處理它。**他估計在逼近 AGI 這條線的過程中，這方面需要投入的努力至少是現在的十倍。 關於風險來源，他的判斷是兩類問題處在不同的時間尺度上，都同樣重要。一類是常規的惡意行為者把通用技術改作他用，個人或者流氓國家都有可能。這裡有個繞不開的矛盾：他一直堅定支援開放科學，AlphaFold 那些科學專案全部開源給學術界，但如果要限制壞人拿到強系統，同時又要讓好人能充分在上面構建，這兩件事怎麼同時做到，他還沒聽到過清晰解法。 另一類是系統越來越自主、越來越接近 AGI 之後，怎麼保證護欄有效、系統始終在人類控制下。 Lex 說自己更擔心人這一側。這不只是不把毀滅性技術交到壞人手裡的問題，還有怎麼讓世界上的壞人少一點的問題。哈薩比斯承認這很難，但提了一個方向：用技術本身做早期預警，生物、核這類風險都可以，前提是你用來預警的 AI 本身足夠可靠。這就成了一個互相咬合的問題，也因此特別難。他估計最終至少需要中美之間達成一些基本標準的共識。 ## 李世石的第 78 手 Lex 把話題拉回《瘋狂之夢》，提到李世石對 AlphaGo 的那一手第 78 手，被很多人稱為人類最後一次純人類天才的閃光，一度把 AlphaGo 的判斷打亂了。 哈薩比斯說那是個特殊的時刻。他把那個局面理解成互相激發：DeepMind 團隊被李世石的高貴和才華打動，李世石也許被 AlphaGo 的下法激發，才逼出了那一手。紀錄片《AlphaGo》把這個過程拍得很到位。 他認為這種事在很多領域會繼續發生。**至少在未來可預見的時期裡，人類提供的是提出正確問題的那種獨創性，然後借用工具把問題解決掉。** Lex 順著往下問：AI 越來越聰明之後，什麼讓人類特殊？這問題背後有個不太舒服的可能性：我們覺得人類特殊，也許只是一種自我中心的偏見。 哈薩比斯說這是他從小就想搞清楚的事。他讀神經科學博士，研究想象和記憶，尤其是海馬體，出路一直很清楚：光靠哲學思辨和思想實驗不夠，光在真實大腦上做實驗也不夠。**造出一個智慧人造物，把它和人類心智對比，看差別在哪裡，這才是找出人類特殊性的最好辦法**，前提是真的有什麼特殊性存在。 他猜是有的，但承認很難說清楚。他喜歡的一個關於意識的定義是：意識是資訊被處理時的感覺。這個定義沒有什麼科學解釋力，但直覺上挺有意思。他也留了個可能性：碳基和矽基在處理資訊時，也許存在本質差異。 關於彭羅斯（Roger Penrose）的量子意識理論，兩人是朋友，也聊過很多次，客氣地保留分歧。彭羅斯和不少優秀的神經科學家合作過，想在腦裡找量子力學行為的機制，到現在為止沒找到有說服力的證據。**所以哈薩比斯押注大腦裡跑的基本就是經典計算，這意味著相關現象原則上都能被經典計算機建模或模仿。** 但有個尾巴。感受質（qualia），那種"感覺起來是什麼樣"的東西，也許真的與基質繫結，沒法搬到別的載體上。 他給了個很有意思的設想：如果將來我們真的做了腦機介面，也許是為了跟上 AI 的速度，那時候我們也許能親身體驗到在矽上做計算是什麼感覺。這個體驗本身可能就會給出答案。 他提到和已故的丹尼爾·丹尼特（Daniel Dennett）的一場辯論。我們為什麼認為彼此有意識？兩個理由。第一，你表現出的行為和我的類似。第二，我們跑在同一套硬體上。既然行為相似、基質相同，最簡約的假設就是你感受到的東西和我感受到的類似。 跟矽基 AI 打交道的麻煩在於：第一條可能成立，第二條一定不成立。它的行為可能看起來像一個有意識的存在，它甚至可能聲稱自己有意識，但我們沒法知道它實際感受如何，它大概也沒法知道我們的感受。也許等到超級智慧建起它自己的技術棧，那座橋才能搭上。 Lex 說，這對共情能力是個巨大的考驗：去共情一個完全不同的基質。**人類歷史上從來沒被迫面對過這件事。**我們跟植物、跟演化樹上離得很遠的動物之間，某種程度上已經在做類似的事，但和一臺計算機做這件事，是完全不同的量級。 哈薩比斯提到團隊裡有個叫 DolphinGemma 的專案，用一個模型版本訓練海豚和鯨魚的聲音，也許有一天能建出翻譯器。他順帶提了一句，海豚、虎鯨、大象、狗、猴子這些高等動物，某些方面確實有意識的跡象，哪怕按 IQ 衡量它們並不算高。共情它們，人類已經做得到了。 ## 為什麼他仍然是樂觀的 Lex 最後問，什麼讓他對人類文明的未來抱有希望。 他給了兩樣東西。第一是人類幾乎不受限制的獨創性。他說自己最喜歡看任何一個領域裡做到頂尖的人，體育、科學、藝術都行，看他們進入心流狀態，沒有比這更美好的事。大腦是通用智慧系統，上限極高。 第二是極端的適應能力。他舉的例子挺逗：我們的頭腦是在苔原上獵野牛時演化出來的，現在卻要坐飛機、做播客、玩虛擬模擬，居然也應付得過來，這本身就很離譜。今天人們對著聊天機器人說話，反應是"哦，我跟聊天機器人聊天，挺好的"，社會適應這項技術的速度，比他預期的快。 Lex 自嘲說這個播客大概會被 AI 完全取代，他很可替代，正等著那一天。哈薩比斯回了一句"Lex，達不到你能做到的那個程度"，Lex 笑說這就是人類互相做的事：恭維。 整場對話裡，哈薩比斯反覆在做同一件事：把宏大到不現實的目標，拆成有意義的中間步驟，然後一步步交付。虛擬細胞拆了二十五年，AGI 拆成了六個月的英雄訓練跑，能源拆成了材料、電池、輸電和等離子體控制。**他不是在預言未來，他是在給未來排工程計劃。** 而這種人的存在，本身就是樂觀的理由之一。 ## 你可以從今天開始做的幾件事 - 在自己所在的領域裡，訓練"品味"而不只是"技能"。哈薩比斯說區分偉大科學家和優秀科學家的，是能不能嗅出哪個方向、哪個實驗、哪個問題是對的。在 AI 能解決越來越多技術難題的時代，挑對問題的能力會越來越值錢，而這個能力只能靠大量真實判斷和反饋迴圈練出來。 - 如果你是程式設計師，把重心從寫程式碼往"指定架構加判斷程式碼好壞"上移。可被驗證的輸出最容易被合成資料攻破，這是程式設計和數學先被衝擊的原因。往上游走，去做那些需要在約束下做取捨的決策：系統設計、效能邊界、業務與技術的權衡。 - 給自己定一個"一年後能力"的產品判斷練習。設計任何 AI 產品時，不要問今天的技術能做什麼，問六個月到一年後能做什麼，然後判斷研究曲線能不能接上。這個習慣會逼你持續跟蹤研究進展，而不是隻看現有 API。