# 德米斯·哈薩比斯：DeepMind > DeepMind 創始人談 AlphaGo 與 AlphaFold 的誕生、通用人工智慧的路線，以及科學研究的價值。 - 原標題：#299 – Demis Hassabis: DeepMind - 期數：第 299 期 - 釋出日期：2022-07-01 - 嘉賓 / 主題：德米斯·哈薩比斯 - 網頁版：https://lex.qiaomu.ai/tw/ep/demis-hassabis/ - 官方頁面：https://lexfridman.com/demis-hassabis/ - 精讀字數：約 11965 字（閱讀約 27 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 訪談的第一個問題是個套娃。 > "如果我是你寫來練手的 AI 程式，專門採訪各路人物，直到水平夠格來採訪你，你會告訴我嗎？"（Lex Fridman） Demis Hassabis 笑了笑，說不會。理由是：**告訴了你，你就會改變行為。**他把這稱作一種海森堡式的處境，觀測本身干擾了被觀測者。 Lex 順勢把話題引向圖靈測試。這位 DeepMind 的聯合創始人兼 CEO 給出的回答，比大多數人預期的要冷淡：圖靈那篇 1950 年的論文，從一開始就沒有打算做成一份嚴格意義上的考卷。 ## 圖靈那篇論文，從來沒打算做成考綱 Demis 說，如果你真去讀原文，會發現圖靈沒有規定評委是誰、知識水平如何、有多長時間盤問。這些恰恰是把一個思想實驗變成正式測試時必須鎖死的引數。 更尷尬的是，這個測試早就被人"透過"過了。十幾年前就有人聲稱搞定，用的方法樸素到讓人無語：讓機器假裝成小孩。評委以為自己在跟孩子聊天，標準自然就鬆了。這和一個懂行的 AI 研究者坐在對面、清楚這套系統怎麼搭起來的場景，完全是兩碼事。 他傾向於換一個方向：**讓系統在成千上萬、最終可能是上百萬個任務上達到或超過人類水平，覆蓋整個認知空間。**測的是泛化能力，系統能不能跨任務遷移。一句話說得像人，在這個標準下不算數。 這背後是 DeepMind 當時的旗艦專案 Gato。語言模型預測下一個詞，Gato 預測下一個 token，可以是文字，也可以是機械臂的關節角度、遊戲手柄的按鍵。**預測這件事本身似乎是智慧的地基，至於預測的是什麼，反而沒那麼要緊。** Demis 說 Gato 是他們迄今最通用的智慧體，但它只是個開頭，還能往上堆好幾個數量級的規模。"我們正在做這件事。" ## 八歲那年，他用下棋贏來的錢買了臺電腦 Demis 四歲開始下棋。八歲那年，他用一場象棋比賽的獎金，買下了人生第一臺電腦，ZX Spectrum。 這臺機器在英國的地位有點像中國的紅白機。它開機就是一個 BASIC 提示符，沒有作業系統擋在中間，插上就能寫。**英國整整一代程式設計師是被這臺機器喂出來的。** 有意思的是家庭環境。父母完全不懂電腦，但因為錢是比賽贏的，他有決定權。於是他跑書店，買程式設計書，照著書把程式碼一行行敲進去。敲著敲著就開始改，改著改著就寫起了自己的遊戲。 "我當時說不出這個道理，但我感覺它是心智的延伸。"他說，你可以給它派個任務，然後去睡覺，第二天回來，它做完了。這句話他重複了兩遍。所有的機器都在延伸人的某種能力，汽車延伸腿，起重機延伸手臂，**而這臺機器延伸的是腦子。再往前走一步，就是 AI。** 十二歲，他拿到大師標準分，在同齡人裡世界排名第二，排第一的是朱迪特·波爾加。也就是在這一年前後，他寫出了人生第一個 AI 程式。 不是國際象棋，Amiga 跑不動那麼大的程式。他寫的是黑白棋，也叫翻轉棋，規則比象棋簡單得多，但把象棋程式那套東西全搬了進去：alpha-beta 搜尋，局面評估，一層層往下推。靈感來自 David Levy 的《The Chess Computer Handbook》，1984 年出版，把象棋程式怎麼造講得明明白白。 十七歲，他進入遊戲行業，參與設計《主題公園》（Theme Park），全球賣了幾百萬份。之後是《黑與白》（Black and White），那個養成一隻神獸的遊戲。**你怎麼對待它，它就長成什麼樣。你虐待它，它就對村民兇殘；你善待它，它就溫和。**很多玩家第一次在遊戲裡意識到，自己一連串微小的選擇，最後塑造出了一個什麼東西。 ## 遊戲是最狠的考場：規則清楚，反饋及時，人類基準現成 Demis 說自己的人生和遊戲有三段關係。第一段是玩，第二段是設計，第三段是拿遊戲當 AI 的試驗田。 為什麼 DeepMind 從第一天起就死磕遊戲？他給的理由非常工程化： - 人類玩這些遊戲玩了幾百年甚至幾千年，最強水平是多少，有現成的記錄 - 輸贏條件明確，獎勵函式好寫，強化學習最怕的就是獎勵定義不清 - 可以在雲上並行跑幾百萬局，樣本效率極高 - 最後拿世界冠軍來驗證，外部標準無可爭議 還有一層不那麼技術的理由。圍棋在很長時間裡被當作 AI 的恥辱柱。人們說，不管你摩爾定律怎麼漲，算力永遠不可能啃下圍棋，因為搜尋空間大得離譜。**當一臺機器在一個被反覆宣告不可能的領域裡贏了人類，這件事本身會震動幾十億人。**這種震動的源頭在認知層面：原來我們以為的不可能，只是我們以為。 ## 2010 年，說"我們要解決智慧"會被當成瘋子 Demis 和 Shane Legg 在 2010 年創辦 DeepMind。當時的使命宣言一直用到今天：**第一步，解決智慧；第二步，用它去解決其他所有問題。** 他把這份 PPT 拿給投資人看，收穫的是一堆奇怪的眼神。他們最終找到幾個同樣"不太正常"的人投了錢。更麻煩的是學術界。他後來回憶，那時候壓根不敢跟教授們提這件事，一提就是翻白眼，覺得這孩子職業自殺。 但 2010 年恰恰是幾個條件第一次同時到位的年份。 深度學習剛在學界冒頭，工業界幾乎沒人知道。強化學習被認為可以規模化，而且神經科學給出了硬證據：猴子中腦多巴胺神經元的放電模式，和 TD 學習裡的預測誤差訊號對得上，那是九十年代末的經典結果。**生物大腦用的就是這套東西，這條路在原理上不會錯。** 算力那頭，GPU 因為遊戲產業被商品化了，便宜得離譜。Demis 說這事挺諷刺：為圖形渲染造出來的晶片，最後成了 AI 的發動機。"搞半天全世界都是矩陣乘法。" 最後一塊拼圖是理論。Shane 的導師 Marcus Hutter 做過一套叫 AIXI 的東西，在無限算力和無限記憶體的假設下，證明了通用智慧的最優形式，本質上就是一個強化學習系統在極限下的樣子。Demis 一直在等這樣的理論出現，就像圖靈機和夏農的資訊理論撐起了整個電腦科學。**一門學科要有地基，才配叫學科。** ## 蛋白質摺疊：一句諾獎演講裡的旁註，卡了五十年 蛋白質是生物學的苦力。身體裡每一個功能，背後都是蛋白質在幹活，所以有人叫它們"生物奈米機器"。你去看看那些動畫，幾個分子咬合、旋轉、開合，像一臺被進化打磨了幾十億年的精密裝置。 蛋白質由氨基酸序列指定，也就是一維的字母串。但在身體裡，這根串會自己摺疊成一個三維結構。**結構決定功能。**想知道這個蛋白質在幹什麼，想知道一種藥該貼在哪，必須知道它的三維形狀。 1972 年，Christian Anfinsen 在諾貝爾獎演講裡順嘴提了一句：從氨基酸序列出發，直接算出三維結構，應該是可能的。至於怎麼算，他沒說。 這句旁白成了整個計算生物學領域的發令槍。有人把它叫作生物學界的費馬大定理：寫下猜想的人只在頁邊留了一行字，剩下的五十年交給後人。 五十年裡，大家是靠實驗硬啃的。先要把蛋白質結晶，這一步本身就極難，膜蛋白這種根本結晶不了。然後用 X 射線晶體學或者昂貴的冷凍電鏡，一點點把三維形狀照出來。實驗生物學裡有個殘酷的經驗值：**一個博士生，整個博士生涯，做一個蛋白質。** AlphaFold 2 把這個時間壓到了幾秒。 2020 年聖誕節前後，他們跑完了人類蛋白質組，大約兩萬個蛋白質。結構生物學家現在可以像用搜尋引擎一樣去查一個蛋白質的結構，不用再糾結"這個蛋白值不值得投入一個博士生的四年"。 ## 10 的 300 次方種折法，物理卻在毫秒內算完了 這裡有個更深的謎。Levinthal 在幾十年前算過一筆賬：一個普通蛋白質大約兩千個氨基酸，可能的摺疊構象有 10 的 300 次方種。可大自然在毫秒、甚至更短的時間裡就把它摺好了。 換句話說，**物理本身在解一個天文數字級別的搜尋問題，而且解得又快又準。**絕大多數情況下，一個序列對應一個唯一且穩定的結構，但這個對映一點不顯然，這正是問題難的地方。摺疊出錯會出大事，阿爾茨海默症的一個主流假說，就是澱粉樣蛋白折錯了形狀，在神經元裡纏成一團。 人類拿到的訓練資料少得可憐。四十年的實驗積累，總共只有大約十五萬個蛋白質結構被解析出來。這個量級放別的任務里根本不夠看。 所以他們用了不少巧勁。一個關鍵操作叫自蒸餾：把模型自己預測得最有把握的結果，反過來塞進訓練集，把資料變多。**模型自己教自己，這是資料稀缺時最實用的一招。** 另一個關鍵決定是端到端。AlphaFold 1 輸出的是一個距離矩陣，也就是蛋白質內部所有原子兩兩之間的距離，之後還得接一套單獨的最佳化流程，才能把矩陣變成三維結構。AlphaFold 2 把中間那步刪了，從氨基酸序列直接吐三維座標。 Demis 說這是他做過的所有 Alpha 系列專案裡總結出來的規律：**能端到端就端到端。**因為人手設計的中間表示，一定不如讓梯度從最終輸出一路流回輸入。**人設的約束往往就是天花板。**他們還塞進去了不少物理和演化生物學的硬約束，比如鍵角必須合理，但約束的目的是縮小搜尋範圍，不讓它替代學習。 這套打法有清晰的演化軌跡：AlphaGo 需要人類棋譜起步，AlphaGo Zero 把人類棋譜刪了，從隨機走子開始自我對弈，AlphaZero 把圍棋特有的對稱性等先驗也刪了，任何雙人零和遊戲都能從零開始，MuZero 更進一步，連遊戲規則都不告訴它，讓它自己從環境裡學。 從模仿學習，到完全自監督，一級一級把人類的柺杖扔掉。**但這條路的順序不能反過來。**Demis 說得很直白：直接上手做 AlphaZero 或者 MuZero，幾乎不可能。一是因為做 AlphaGo 的過程中會學到大量東西，二是因為心理上撐不住。你得在好幾年裡持續面對"這不可能"的判斷，同時相信自己做得到。 ## 把太陽裝進盒子，需要毫秒級的反應 2021 年，DeepMind 和瑞士洛桑聯邦理工學院（EPFL）合作，在《自然》上發了一篇論文：用深度強化學習控制託卡馬克裝置裡的等離子體。 核聚變最難的地方之一，是那團等離子體的溫度上百萬攝氏度，比太陽表面還熱，沒有任何材料能盛住它。唯一的辦法是用超導磁場懸空夾住。 問題是這團東西極不穩定。**你等於在盒子裡捧著一顆微型太陽。**傳統做法是用手工設計的控制演算法，事先算好各種情況。可等離子體的行為是動態的，硬編碼的控制器沒法臨場應變。 這幾乎是為強化學習量身定做的問題：狀態可觀測，動作是磁場線圈的電壓，獎勵就是等離子體有沒有散架，而且 EPFL 有現成的模擬器可以隨便跑。他們做出來的控制器能把等離子體捏成不同形狀並穩定維持，比如"液滴"構型，這種形狀對能量產出更友好，而且維持時間破了紀錄。 現在他們在和一批聚變創業公司談下一個瓶頸問題。Demis 強調這套方法可複用：**進一個新領域，先找世界頂級的專家聊，把卡住這個領域的瓶頸列全，再從中挑出"今天的方法能啃動、且從 AI 研究角度看也有意思"的那一兩個。** ## 用 AI 逼近薛定諤方程 同一時期另一篇論文，處理的是密度泛函理論。這件事聽起來很硬，邏輯卻很簡單。 如果你能類比電子的行為，你就能描述元素、材料、物質怎麼運作。所有材料性質都由電子及其相互作用決定。我們有薛定諤方程，但精確求解只能對付極小的分子，稍大一點就算不動。於是幾十年來，人們一直在寫各種近似泛函，用經驗公式去猜電子雲會怎麼分佈。 DeepMind 的做法是把這個泛函學出來，交給模型，不再手寫。他們可以在自己的算力叢集上跑海量的分子動力學模擬，生成幾乎無限量的資料，然後從這些資料裡學一個既能描述更多種類化學、又足夠接近精確解的函式。 Demis 開玩笑說，不搜貓影片的時候，那些空閒的機器都在跑量子化學。 我問他，AI 有沒有可能有一天幫我們"撬開物理"，甚至做出超越光速這種事。他的回答回到了初衷：**他做 AI 一輩子的理由，就是想造一個幫人類理解宇宙的工具。**等真到了 AGI 那一步，物理會是他最先想拿去用的地方之一。 他提到一個自己著迷的細節。人類對時間、意識、引力、生命這些天天打交道的東西，其實一無所知。為了把日子過下去，我們給它們各自釘上幾個假設，然後把櫃子關上。**"你該時不時把它從架子上拿下來看看，提醒自己，那只是一堆假設。"**AI 也許能幫我們不做任何倉促假設，把櫃子重新開啟。 ## 虛擬細胞：一個談了二十年的夢 AlphaFold 只是起點。Demis 的下一站是蛋白質與蛋白質的相互作用，蛋白質與小分子的結合，然後是通路，最後是整個虛擬細胞。 他和 Paul Nurse（弗朗西斯·克里克研究所所長、諾獎得主）聊這件事聊了二十年。如果能造出一個細胞的完整模擬，生物學和藥物發現的效率會徹底改寫：絕大部分實驗在矽基世界裡跑完，只在最後一步進溼實驗室驗證。 這話的分量在於時間。從確認一個靶點到拿出候選藥物，現在大約十年。**如果大部分工作能 in silico 完成，這個週期有機會縮短一個數量級。** 去年 AlphaFold 出來之後，他給 Paul 打電話說，時候到了。現在克里克研究所就在他們馬路對面，走路幾分鐘。 他還有一個更宏觀的判斷：**如果數學是物理的完美描述語言，那 AI 可能成為生物學的完美描述語言。**因為生物學太亂、太湧現、太動態。他不相信生物學界會等到自己的牛頓定律，那種優雅的、一行公式概括一切的定律，在細胞這個尺度上大概不會出現。既然如此，就只能把基本元件建好，讓模型跑起來，像元胞自動機一樣，你不能站在高處分析它，必須讓它跑。 ## 開源這件事，他們算過賬 我問起開源。AlphaFold 的程式碼和結構資料庫全部放出去了，還有 MuJoCo，那個 robotics 圈幾乎人手一個的物理引擎。 Demis 說這是逐個案例算過的。**MuJoCo 是他們專門買下來再開源的**，因為原作者一個人已經維護不動了。AlphaFold 的邏輯不同：下游應用太多，多到他們自己都想象不完，與其自己一個個做，不如把工具和資料全送出去，讓全世界一起加速。結果是一年之內，超過五十萬研究者用過它，他估計這差不多是全球職業生物學家的總數。 他舉了個例子。幾周前《科學》做了個專刊，封面是核孔複合體，細胞核的守門員，所有進出細胞核的物質都從這兒過。這東西是個巨大的甜甜圈，幾十年解析不出來，實驗資料有一堆，但解析度太低，缺塊。最後全世界四個課題組幾乎同時用 AlphaFold 的預測去補那些缺塊，像拼一副巨型樂高，把結構拼了出來。 "幾乎每一家藥企的高管都跟我說，他們的團隊在用 AlphaFold。" 但他也明確，未來不會全都開源。有些會走商業路徑，因為那樣才能聚集足夠的資源和影響力；有些走非營利；還有一些要考慮雙重用途，比如合成生物學。**AlphaFold 釋出前，他們諮詢了三十位生物倫理學家。** 我問他，將來會不會有一天，AI 系統能無可辯駁地拿到諾貝爾獎。他的回答留了個精確的界線：**如果只是把網際網路和 PubMed 上的東西平均一遍，那它仍然是工具。**就像伽利略和望遠鏡，功勞歸伽利略，不歸鏡片。要夠格拿獎，系統得自己提出一個相對論級別的東西，得自己"發明圍棋"，光在既定規則下下出一手好棋遠遠不夠。 ## 如果宇宙是一個精心設計的謎題 我提到一個假設：也許未來一百年的諾獎成果，早就散落在網際網路上了，只是沒人把它們連起來。Demis 說這個可能性很大。他相信未來幾十年最重要的突破，多半出現在學科的交叉口，兩個看上去不相關的領域之間冒出一條新的連線，DeepMind 自己就是神經科學和 AI 工程的雜交產物。 但有一件事人類的想象力夠不著。**我們沒法真正體會"讀完整個網際網路"是什麼感覺。**他做過這個思想實驗：假如我讀完整本維基百科會怎樣？這個大概還能勉強想象。整個網際網路？超出認知範圍。所以我們也就無法預判，把這一切同時裝在一個腦子裡，能看到哪些連線。 他把人類的知識總量想成一棵樹，啟蒙運動以來我們爬得還不錯，但連樹皮都還沒爬滿。AI 會把這件事加速到另一個量級，就像 AlphaFold 展示的那樣。而且它可能不只是幫我們找規律，還會幫我們設計新的實驗工具，去驗證那些今天根本沒法驗證的理論。比如宇宙是不是在計算，比如普朗克尺度的一小塊時空裡能裝多少資訊（Scott Aaronson 這些人討論過的問題）。 我追問：如果人類的認知樹只是所有可能認知樹裡很小的一棵，那非人系統會不會走得更遠，然後回頭把結論帶給我們？ 他說這可以分三層看：我們今天理解的、人類心智原則上能理解的、以及宇宙中客觀存在的可被理解之物。**第三層可能有硬邊界**，比如"宇宙之外是什麼"，從宇宙內部或許原理上就不可知。但邊界也可能只是我們這顆三磅重的大腦帶來的，它被三維空間加時間的直覺死死框住了。工具不必繼承這個限制，它們可以在 11 維、12 維裡思考。 然後他給了一個我沒想到的類比。跟他下快棋，你走不出他那一手，但他可以跟你解釋，你事後能懂。**能欣賞莫扎特，不等於能寫出莫扎特。**也許未來就是這樣：人類無法原創那個東西，但可以在被解釋之後理解它、欣賞它、驗證它。 ## 費米悖論：我們很可能是孤獨的 我問他外星文明。他的答案和多數人的期待相反：**他覺得最可能的情況是我們是孤獨的。** 推理鏈條是這樣的。地球人類的出現，只要歷史上某個小岔口偏一點，比如那顆小行星早撞了一百萬年，我們現在可能已經領先或落後一百萬年。**一百萬年，在宇宙尺度上短得可以忽略。**如果人類接下來幾百年不把自己搞死，繼續繁榮，造出 AI，走向太空，那麼擴散到整個銀河系所需的時間，按馮·諾依曼算過的那套自複製探測器的推演，也就一百萬年左右。 再加上戴森球這種東西。圍繞恆星鋪設能量收集結構，會在星系尺度上留下極顯眼的痕跡，恆星的亮度會週期性地忽明忽暗。再加上我們從 1930 年代起就在往外撒射電和電視訊號，如果有一百萬年的積累，幾百個文明一起撒，天空裡應該是一片嘈雜。 結果是我們把耳朵貼上去，聽見的是安靜。 常見的反駁他都聽過。搜尋還不夠徹底、頻段不對、形態差太遠。他不買賬：**那就該到處都是。**還有一種是"動物園假說"，高等文明默契地不干涉我們。他的反駁很人類：我們連自己這一個物種內部都協調不好氣候變化，你指望幾百個外星文明在優先順序上完全一致？ 他甚至覺得這個假說和模擬假說在體驗上是等價的：如果你的感官接收到的全息投影是別人投的，那和你活在另一個宇宙裡沒有區別，反正你都看不到真實。 如果孤獨是真的，那反而是個好訊息。它意味著**大過濾器已經被我們穿過了**，最難的關都過了。他猜最難的關是多細胞化：吞下一個線粒體，然後不消化掉它，反而整合成自己的一部分。這一步看著就不像能隨便復現。至於智慧，在地球上只演化出過一次，也是後來才發生的關卡。 人類智慧怎麼來的？他給的候選清單很務實：用火、烹飪，讓能量攝取效率大增；工具，長矛和斧頭，人類到達美洲後大型動物大量滅絕就是證據；部落協作，用語言組織起來打敗了更強壯的對手。有意思的是，**大腦這套東西從一開始就非常昂貴**，約佔身體能耗的百分之二十。一盤高水平國際象棋消耗的能量，和 F1 車手跑完一整場比賽差不多。 這就帶來一個演化上的尷尬：半顆大腦沒用。一個猴子的智商水平，還不足以支付那麼高的能量成本，只有跨過人類這道坎，回報才突然兌現。**但你怎麼跨越那道坎？**所以這件事只發生過一次。他說這和 AI 很像：長期以來，為象棋這類問題手工定製專用方案，永遠比造一個通用學習系統更容易，因為通用系統一開始弱得可憐。 ## 意識與智慧，可以互相拆開 我問他，通往 AGI 的路上是不是必須解決意識。他給的判斷是**兩者可以雙向解耦**。 一邊是高意識低智慧：狗、海豚，有自我、有情緒、會做夢，但按 IQ 那套標準並不算聰明。另一邊是高智慧低意識：AlphaGo 那樣的系統，在特定領域強到不可思議，但你跟它相處，完全感覺不到任何"裡面有人的感覺"。 "也許我們對智慧的定義本身就窄了。"我提了一句。他接得很快：狗的專精也是一種智慧，只是被演化壓進了一個極窄的通道。他甚至開玩笑說，狗這個物種在某種意義上非常成功，它成功讓整個人類群體為它提供食物和服務。 關於谷歌工程師說 LaMDA 有感知那件事，他的態度非常直接：**今天所有系統，連一絲一毫意識的影子都沒有。**這是人類心智的投射機制在起作用，我們的大腦天生就在任何東西里找意圖，連沒有生命的物體都會。六十年代的 Eliza，只用把你說的話反問回去，就騙到過不少人。 他給出了自己偏好的意識工作定義，出自 Max Tegmark：**資訊被處理時所呈現出來的那種感覺。**他也承認這定義不好操作，但至少視角不錯。從神經科學看，有些前提是必要的但不充分：自我與他者的區分、跨時間連貫的偏好、記憶。 然後他丟擲一個我覺得整場訪談裡最鋒利的點。我們判斷另一個人有意識，其實靠兩條腿，而通常只討論第一條： - **行為**：它說的話、做的事，像不像一個有心智的存在 - **基底一致**：它和我們一樣，都是碳基的、顱骨裡那幾磅軟乎乎的肉 機器永遠不會有第二條。所以在機器身上，我們只剩下行為這一條腿站著。**而"基底相同"恰恰是我們在判斷動物時給予信任的關鍵理由。**這個缺口，短時間內填不上。 但真正的問題不在哲學層面，在現實層面。他說得很清楚：當幾億人相信某個 AI 有靈魂，而且這種相信會給他們帶來真實的情感慰藉，那時候該怎麼辦？ 他的現行立場是：現在的語言模型還沒準備好大規模部署。卡住的地方是另外三樣：可解釋性、分析工具、護欄。我們還不理解它們究竟在做什麼。而且有些問題得先定調，比如**AI 系統是否應該始終宣告自己是 AI。**他覺得大概是應該的。 再往後，光靠科學不夠。哲學、社會科學、神學、藝術和人文都得進來，因為這些領域才能回答"做人意味著什麼"，以及增強這件事該往哪個方向走。 他也提到社交媒體這個前車之鑑。雙重用途技術首先會被壞人、天真的人和瘋子拿去用。AI 還多一層麻煩：它最終可能會有自己的能動性，那它本身就可能是善的或惡的。**所以測試必須走科學方法，做受控實驗，而不是直接上線做 A/B 測試。**一個影象 App 出事，改回來就行；AI 出事，等你反應過來，傷害已經造成了。 ## 權力會不會腐蝕他 我問了個不太客氣的問題：造出一個超級智慧，是世界上最強大的東西之一，而"權力導致腐敗，絕對權力絕對腐敗"。他極可能是那個握著開關的人，他想過這事嗎？ 他說他一直在想。防禦手段有幾條。**第一是保持接地氣和謙卑**，最好的朋友還是劍橋本科那幫人，家人和朋友構成了錨。**第二是保持多學科**，因為無論你在某個領域多強，總有人比你更強；而且每進入一個新領域都從零開始學，這件事本身就讓人清醒。他過去五年從零學完了生物學，那是巨大的一塊，他學得很開心，也很被打擊。 **第三是身邊得有一群同樣有倫理感、腳踏實地的人。** 然後他講了更大的圖景：他希望在"人類極大豐裕"這個方向上出力，治癒疾病，解決那些擺在面前的難題，最終讓人類走向星辰，去看看那些外星人到底在不在；如果不在，去搞清楚為什麼不在。 他還強調了一件容易被忽略的事：**AI 不會由某一個人或某一個組織獨佔執行。**它應該屬於世界，屬於全人類。而且造它的人來自哪種文化、持什麼價值觀，很重要。即便系統絕大部分知識是自己學的，它的底色裡仍會留下創造者的文化殘留。 至於稀缺與衝突的關係，他說得很剋制：歷史上的很多暴行確實發生在資源極度緊張的時候，所以消除稀缺有助於減少零和思維。**但那不夠。**還有人單純想要凌駕於他人之上的權力，還有人單純想要凌駕於他人之上的權力，這種慾望不會因為物質豐裕而消失。 ## 他的夜晚，從晚上十點開始 我問他一天怎麼過。**他是個徹底的夜貓子，並且把作息按照這個來最佳化。** 上午十一點到公司，一直開會到晚上七點，中間排得滿滿當當，這是他做協作和管理的時間。回家，陪家人吃飯，放鬆一會兒。然後大約晚上十點、十一點，他開始"第二天的工作"，一直到凌晨四五點。 這段時間用來思考、讀論文、寫論文。他說自己已經沒時間寫程式碼了，從效率上看也不划算，但長時段的思考和規劃都在這裡發生。他會把一大批郵件和任務發給團隊，讓他們第二天早上處理，而在夜裡他已經把"我們該做這個專案""明天安排這個會"想清楚了。 工具是鉛筆和紙。他說自己還是會把論文列印出來，用筆在上面劃線標記，因為**手寫的東西進腦子更深，留得更久。**家裡堆著一摞摞筆記本。 凌晨一點到三點是他最珍視的時段。外面徹底安靜，放點音樂，然後想那些最難的問題：這個方法到底對不對，強化學習在這個問題上能不能work，該用什麼基準，要不要從零造一個基準。**這些判斷一旦做錯，代價是整個團隊幾年的投入。** 夜貓子作息的隱藏好處是彈性。如果思路正深，他可以一路做到早上六點，第二天認了，狀態差一點就差點。早晨型的人做不到這一點，他們的日程從早餐就開始了，八點第一個會，正在flow裡也得上。而他不用。 白天那七八個小時的會，本質上是在極短時間裡裝載極難的問題，這要求極強的上下文切換能力。他承認這是最難的事之一，尤其是 DeepMind 同時在做好幾個學科，每一個學科自身都足夠複雜。但他享受，因為他從小就是個通才型的人。當年放下象棋，一部分原因就是想明白了：這世界上有意思的東西太多，不該把一輩子只花在一個上面。 ## 斯賓諾莎、深夜，和那個必須承認的謎 他提到自己在這些深夜裡讀哲學，斯賓諾莎是近來的偏愛，也讀科學史，看歷史上那些大科學家是怎麼想問題、怎麼處理一個沒人走過的領域。 我問他生命的意義。他的回答毫不含糊：**獲取知識，理解宇宙。** 他引古典希臘，說求知本身就是少數幾種真正的德性之一。而且這種德性會外溢：你越是理解世界和人，你越寬容、越有同理心。剩下的事會跟著來。 然後他說了一句讓我停了一會兒的話：**這個宇宙的結構，似乎就是為"科學可行"而設計的。**科學方法能奏效，實驗結果可重複，這件事本身就詭異。他甚至覺得計算機的存在也很可疑：沙子，地殼裡最普遍的東西，居然能做成計算裝置。要是當年只有鑽石能造晶片，人類大概只會有一臺計算機。 "這裡面有點可疑。"他重複了一次。 整場訪談下來，這個人對時間、意識、引力、生命這些日常接觸卻完全不懂的東西，保持著一種近乎不安的誠實。他說真正的科學家越往後走越會發現，知道得越多，越清楚自己不知道什麼。**他不太理解為什麼不是更多人為這件事睡不著覺。** ## 資訊或許比物質和能量更基本 我問他，我們是不是活在模擬裡。他的答案分了兩層，切開來看很有意思。 第一層他明確不信。Bostrom 那套推演，說我們很可能是祖先復刻出來的某個實驗版本，他覺得這種可能性很低。這類模擬應該是被隨手丟棄的東西，數量以十億計。而他傾向於認為，這一個極其關鍵，甚至可能只此一份。 第二層他非常相信，那就是**理解物理最好的方式，是從計算和資訊的角度入手。**大多數人會說宇宙的基本單位是物質或能量，E=mc² 那一套。他會說，資訊才是。因為物質和能量本身也是由資訊指定的，你身體裡的分子怎麼排列，那就是資訊。從這個意義上講，我們確實在某種模擬之中，只不過這個模擬就是現實本身。 至於 Penrose 堅持的"意識需要量子過程"，他把自己的立場說得很坦率。一邊是 DeepMind 在推著圖靈機往前走，一次次撞開被認為不可能的天花板，圍棋、蛋白質摺疊都是例子。所以他很不願意賭經典計算走不到那裡。另一邊是他在神經科學讀博士時看到的證據，目前主流觀點是大腦裡不存在任何量子效應，現有觀察基本都能用經典理論解釋。 兩邊夾擊下來，他的賭注壓在經典計算這一側：我們大腦裡發生的一切，原則上都能被經典機器模擬或逼近，不需要引入任何形而上的東西。 而這也正是他做 AI 的另一個理由。他說建一個智慧的人造物，再拿它和人腦對比，這是人類第一次有工具去科學地研究意識、夢、創造力、情緒這些從文明誕生就懸著的問題。**以前只有內省，只有聰明哲學家的冥思。現在有了 fMRI、單細胞記錄，還有能親手搭出來的智慧系統。** "我們的大腦是已知宇宙裡最複雜的物體，而它只有幾磅重。"他說這是宇宙最大的奇蹟，也美得不可思議。宇宙長出了人腦，人腦造出了能幫宇宙理解自己的機器。 ## 如果只能問一個問題 我問他，如果真有一天他要進那個房間，跟第一個達到人類水平並超越的系統對話，只能問一個問題，他會問什麼。 他說：**真實的本質是什麼。** 會不會聽懂？不一定。答案可能是 42。但他覺得那會是一個開始：對方會牽著他的手，一步步講，給他看今天物理學裡被完全漏掉的東西，用比標準模型更簡潔的框架，把意識、夢、生命、引力這些困擾了人類幾千年的謎，一併納入解釋。而標準模型我們自己也知道它不完整，只是一直在上面加東西。 他補了一句，我想那臺系統大概會先嘆口氣，然後想，怎麼跟這個人類解釋。也許它會說，我給你畫個圖。 ## 一個可以照著做的清單 訪談結束前他講了自己常對高中生、大學生說的兩件事。這兩條建議，加上前面那些關於稀缺、意識、作息的判斷，拼起來是一份能落地的清單： - **趁年輕把興趣鋪開。**這個階段有時間和試錯成本，唯一的任務是把真正讓你興奮的東西找出來。找法不是空想，是大量接觸。他特別推薦去看兩個領域之間的連線點，那是發現熱情最有效的路徑。 - **把自己當研究物件。**搞清楚自己一天裡哪幾個小時腦子最好，用什麼方式學東西吸收得最快，壓力來的時候身體和情緒怎麼反應。這些都需要反覆測。然後改善短板，同時把長板磨到別人比不了。**那塊長板就是你未來在世界上不可替代的部分。** - **把兩件事的交集當作職業方向。**真正的熱情乘以真正獨特的強項，這個交集很窄，但一旦找到，產出量級完全不同。 - **保持通才。**他說得很直白，世界上有意思的東西太多，不該一輩子只做一件事。換領域也是防止傲慢最有效的辦法，每一次從零開始都在提醒你，你在別的地方仍然是個新手。 - **別害怕被時代的主流判斷判為不可能。**2010 年他跟任何人說"我們要解決智慧"，得到的都是白眼。當時沒人聊 AI，學術界的主流結論是"我們知道這套東西不work"。要是他信了，後面那些事都不會發生。 - **把難以想象的大問題寫進別人的頁邊。**Anfinsen 在諾獎演講裡順手提了一句"序列到結構應該是可能的"，沒給任何細節，整個領域就往前跑了五十年。提問的方式，有時候比解決問題更能決定一件事情的邊界。 - **給自己找一個夜裡沒人打擾的兩小時。**他把凌晨一點到三點留給最難的那些判斷，選哪個問題、押哪條技術路線、要不要從零造一個基準。這些決定一次就鎖死整個團隊幾年的投入，而它們從來不是在會議裡做出來的。 - **用同一塊螢幕之外的東西思考。**他會把論文列印出來用筆劃，手寫過的東西記得更牢。工具的選擇影響思考的深度，這件事在效率至上的年代容易被忘掉。