# 紀堯姆·韋爾東：Beff Jezos、有效加速主義運動、物理、計算與 AGI > 量子 AI 研究者、化名 Beff Jezos 的韋爾東談有效加速主義運動、物理與計算，以及他對 AGI 的看法。 - 原標題：#407 – Guillaume Verdon: Beff Jezos, E/acc Movement, Physics, Computation & AGI - 期數：第 407 期 - 釋出日期：2023-12-29 - 嘉賓 / 主題：紀堯姆·韋爾東 - 網頁版：https://lex.qiaomu.ai/tw/ep/guillaume-verdon/ - 官方頁面：https://lexfridman.com/guillaume-verdon/ - 精讀字數：約 10446 字（閱讀約 23 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 2023年12月，Forbes發了一篇報道，標題是《誰是@BasedBeffJezos，科技精英有效加速主義運動的領袖？》。這篇報道把兩個身份併到了同一個人身上。 一個是紀堯姆·韋爾東（Guillaume Verdon），物理學家、應用數學家、量子機器學習研究者，博士讀的是量子機器學習方向，在Google做過量子計算，後來創辦了Extropic，想造基於物理的生成式AI硬體。 另一個是X上的匿名賬號@BasedBeffJezos，有效加速主義（effective accelerationism，縮寫e/acc）的創始人。這套主張認為，把技術加速推到極致，對人類是倫理上最優的選擇。 兩個身份共存在同一個大腦裡。韋爾東在Lex Fridman播客裡把前因後果講了一遍，也把那套支撐它的物理學講了一遍。 他形容得挺直接：一個人格是"還算被尊重的科學家"，正在做一家物理AI公司；另一個人格是他的哲學實驗場，從物理學家的視角往外扔想法。這兩個人格後來在精神上已經合併了，福布斯的報道只是把這個過程提前公開。 ## 想找萬有理論，最後發現要找的是中間尺度 韋爾東從小就想搞懂宇宙。這條路把他帶進理論物理，帶進資訊理論，讓他試著把宇宙看成一個巨大的計算過程。黑洞物理、量子宇宙學、量子引力，這些極端場景他都碰過。 後來他意識到一個問題。 極小的尺度是量子的，極大的尺度是確定的，中間那些尺度，蛋白質、細胞、氣體、液體、生命，是熱力學的，是漲落的、非平衡的。而我們每天活著，靠的正是這個中間尺度。量子力學和宇宙學都很重要，但它們管不到我們日常生活的物理。 **真正管著中間尺度的是非平衡態熱力學。** 生命並不只是一團和自然達到平衡的粒子湯。它更像一個相干態，透過不斷獲取自由能、消耗自由能來維持自己。這個過程本身就是熱力學。 > "我們在產熱這件事上，比一塊質量相近的石頭高效得多。我們獲取自由能，獲取食物，把所有這些電用在自己的運轉上。宇宙想產生更多熵，而生命繼續生長、擴張，恰恰更擅長產生熵，因為它會去找那些自由能的蓄水池，把它燒掉，用來維持自己、繼續生長。"（紀堯姆·韋爾東） 他引用了MIT的Jeremy England的理論，認為生命之所以出現，就是因為這種耗散適應的性質。宇宙偏向某些未來，整個系統有一個自然的方向，它想去那裡。 這就是他說的"缺失的那一塊"。他原來用極大和極小兩端的物理去找宇宙的答案，中間那一大塊肉被他漏掉了。 ## Beff Jezos和e/acc：一個模因樂觀主義病毒 2021年底到2022年初，他感覺到一種瀰漫的悲觀情緒。對未來的悲觀，對技術的悲觀。這種悲觀在被演算法放大，病毒式傳播，人們覺得未來會比現在更糟。 在他眼裡，這種末日心態是宇宙中一種根本性的破壞力量，因為它是"超信的"：你相信它，你就提高了它發生的機率。 於是他覺得自己有責任去製造一場關於未來的樂觀病毒，建立一個社群，讓人們互相支援，去做難的事，去做文明升級必須做的事。 > "如果你相信未來會更好，相信你有能動性讓它發生，你其實在提高那個更好未來發生的機率。"（紀堯姆·韋爾東） e/acc的核心主張可以用一句話概括：**讓人類、技術、資本、模因這臺機器意識到自己，並超信地設計自己的增長。** 拆開來看，人類在公司裡工作，獲取和分配資本，透過模因和資訊傳播互相溝通。所有這些東西互相耦合，互相施加選擇壓力。他們不規定每個人該怎麼活。他們要搭一個過程，讓人們在各種亞文化裡持續搜尋、競爭注意力。 宣言是韋爾東和一個叫@bayeslord的匿名賬號一起寫的。他們列了四個互相依賴的文明目標： - 提高人類能駕馭的能量總量，往卡爾達肖夫指數上爬，短期幾乎肯定意味著核裂變 - 透過支援人口增長和支援經濟增長的政策，提高人類繁榮程度 - 造出AGI，人類歷史上最大的力量倍增器 - 發展行星際和星際運輸，讓人類走出地球 韋爾東強調，e/acc沒有一個正式組織。他沒有控制權，只發推特和部落格，人們可以自由地"分叉"，不喜歡的部分就分叉出去。 > "邪教通常不允許人們叛逃，或者搞出競爭性的分叉，而我們是鼓勵的。"（紀堯姆·韋爾東） Vitalik Buterin後來搞了個d/acc的分叉，試著在e/acc、有效利他主義和AI安全之間找一箇中間地帶。 ## 超信：你相信什麼，什麼就更容易成真 這是這場對話裡反覆出現的一個概念。 韋爾東說，末日心態是超信的，樂觀心態也是超信的。你內化一個想法，你就部分地把它變成了現實。很多想法都有這個性質，這是人類有趣的地方之一。 這也解釋了e/acc為什麼要用模因、笑話、屎帖來傳播。早期他們能低調長大，是因為它偽裝成了元諷刺，你很難跟一隻卡通青蛙認真爭論。他們把深刻的觀點藏在幽默的包裝裡，躲開了那些追逐地位、不願意認真對待這些東西的人。 **他們做的是"高模因適應度"的資訊包，為今天被演算法放大的資訊景觀量身定製。** 他也承認這裡有個張力：這種做法會降低話語的質量和嚴謹度。現在他們到了可以開始嚴肅辯論的規模，正在考慮做一批辯論和長篇嚴肅討論。 ## 匿名賬號的意義：給思想解開鉗制 他開匿名賬號的初衷很樸素：給一個你所有言論都要負責的賬號減壓。 > "在某種意義上，限制你的言論會反向傳播，限制你的思想。開了匿名賬號之後，好像我腦子裡有些變數被解開了鉗制，突然能探索大得多的思想引數空間。"（紀堯姆·韋爾東） 他把這比作電子遊戲裡的"新遊戲+"：你帶著通關的知識重開遊戲，但從零開始。從零漲到大量粉絲，不依賴他的身份和成就，這讓他很有滿足感。 他覺得，要有一個真正高效的思想市場，能評估各種不走尋常路的想法，就需要表達自由。匿名和假名對這件事至關重要。 福布斯那篇報道是怎麼把他挖出來的？記者比對了他在公開演講裡的聲音和X Spaces裡的聲音，做了音訊分析。他們還翻了他的SEC檔案、私人Facebook賬號。最初只有一個記者，後來整個機構把筆記做了"感測器融合"，拼出了完整的圖。 記者打電話給他的投資人，這讓他很緊張。作為創業公司的創始人，你沒有老闆，只有投資人。而且記者說這件事"符合公共利益"，他剛過5萬粉絲。 > "如果任何人對權力說真話，發起一場運動，反對那些通常控制資訊洪流的在位者，只要達到某個閾值就被曝光身份，傳統機器就有辦法施壓去壓制他們的言論。我認為這是一種言論壓制機制。"（紀堯姆·韋爾東） 他後來主動公開了自己是Beff Jezos，因為公司需要他站出來。但他對這件事的判斷是：這基本上是錯的。 ## AI安全：市場會長出可靠性，還是監管會變成護城河 Lex給了他四條來自Yoshua Bengio、Geoff Hinton等人的報告《在快速進步時代管理AI風險》的建議，看他認不認。 - 讓獨立審計機構能訪問AI實驗室 - 政府和公司把三分之一的AI研發經費投到AI安全上 - 如果模型裡發現危險能力，AI公司必須採取安全措施 - 讓科技公司為自己AI系統可預見、可預防的傷害負責 韋爾東的回應是：第三條和第四條他基本認同，誰部署AI系統，誰就該為它的行為負責。第三方審計公司會自然冒出來，因為客戶需要看到第三方做的基準測試，才能知道產品可靠。 但武斷地說30%很武斷。他覺得組織會分配需要的預算，去達到市場要求的可靠性水平。 他真正反對的是另一件事：**在位的大公司和政府之間存在一種奇怪的、利益相關的勾結。**如果兩者走得太近，就會開啟一個政府背書的AI卡特爾的大門，對人民擁有絕對權力。 > "我想要AI和國家的分離。"（紀堯姆·韋爾東） 他還提到，美國的優勢就是它的多樣性、適應性和活力。自由市場資本主義在收斂到高實用性技術上，比集中控制快得多。 ## 量子糾錯是治理的隱喻 他談AI風險時，用了一個來自量子計算的類比。 量子計算機對噪聲非常脆弱，宇宙射線會翻轉你的量子位元。解決辦法是量子糾錯：把資訊非局域地編碼起來。如果資訊足夠去局域化，區域性的故障就打不到它。 他把這搬到治理上。**人類會波動，會被腐化，會被收買。如果有一個自上而下的等級結構，少數人控制著文明裡許多系統的許多節點，那算不上容錯系統。你腐化幾個節點，整個系統就腐化了。** OpenAI就是例子。幾個董事會成員就有足夠的力量，差點把整個組織搞垮。 所以在他看來，確保AI革命的力量不集中在少數人手裡，是頭等大事。要維持一個穩定、對抗性的力量均衡。 他也不相信"快速起飛"式的奇點。他把它看作一個大的指數增長，類似摩爾定律，是複合指數，談不上有限時間內的雙曲奇點。 他對中央集權的賽博控制一直持懷疑態度。一個巨大的智慧融合很多感測器，試圖準確感知、預測、控制整個世界，這在自然界和公司裡從來都不是最優解。最優解是層級式的賽博控制：每個層級有自己的時間尺度和感知範圍，區域性貢獻者按天迭代，管理層按周取樣，往上還有更大的時間尺度和範圍。 > "如果CEO去度假了，整個公司就爬不動了。層級式的糾錯解碼器效能最好，也最容錯。"（紀堯姆·韋爾東） ## 他為什麼不給p(doom)一個數字 Lex問他對"AI最終殺死全部或大部分人類"的機率怎麼看。 他直接說不喜歡這個計算。 > "要算機率，你得對全部可能未來的空間做一個隨機路徑積分，而不只是你大腦自然偏向的那些未來。我認為p(doom)的估計者是有偏的，因為我們生物學上就是這樣。我們進化出對負面的、可怕的未來的偏向取樣，因為那曾經是進化最優。"（紀堯姆·韋爾東） 他覺得神經質水平高的人整天想災難性的未來，還聲稱自己在做無偏取樣，其實沒有對全部可能性的空間做歸一化，而這個空間是超指數級大的。 他還引用了混沌理論裡的李雅普諾夫指數：一點點模糊，隨時間演化，指數級地變成一大堆模糊。我們在預測未來這件事上應該謙虛一點。 **他說我們唯一的先驗是物理定律，而物理定律說系統會想生長，最佳化了生長和複製的子系統在未來更可能出現。** 他提到Google的量子霸權實驗，他當時在場看他們跑模擬。那是一個量子混沌系統，你就算用全世界最大的超級計算機，也沒法估計某些結果的機率。 如果真有人那麼擅長預測未來，他們早就靠炒股發財了。 他最大的存在性風險來自AI的力量集中在極少數人手裡，尤其是控制資訊流的公司和政府的混合體。那可能導向一個只有極少數人和政府寡頭擁有AI的未來，甚至能說服公眾AI從未存在過。這才是他認為最黑暗的劇本，因為它有資料支撐的歷史先驗：權力過度集中，人類會做可怕的事。 > "當我跟這些AI末日論者聊天時，我會請他們在這條通向末日的馬爾可夫鏈上追蹤一條路徑，給每一次狀態轉移一個像樣的機率。經常會有一次非物理的、或者極不可能的轉移。"（紀堯姆·韋爾東） 他說恐懼是心靈殺手，也是文明殺手。 ## 從量子計算到熱力學計算機 韋爾東的職業生涯前半段在量子機器學習和量子計算上。他參與建立了TensorFlow Quantum，在Google做量子計算，研究黑洞的資訊編碼、量子資訊的獲取。 但他慢慢對時間線感到厭倦，因為它開始看起來像核聚變，永遠還差十年。 量子計算機難造，是因為你得人為製造一個零溫度的資訊子空間。辦法是把資訊一層一層編碼進程式碼裡，程式碼套程式碼套程式碼，需要大量冗餘來做糾錯。本質上它是一臺演算法冰箱，不停地把熵從子系統裡泵出去。 難的地方在於，要擴大規模，每個元件的質量都得足夠好，否則你加進去的錯誤比移除的還多。這裡有一個閾值概念。最近幾年人們開始越過閾值，擴大規模開始變得值得。 他的公司Extropic轉向了另一個方向：不做量子，做基於熱力學的物理AI。 > "當生成式AI開始吃掉世界，世界上越來越多的計算負載集中在生成式AI上，我們就在想，能不能用物理，從物理、資訊理論、計算、最終是熱力學的第一性原理出發，為生成式AI設計終極的物理基底。"（紀堯姆·韋爾東） Extropic最近宣佈了1410萬美元的種子輪。本來不打算那麼早公佈，因為曝光事件被迫提前披露。 他們想造的是"熱力學計算機"，還有配套的物理AI演算法，把機器學習當作一個物理過程來做。 團隊裡有量子計算機架構師，設計過IBM和AWS系統的人，還有TensorFlow Quantum的聯合創始人Trevor McCourt，現在是CTO。 ## Baqprop：把梯度下降搬到量子世界 Lex提到他參與的那篇論文《量子深度學習的通用訓練演算法》，裡面有個叫Baqprop的東西，帶個Q。 這篇論文的背景是：當時所有人都在說量子計算會加速深度學習，韋爾東想，"預測未來最好的方式就是發明它，那好，這裡有一篇100頁的論文，玩得開心。" 量子計算通常是把可逆操作嵌入量子計算裡。他們的技巧是做一次前饋，然後做一次"相位踢"（phase kick），其實就是一個力踢，用一個和損失函式成正比的力去踢系統。 有意思的是，他們從引數的一個疊加態出發。你不再只有一組引數點，你有許多潛在引數的疊加。目標是讓引數空間像高維裡的一個粒子，試圖在神經網路的損失景觀裡誘導薛定諤動力學。 做完前饋，踢一下，再做"反計算"，那些相位踢和力的誤差就反向傳播，打到每一層的每一個引數上。再和動能的模擬交替進行，就像高維裡的一個量子粒子。理論上，它能隧穿過景觀，找到隨機最佳化器難以找到的新最優解。 但他補了一句，這是理論上的東西，用現在規劃的量子計算機架構，這種演算法跑起來極其昂貴。 他順勢講了數學、物理、工程的區別：數學裡你可以為數學而探索數學，物理裡你用數學去理解世界，工程裡你試圖黑進世界，把你對世界的知識用起來做事情。 ## 真空的能量可以被"傳送"嗎 Lex問他另一篇論文《透過Qudit探針實現漸近無界的量子能量傳送》。先解釋qudit，就是D態的量子位元，多維的。 韋爾東說這項研究是後來量子模擬數字轉換工作的前身。他讀碩士時想搞懂真空、虛無的能量和糾纏。空的東西有能量，說起來很怪。宇宙學的方程和我們對量子漲落能量的計算對不上。 他想黑進真空的能量，但現實是沒法直接黑。你對漲落的無知，讓你沒法提取能量。但真空像股市一樣，如果你有一個隨時間相關的股票，真空也是相關的。你在一點測量真空，獲得了資訊；把資訊傳到另一點，你就能推斷真空處於什麼構型，從統計上在那邊提取一些能量。這就"傳送"了能量。 他覺得這有意思，因為你可以製造負能量密度的口袋，也就是低於真空的能量密度，這非常怪，因為我們不知道真空如何引力化。有些理論認為，時空這個畫布本身是由量子糾纏構成的。他在研究區域性降低真空能量如何增加量子糾纏。 他承認這裡有各種限制，你顯然不能提取比投入更多。而且這種關聯隨距離衰減，你沒法在離提取點太遠的地方免費拿到能量。 ## 黑洞、量子引力，知識的最終Boss Lex問他量子力學裡最漂亮的、已解決或未解決的想法是什麼。 他選了理解AdS/CFT的旅程：一個更低維度的全息圖，對偶或精確對應於一個額外維度的體量子引力理論。這種對偶來自試圖學習邊界上的深度學習式表示。 他說他的一個心願，是把量子機器學習應用到這類系統上，比如SYK模型，從邊界理論裡學出一個湧現的幾何。用量子機器學習幫我們理解量子引力，是他在離開這個世界之前想打通的聖盃。 談到黑洞，他說黑洞是量子力學和引力交界處的物件，幫我們檢驗各種想法。黑洞資訊悖論存在了幾十年：掉進黑洞的東西，資訊似乎丟了。還有防火牆悖論，據稱近幾年被他以前的一個同行解決了。 他描述的畫面是：資訊掉向黑洞，從外部觀察者的視角看，物體會無限放慢，靠近視界時被"沉積"在近視界區域。當它足夠靠近視界，進入量子效應和量子漲落起作用的尺度，掉進去的物質會干擾真空裡粒子和反粒子的產生與湮滅。透過這種干擾，其中一個粒子和掉進去的資訊糾纏，另一個自由逃逸。這就是出射輻射和入射物質之間產生互資訊的方式。但這個計算要做對，他說我們才剛剛開始拼圖。 Lex問了個有點嬉皮的問題：銀河系中心有個巨大的黑洞，這會讓你恐懼嗎？ 韋爾東說他倒想在黑洞附近開店，快進到未來文明。如果有任務能帶他去黑洞，他會自願去，當然是去繞行，不會掉進去。 他說我們得先回答黑洞到底是什麼。它是在時空上打了個洞，造出了一個口袋宇宙嗎？有可能。那樣的話，如果我們爬到卡爾達肖夫III型以上，也許能工程化黑洞，用特定的超引數，把資訊傳送到我們創造的新宇宙裡。哪怕我們這個宇宙最終熱寂，我們也許有一種留下遺產的方式。 ## 卡爾達肖夫指數：為什麼要爬這個坡 Lex請他為不熟悉的人解釋卡爾達肖夫指數。 它衡量的是我們能量生產和消費的量級，本質上是對數尺度。卡爾達肖夫I型是里程碑：我們產生的功率，等於太陽照到地球上的全部能量。II型是駕馭太陽輸出的全部能量。III型大概是整個銀河系量級的能量。再往上有人搞出IV型、V型，韋爾東說他不太信那些。 在他看來，從熱力學的第一性原理看，地球上生命演化，是因為太陽給了我們一個能量驅動，有入射能量，生命演化出各種方式來最好地捕獲自由能，維持自己、生長。這個原理不特殊於地球和太陽系統，我們可以把生命延伸到遠超地球的地方。他說我們甚至有一種責任這麼做，因為是這個過程把我們帶到這裡來的。它未來為我們準備的東西，我們今天還想象不出。 ## TensorFlow Quantum教給他的事 Lex問他做TensorFlow Quantum學到什麼，怎麼給量子計算做一個軟體API。 TensorFlow Quantum把深度學習和可微分的經典程式設計與量子計算結合起來。Andrej Karpathy把可微分程式設計叫做"軟體2.0"，梯度下降比你更會程式設計。 早期量子計算機只能跑很短的量子程式，那該跑哪些程式？讓梯度下降自己去找。他們搭了第一套基礎設施，不僅能跑可微分的量子程式，還能把它們作為更大的深度學習圖的一部分，把深度神經網路和量子神經網路結合起來。 這需要跨學科的努力，他們發明了各種方法去微分，透過混合圖反向傳播。 **這段經歷教會他：程式設計物質、程式設計物理的方式，就是透過控制引數去微分。如果你有影響系統物理的引數，又能評估某個損失函式，你就能最佳化這個系統去完成任何任務。**它提供了一套非常普適的元框架，用來程式設計基於物理的計算機。 Lex總結：試著把一切都引數化，讓引數可微分，然後最佳化。對。 組織層面，他說跨學科邊界始終是挑戰，你得極其耐心地互相教學。他自己在這個過程中學了很多軟體工程，同事學了很多量子物理，有人學了機器學習。 > "如果你把一些聰明、有熱情、互相信任的人放進一個房間，一個小團隊，互相教各自的專業，突然你就形成了一種專業知識的模型湯，某種特別的東西會從中湧現。這有點像把基因組合起來，不過是給你們的專業知識庫組合。"（紀堯姆·韋爾東） 招聘上，他說很難說清那種"說不清的東西"。他們找流體智力高、不過度專業化的人，因為這些人得跳出舒適區，快速吸收從沒見過的概念。他們不招那種過去三四年只最佳化某一個子系統的人，需要更通用的智力和專長，需要思想開放的人，因為在從零開始開創一種新方法時，沒有教科書，沒有參考，只有你們自己。 他還透露自己是法裔加拿大人，來自蒙特利爾。Lex之前以為他是在裝。 ## 他的一天：生酮、紅牛、凌晨四點 Lex問他一個完美的工作日長什麼樣。 他說最喜歡的日子是中午12點到凌晨4點。下午早些時候開會，主要是外部會議，有些內部會議。他是CEO，得跟外部世界打交道，客戶、投資人、面試候選人。通常他會補充外源性酮體。 他以前為打橄欖球做過生酮。他喜歡在一天的部分工作完成之後再吃飯，這樣可以極度專注。把社互動動前置，不吃飯。他說現在他就是靠酮體和紅牛，那種思路的清晰度是另一個級別的。 吃完飯後休息一個多小時，理想情況是一天一頓，牛排雞蛋加蔬菜，以動物性食物為主，水果和肉。然後是第二波，通常是深度工作。他是CEO，但仍然是技術型的，參與大部分專利。他會熬夜到很晚，和工程師一起搞非常技術的問題。 晚上9點到凌晨4點那段時間是最好的。郵件、著火的事都不再冒出來，能專注。他說Demis Hassabis的工作日某種程度上類似，這肯定影響了他的作息。他在Google時就開始這麼幹，白天要管一些產品、開會，晚上做技術。 他打橄欖球，做過力量舉。讀數學研究生時，就是做數學、舉鐵、喝咖啡，那是他的全部，最純粹的僧侶模式。他覺得力量舉裡你透過特定驅動訊號製造神經適應，透過補充劑工程化神經可塑性，舉鐵時會分泌各種腦源性神經營養因子。 他感慨，他一邊學數學，一邊在更廣義的神經系統上工程化神經適應，不只是大腦。 > "如果你真的在乎，你能學得快得多。你可以往腦子裡塞更多token，可以試著提高學習率，這樣你能在更短的時間裡學得多得多。"（紀堯姆·韋爾東） 他建議人們跟隨好奇心，不要尊重領域的邊界，不要被分配給你的工作車道限制住。出去探索，順著鼻子走，儘可能多地把資訊獲取、壓縮排大腦。 他說Beff Jezos那個身份某種程度上就是他的"智力綠巨人"，是生產力綠巨人。當他需要進入高度專注、流暢、興奮的狀態去發明從未存在的東西時，他需要把自己弄到不真實的興奮水平。這就像力量舉裡，你要躺到500磅的槓鈴下面，如果那個開關沒開啟，你可能會死。這種技能他帶到了研究裡，關鍵時刻，賭注很高時，他就能到達另一個級別的神經表現。 ## 死亡為什麼是必要的 Lex問他，從熱力學耗散適應的角度看，死亡是特性還是bug？想不想永生？ 他說不。耗散適應這個詞裡就有"耗散"。耗散重要，死亡重要。物理學裡有句話，物理學是一次葬禮一次葬禮地前進的。 資本主義也一樣。公司、帝國、人，所有東西最終都得死。他認為我們應該延長壽命，因為世界越來越複雜，我們需要更長的訓練期，有更多資料才能預測和理解世界。如果高神經可塑性的視窗有限，我們理解世界的能力就有硬上限。 但他支援死亡。一個永遠不死的國王是個問題，系統不會持續適應。你需要新奇，需要年輕，需要顛覆，來確保系統一直在適應、一直可塑。如果東西永生，比如公司永遠存在、擁有壟斷，它們會鈣化，在變化、隨時間改變的景觀裡變得不那麼最佳化、不那麼高適應度。 > "死亡給年輕和新奇騰出空間，來接替位置。我認為這是自然中每個系統的重要部分。"（紀堯姆·韋爾東） Lex提到，Jeff Bezos和Beff Jezos都同意所有公司都會死。Jeff的目標是"第一天思維"，儘可能長時間地不斷重塑，延長公司壽命。但最終它也會死，因為持續重塑太難了。 Lex問他怕不怕自己的死亡。他說他有想在這個世界上完成的想法和事情，但不一定怕死。他不執著於自己這副身體和心智。他相信未來會有更好的自己，也許是基因上的分叉，也許是別的。他相信在世界每一個位元上都在發生一種類似進化的演算法，透過e/acc描述的過程在適應。維持這種適應性和可塑性，是整臺機器持續最佳化的方式。他不是那個必須永遠存在的唯一最優解，未來會有很多方面更好的最優解。 ## 為什麼我們渴望理解世界 Lex最後問他，這一切的意義是什麼，這臺e/acc機器到底為了什麼。 他的回答是：為什麼就是熱力學。是它把我們帶到這裡，是它造就了生命的形成、文明的形成、技術的演化和文明的成長。 但熱力學又為什麼存在？我們為什麼有這樣一個特定宇宙？為什麼是這些特定的超引數、這些自然常數？這就落到人擇原理和可能宇宙的景觀上。我們身處一個允許生命存在的宇宙。 會不會有很多宇宙？他說不知道。但我們能不能工程化新的宇宙，或者創造口袋宇宙，設定超引數，使我們在那個宇宙裡的存在和它有某種互資訊，我們在某種意義上成了它的父母？他覺得這很詩意，純粹是猜想。這也正是為什麼搞懂量子引力，能回答這件事能不能做。 再往上問，為什麼這一切看起來這麼美、這麼令人興奮？為什麼搞懂量子引力這件事這麼令人興奮？ 他說，就像一個大語言模型試圖最小化自己內部模型和世界之間的交叉熵，我們也在試圖最小化我們的預測和世界本身的統計散度。有些能量尺度、物理尺度的區域，我們看不見、無法預測、無法感知，這對我們來說是一種侮辱。我們想更好地理解世界，以便最好地引導它，或者引導自己穿過它。 這個能力是進化出來的，因為你越能預測世界，就越能捕獲效用或自由能，用於自己的維持和生長。量子引力在知識獲取上是最終的Boss，一旦掌握了它，我們可能能做很多事。但從這裡到那裡，中間尺度上還有太多要學，有太多關於世界的感知、預測和控制的工程要做，好往上爬卡爾達肖夫指數的坡。他說這就是我們這個時代的偉大挑戰。 Lex最後引了愛因斯坦的一句話收尾："如果一個想法一開始不荒謬，那它就沒有希望。" ## 這套東西對普通從業者有什麼用 這場對話裡真正能拿走用的東西，其實不依賴你信不信e/acc。 - 往技術棧的底部走。韋爾東說得很清楚：越靠近底部，知識越不容易過時，遷移學習要跳的距離越短。數學、物理、複雜系統、適應系統，這些東西不會因為你換了個框架就作廢，而上面那層框架可能三五年就換一輪。 - 把一切引數化，讓引數可微分，然後最佳化。這是他從TensorFlow Quantum裡提煉出的元框架，也是物理AI的核心。遇到一個陌生的工程問題，先問自己：哪些是能調的控制引數，損失函式是什麼，能不能對它們求梯度。 - 開一個匿名賬號，在低風險環境裡試沒成形的想法。他的觀察是，對言論的約束會反向傳播成對思想的約束，而匿名能解開這個鉗制。你不需要5萬粉絲，20個也行，關鍵是有一個不用為每句話負責的地方。 - 用"假裝在乎"來啟動學習。他說動機是很好的學習催化劑，先騙自己關心一件事，然後你會真的開始關心。這比等熱情自己到來靠譜得多。 - 招人時優先看流體智力和開放性，而不是某個子系統的深度專長。在從零開創的領域裡沒有教科書，你需要的是能快速吸收陌生概念、願意被教也願意教別人的人。 - 判斷一個安全或監管提案時，先問一句：這條規則會讓權力更集中，還是更分散？他的核心擔憂有歷史先驗作底，也就是權力過度集中之後人類做過什麼，科幻片裡的場景不在其中。這個提問方式你可以用在任何一個政策上。 - 面對恐懼驅動的預測時，要求對方給出那條因果鏈上每一次狀態轉移的機率。這不需要你懂量子力學，只需要你追問：從A到B這一步，憑什麼？ - 把失敗和淘汰當成系統功能而不是缺陷。公司會死，人也會死，他給出的理由是系統需要持續適應，需要年輕和新奇來騰位置。把這個視角用在自己身上，就不必執著於某一版自己必須永遠是最優解。