# 揚·勒昆：智慧的暗物質與自監督學習 > 圖靈獎得主勒昆講解自監督學習如何成為智慧的暗物質，展望通向通用人工智慧的路徑。 - 原標題：#258 – Yann LeCun: Dark Matter of Intelligence and Self-Supervised Learning - 期數：第 258 期 - 釋出日期：2022-01-22 - 嘉賓 / 主題：揚·勒昆 - 網頁版：https://lex.qiaomu.ai/tw/ep/yann-lecun-2/ - 官方頁面：https://lexfridman.com/yann-lecun-2/ - 精讀字數：約 8844 字（閱讀約 20 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 一個十幾歲的青少年，平均二十個小時的練習就能把車開上路。一輛自動駕駛汽車，哪怕在模擬器裡跑過幾百萬小時，還是學不會。揚·勒昆（Yann LeCun）每次講自監督學習，都會拿這個對比開場。在他看來，這個差距裡藏著當前人工智慧最要命的一塊缺失。 人類憑什麼二十小時就能學會？靠的是此前十幾年攢下的背景知識。你在真正坐進駕駛座之前，已經看過無數次車在路上跑，已經摸清了物體的基本物理規律。勒昆舉的例子是：你開車貼著懸崖走，方向盤往右一打，你立刻知道車會衝下崖去，不會有什麼好結果。這個判斷不需要你真的掉下去過。 換成沒有世界模型的強化學習系統，它得先真的掉下去幾千次，才知道這不是好主意；再掉幾千次，學會怎麼避免；再掉幾百萬次，才能在每一種會遇到的情況下都避免。同樣的任務，一個靠背景知識，一個靠反覆摔打。差距就在這裡。 ## 蛋糕分三層，最厚的那層一直沒人認真做 勒昆喜歡把機器學習分成三層，像一塊蛋糕。 - **強化學習**：系統每試一次，只拿到一個標量反饋，幹得好或者幹得糟，而且這種反饋隔很久才來一次。 - **監督學習**：每看一個樣本，系統拿到幾個位元的資訊。比如在 ImageNet 上分一千類，每個樣本大概不到 10 位元。 - **自監督學習**：給系統看一段影片，停下來，讓它預測接下來會怎樣。等時間往前走，把真實發生的事攤給它看，資訊量是一整段未來。 最厚的那層蛋糕，一直是沒人動過的。理想狀態是這樣：把一段影片餵給機器，讓它預測後續，然後等真實世界給出答案，希望它下次預測得更準。這裡的訊號量巨大，因為答案是一整段影片。語言方向已經跑通了這條路，視覺方向還卡著。 嬰兒在生命最初幾個月是怎麼認識世界的？大部分靠觀察。他們還做不了什麼動作，只能躺著看爸媽走來走去、拿東西、開門關門。眼睛睜開，世界出現，閉上，世界消失。這些最基礎的資訊，堆出了我們後來稱為常識的東西。這種學習不針對任何具體任務，也沒有獎勵，只是在看世界怎麼運轉，然後在大腦裡建一個世界模型。勒昆把這塊能力叫作**智慧的暗物質**。 ## 語言先成了，視覺還卡在半路 今天的自然語言處理，幾乎全部建立在自監督預訓練之上。把一句話裡 10% 的詞摳掉，訓練一個巨大的神經網路去填這些空。預訓練完了，把網路內部的表示拿出來，接到任何下游任務上，效果都非常好。 視覺這邊就沒這麼順。影象上的自監督一度只能靠人工設計的資料增強，效果一般。真正的突破口要窄一些：把影象切成不重疊的塊，像 Transformer 處理文字那樣隨機遮住一部分，訓練模型把缺失的部分重建出來。這個思路很接近語言裡那套填空題，而且不需要資料增強，只需要遮擋。勒昆提到 FAIR 團隊最近有篇論文，這條路終於跑出了不錯的結果。 更難的還在影片。讓機器單純靠看影片學會表示視覺世界，到現在都沒人真正做成。**這大概是整個領域最大的一塊未開墾地。** 語言和視覺，哪個更難？勒昆的答案是：越往下做，越發現它們其實是同一樣東西，都是同一塊蛋糕。他現在想找的是那種能讓兩者在方法上長得像同一種東西的辦法，而目前它們還不像。 ## 預測的麻煩在於未來不止一種 學習世界模型，核心難點是預測從來不會給出單一結果。世界也許確定，也許隨機，無論如何你都做不到完全預測。你放一段短影片，讓人預測下一秒會發生什麼，合理的答案有一大堆，而時間跨度越長，可能的走向越多。 語言處理這個問題相對輕鬆。當你說"貓在廚房裡追______"，能填進去的詞就那麼幾個，老鼠、蜥蜴、球。神經網路可以給詞典裡的每個詞打一個分數，十萬個數一列，轉成機率分佈就行。換成視覺，你要預測的東西落在高維連續空間裡，可能的延續有無數種，沒法像詞典裡的詞那樣列成一張有限清單。怎麼把這團不確定性表示出來，現在還沒有靠譜的辦法。 語言裡有另一個更隱蔽的毛病。多個空格之間，模型給出的機率分佈是相互獨立的。你填了"獅子"，同時填"斑馬"的機率，和填"獵豹""瞪羚"的機率互不影響。可現實裡這兩個空格是相關的：獅子攻擊的獵物通常比獵豹大。模型把一份不成立的獨立性假設塞進了整個過程，代價卻不大。 如果有人批評說，這種填空白無非是統計，學不到任何深層概念，也談不上智慧。勒昆的回應是不進這種討論，因為沒意義。他說，智慧完全有可能就是統計，只不過是某種特定形式的統計。**你真正該關心的是用什麼辦法學到世界模型，至於是不是統計，那是次要的。** 批評者常說的另一句是，現在的機器學習不關心因果。勒昆同意這一點，同時也指出現有系統並非完全無視因果。你的世界模型應該把自己的動作當成一個輸入。只有這樣，你才能學到因果模型：知道對世界做什麼干預，會帶來什麼結果。你要麼自己動手試，要麼觀察別的智慧體動手，看它產生的效果，再推斷它和你相似，從中學到東西。 ## 聯合嵌入：一層新蛋糕的做法 處理預測的不確定性，現在有兩條路。 第一條是生成式潛變數模型。你有一個隱藏向量，在某個集合裡變動或從某個分佈裡取樣，輸出就隨之變化，覆蓋一組合理的預測。這條路的麻煩在於，它最終還是要預測畫素。 第二條路是做聯合嵌入。你訓練兩個神經網路，一個看影片的開頭，一個看後續。目標是讓兩段影片的表示儘可能互相可預測，同時對自身又儘量保資訊。那些無法預測的細節，比如地磚紋理的具體走向，會在表示裡被丟掉。這套架構的代表是孿生網路（Siamese Network）。 勒昆坦承，一兩年前他是第一條路的忠實擁護者，那篇和伊尚·米斯拉（Ishan Misra）合寫的《智慧的暗物質》博文就是為它站臺。過去一年半，他徹底改了主意，轉投第二條路。 原因是一批新演算法冒了出來：BYOL、Barlow Twins、VICREG。它們都基於聯合嵌入，都是非對比式的。**所謂非對比，就是不再需要負樣本。**早年的對比學習要求你同時給出相似對和不同對，把相似對拉近、把不同對推遠。這個思路能保證不同輸入產生不同表示，可在高維空間裡要湊出足夠多的負樣本，代價高得離譜。 非對比方法繞開了這個坑，只用正樣本。它保證表示有資訊量，同時讓一個表示能從另一個表示預測出來。這套想法傑夫·辛頓（Geoff Hinton）在上世紀九十年代就和他的學生提出過，之後被冷落了幾十年，直到最近才被撿起來。 > "這大概是我近十五年在機器學習上最興奮的一件事。"（揚·勒昆） 勒昆順帶吐槽了幾句語言的填空白方式。給詞典裡每個詞打一個分數，再轉成機率分佈，這種做法在他看來有點笨。他覺得應該存在更壓縮的表示方式，只是我們還沒找到。 ## 一篇被拒的論文，和它的真實分量 VICREG 這篇論文，全稱是把方差（Variance）、不變性（Invariance）、協方差（Covariance）、正則化（Regularization）拼起來。第一作者是勒昆和讓·蓬斯（Jean Ponce）聯合指導的博士生阿德里安·巴爾代（Adrien Bardes），在 FAIR 巴黎做研究。它是 Barlow Twins 的後續工作。 勒昆在 NeurIPS 上貼出訊息，說自己參與的一篇論文被拒了，還帶了個引號的"驕傲"。他其實是開玩笑。審稿人給的主要差評是 VICREG 和 Barlow Twins 不夠不同。勒昆的看法是：它大體上就是 Barlow Twins 修掉了幾個 bug 的版本，而最終真正被大家用的會是它。 他說自己早就習慣了投出去的稿子被拒一陣子。**有的論文會被拒，卻因為好用而被大量引用。**他在乎的是這篇東西十年後還有沒有人用，中不中會反倒次要。 順著這件事，他聊到了同行評審這套機制的病。電腦科學有個特色：會議的地位極高，評審過程也比期刊快，能迅速把想法推向社群。但快有快的代價。 最突出的一個現象是，整個領域在指數級膨脹，絕大多數從業者都極其年輕。這直接導致審稿人往往缺乏經驗。而缺乏經驗的人傾向讓評審變簡單，最簡單的做法就是在一篇論文裡挑出一個缺陷。絕大多數論文都有缺陷，好論文也不例外。 > "審稿人讓自己的工作變簡單的方法很直接，你只要在論文裡找到一個缺陷就行。"（揚·勒昆） 他真正在意的標準是：這篇論文裡有沒有一個可能影響別人的新想法？實驗不完美、協議不夠嚴謹，都無所謂。只要裡面有一個值得別人接著想、接著改的點，這篇論文就有價值。可惜現實中，順著主流方法做點增量改進的論文，比提出新想法的論文更容易過審。 出路在 arXiv，也在 Twitter 這種野生評審場。勒昆十幾年前就寫過一份評審系統的提案：你把論文放到倉庫裡，任何人都可以組建一個相當於評審委員會的團體，公佈成員名單，然後自主決定要不要評審某篇論文。論文和發表渠道之間不再有排他關係。評價和評論都是公開的，署名到具體的評審團體。哪個團體的判斷能預測一篇論文未來的成功，它的聲譽就上升，成員也跟著受益。 他當年甚至有個圖書情報學和計算機雙學位的學生，把這套聲譽機制的公式都推出來了。可惜到現在，除了 iClear 沿用了公開評審這條，其餘部分大多又退回到了傳統的會議模式。他對此是有點失望的。 ## AI 未來十年要跨過的三個坎 勒昆把機器學習剩下的挑戰歸結成三件事。 - **讓機器學會表示世界。**他給出的答案是自監督學習。 - **讓機器以能和梯度學習相容的方式做推理。**深度學習本質就是梯度學習，推理必須嵌入這套框架。 - **讓機器自發學出行動計劃的層級表示。**感知上的層級表示，卷積網路和 Transformer 已經會了；行動計劃上的層級表示，他坦承自己完全不知道怎麼做。 第三件事能接上一套很老的工具：模型預測控制（Model Predictive Control），上世紀六十年代就有，NASA 用它算火箭軌道。你有一個關於被控系統的預測模型，給它當前狀態和一個動作，它吐出下一刻的狀態。這套模型如果寫成可微的形式，你就能把一串假設的動作展開到未來，看看最終狀態能不能達到目標，再透過時間反向傳播，找出最優的動作序列。 > "這就是一種推理，本質上就是規劃。"（揚·勒昆） 把方向盤打向懸崖會怎樣，你在腦子裡跑一遍模型就知道，不需要真的試。挑出最有利的那個走向，邁出第一步，然後再重新規劃一次。這套東西叫滾動時域控制，名字聽著唬人，原理幾十年前就定了。 古典最優控制裡的世界模型通常是人手寫出來的，或者是近乎確定的。AI 真正的難題是：讓機器自己學出一個能應付真實世界複雜性的預測模型。火箭的軌跡可以還原到第一性原理，機械臂的軌跡可以精確建模，但水、樹、樹枝、人的行為，這些涉及集體現象的複雜系統，人類隨手就能建出抽象表示和預測模型，機器到現在還不會。 ## 意識可能是大腦受限的副產品 話題轉到意識。勒昆先說不知道意識是什麼，然後給了個類比：十七、十八世紀，人們發現眼睛成像的原理，影象落在視網膜上是倒的。那你為什麼看到的世界是正的？這個問題在當時很讓人困惑，以今天的科學看，它本身就沒意義。 他關於意識有一個猜想。人的前額葉皮層大致就是那個世界模型引擎。你在專注某件事時，注意不到別的。這說明我們腦子裡只有一個這樣的引擎，它可以根據當前情形重新配置：造一個木箱、開車、下棋，共用同一套機制。這也解釋了為什麼我們一次只能專注一件事。 重複做的任務會從這種刻意推理，下沉到潛意識，變成自動的。國際象棋大師不用為每一步想十五分鐘，他幾秒鐘就反應，因為下棋對他已經變成模式識別。開車也一樣，頭幾十個小時你全神貫注，練夠五十個小時，就能一邊開一邊聊天，除非路況忽然變得難以預測，你才會閉嘴。 > "意識來自大腦的受限，未必來自心智的強大。因為我們只有一個世界模型，所以我們必須有意識。"（揚·勒昆） 如果一個人擁有和遇到的情境一樣多的世界模型，他就能同時處理所有事，也壓根不需要那種被稱為意識的執行控制。 至於那個讓哲學家頭疼的"感受"問題，為什麼資訊處理會帶來主觀體驗，勒昆的態度有點實用主義。他認為這可能只是進化帶來的一個漂亮的副作用。讓你對自己做出的決定、產生的感知、維持的模型有一種"擁有感"，因為這是你唯一擁有的東西，弄丟了會非常糟，所以大腦需要給自己發出這樣的訊號。 ## 自主智慧必然有情緒 如果機器真學會了世界模型這套東西，接下去會怎樣？勒昆認為，一個由內在動機驅動的自主智慧系統，只要它有那種提前預測結果好壞的批評器（critic），它就必然會有情緒。預測到壞結果，它會恐懼；預測到好結果，它會興奮。如果它需要和人打交道，它就會變得社會性，就會有依戀之類的情緒。 > "那個科幻片裡指揮官 Data 身上可以隨時關掉的情緒晶片，我覺得很可笑。"（揚·勒昆） 這套邏輯往下推，就推到了機器人權利、備份、隱私這些問題。 先說備份。如果一臺機器可以隨時完美地儲存和還原心智狀態，那我們對死亡的理解會變。謀殺的分量會下降一檔，與此同時，人類做危險事情的慾望可能會上升，跳傘、賽車、特技飛行都無所謂了，反正有備份。勒昆的兒子們做遊戲，他舉了《暗黑破壞神》的硬核模式：死了就是死了，沒有存檔。**將來很可能出現一種規則，讓某些機器人不許備份，複製它的心智是違法的。**理由和克隆類似，你可以造一個延遲出現的雙胞胎，但那不是複製一個完整的心智。 再說隱私。設想五年後你有一臺家用機器人，它來的時候帶一點預訓練能力，性格和別的機器人略有不同，在你家待了五年，學到了很多關於你的事，你也對它有了感情。它突然想離職，去給別人幹活。你現在要問的是：它腦子裡那些關於你的資訊，你能刪掉嗎？你為了隱私，有權抹去一個智慧機器人的記憶嗎？ 對人類，你沒有這個權力。你只能請求對方閉嘴，不能清空對方的大腦。機器人很可能也會走到這一步。勒昆的觀點是，如果機器人被設計成可以深入互動，那它就不能被隨便刪除，這跟殺人沒什麼區別。風險本身就是深度體驗的一部分：你得能失去你的機器人朋友，也得能承受它跑去推特上吐槽你有多混蛋。 ## FAIR 八年，和那些潑向 Meta 的水 回到他工作的地方。FAIR（Facebook AI Research）成立差不多八年了。勒昆回憶，他剛加入 Facebook 時，公司裡只有一個 AI 組，十來個工程師加兩個科學家。他做了三年半的負責人，招了第一批科學家，把文化立起來，也向公司高層解釋清楚什麼是基礎研究、它如何在工業環境裡做、為什麼必須開放。 他給這段歷史的評價是成功的。FAIR 一邊產出頂級研究成果，一邊輸出 PyTorch 這樣的開源工具，同時還以直接或間接的方式反哺了 Facebook 後來變成 Meta 的業務。他半開玩笑地說，要是把深度學習從 Meta 的服務裡抽走，這家公司會直接垮掉。 三年半後他轉為首席科學家，不再管日常，開始做自己的研究，專攻自監督學習。現在 FAIR 由兩位負責人共同管，分成兩塊：FAIR Labs 偏自下而上的科學驅動研究，FAIR Excel 偏組織化的大專案，需要更多工程支援。這兩塊又都隸屬於更大的 Meta AI，Meta AI 又歸到現實實驗室（Reality Lab）之下。 至於 FAIR 這個名字，他傾向於保留縮寫，把 F 的含義改成 Fundamental。品牌部門還在糾結，他猜不透最終結果。他還提到，手勢感應那套機器人觸覺研究其實是 FAIR 的專案，觸覺手套才屬於現實實驗室。 訪談裡繞不過去的一段，是 Meta 在媒體上的形象。勒昆的立場很直接：媒體描述的那個公司，和他在內部看到的完全是兩回事。他是副總裁，能看到相當多東西，雖然不參與內容稽核的決策，但那個"邪惡"他看不見。 他擺出幾組研究。有人做過實驗，付錢讓前南斯拉夫地區的人停用 Facebook 幾周，結果這些人反而比原來更極端，用 Facebook 多的人反而沒那麼極端。斯坦福的經濟學家研究美國政治極化的成因，發現極化在過去四十年裡持續上升，而這個趨勢在馬·扎克伯格出生之前就開始了，如果真有原因，那也不是 Facebook。德國西部、丹麥這些同樣高頻使用 Facebook 的地方，極化程度反而在下降。想找替罪羊總能找到，想找原因就找不到。他真正氣的是，別人乾的事被算到 Facebook 頭上，而那些真該被追問的人卻沒人去問，包括刊登那些報道的《華爾街日報》的老闆。 他給的類比是印刷機。印刷機剛出現時，印的多是《聖經》，普通人不用再靠神父轉述經文，結果催生了新教運動，接著是兩百年宗教迫害和戰爭。**社會網路帶來的副作用，遠遠沒有印刷機那麼大，可沒人會說印刷機是個壞主意。** ## 複雜性活在觀察者的眼睛裡 勒昆提到，把他引進神經網路這行的，是簡單元素互相作用後湧現出複雜行為這件事。他大學時讀到一本講喬姆斯基和皮亞傑辯論的書，裡面西摩·帕佩特（Seymour Papert）在談感知機，他順著這條線一路讀下去，翻到了一批五十、六十年代關於自組織系統的會議文集。 其中一位叫海因茨·馮·福斯特（Heinz von Foerster）的德裔物理學家，後來在伊利諾伊大學創辦了生物計算機實驗室。他有個例子：在一艘沒有重力的飛船裡，放一個裝滿條形磁鐵的大盒子，輕輕搖晃，磁鐵會自己粘成複雜結構。這就是自組織。神經網路也是一種自組織。 馮·福斯特也在追問怎麼度量複雜性。這個問題今天依然沒解決。柯爾莫哥洛夫複雜度把一段位元串的複雜度定義為能生成它的最短程式的長度，可這個定義帶一個任意大的常數。貝葉斯框架下，複雜度就是機率的負對數，看起來良定義，可你仍然需要先驗，而先驗和"選哪臺計算機"扮演了同一個角色。所有度量都帶一個任意常數。**如果連複雜性的度量都不乾淨，想談清楚"事物如何變得更復雜"就不可能。** 他舉了一個很妙的例子。拿 MNIST 手寫數字，畫素之間有區域性相關性，整體看有結構。現在對所有畫素做一次固定的隨機置換，你再看這些圖，會覺得亂得多、複雜得多。可它的絕對複雜度一點沒變，只是你不知道那個置換。給你一副能撤銷置換的眼鏡，原本混亂的東西立刻變簡單。假如有一種外星人天生戴著"置換眼鏡"，那我們眼中簡單的，對他們是噪聲；我們眼中複雜的，對他們是熱。複雜性真的活在觀察者眼裡。順著這個邏輯，我們將來可能識別不出外星生命，因為雙方的"區域性性"概念根本不一樣。 ## 在車庫裡造一支電子薩克斯 訪談快結束時，勒昆聊起了他動手做的電子管樂器（EWI）。他是風琴樂器玩家，學過巴洛克和文藝復興音樂，高中時在樂團吹豎笛、克魯姆管，也摸過一點雙簧管。他一直想玩即興，唯一的辦法就是去吹電子管樂器，指法和薩克斯接近，音色靠合成器控制。 他買了雅馬哈、赤井的幾款產品，從八十年代末用起，可他始終不滿意，因為不夠有表現力。你聽約翰·科爾特蘭（John Coltrane）吹兩個音，就知道是他；聽邁爾斯·戴維斯（Miles Davis）吹小號，一聽就知道。這種辨識度來自演奏者自身的生理結構，聲道的形狀塑造了聲音。電子樂器怎麼做到這一點？這是個大問題。 他在伯克利認識了一位叫大衛·韋塞爾（David Wessel）的教授，對方創辦了音樂技術中心，也在琢磨這件事。疫情來了，他天天待在新澤西的工作間裡，那裡同時是家和 Zoom 房間，於是終於認真動手做起了自己的電子管樂器。 工作間裡堆著各種用微控制器搭的電路和古怪的飛行裝置。他對飛行的愛好是家傳的：父親是機械工程師，六十年代末七十年代初自己搭遙控系統，小時候把他帶進了模型飛機和電子學。他還自己用微控制器、陀螺儀和加速度計搭過四軸飛行器，寫韌體做穩定控制。等到這類東西變成隨手能買的產品，他就沒興趣了。 ## 給想解決大問題的年輕人 最後一段建議，值得完整抄下來給還在讀書的人。 去被大問題吸引。什麼是智慧，宇宙由什麼構成，生命到底是什麼。哪怕問得再離譜也行，比如時間是什麼，沒人真知道答案。然後去打牢基礎，學那些保質期極長的東西。 他在幾個具體方向上給了話。如果你在"學 iPhone 移動開發"和"學量子力學"之間選，選量子力學。你可能會發現許多你根本不知道存在的問題，你也許永遠不會成為量子物理學家，但你會學到路徑積分，而路徑積分到處都能用，它和貝葉斯積分用的是同一個公式。去學經典力學，你會碰到拉格朗日量，這個概念用途極廣。去學統計物理，機器學習裡那一整套數學，大多是十九世紀末、二十世紀初的統計物理學家搞出來的，有些成果更新，比如喬治·帕裡西（Giorgio Parisi）剛拿了諾貝爾獎的複製方法，在機器學習裡應用很廣，變分推斷的數學也來自統計物理。如果你學電子工程，別跳過訊號處理，你會學到傅立葉變換，它支撐著圖神經網路這類全新的 AI 分支。 偏愛應用的，可以看看把深度學習和科學結合的方向。Meta 和 FAIR 的同事做的 Open Catalyst 是個開放協作專案，用深度學習設計新化合物和新材料，去幫助把氫和氧高效分開。如果能用電力高效電解水，氣候變化問題基本就解決了：在沙漠鋪滿太陽能板，白天產氫，把氫運到需要的地方，可控能源和可運輸能源都有了。另一個方向是核聚變，等離子體不穩定，很難控制，也許深度學習能找出穩住它的控制器，收益巨大，雖然還很投機。 這些技術最終都要在人類世界裡運轉，而人類世界很複雜。所以你最好也讀一點文學和歷史，從中拿點靈感和智慧。 整場對話下來，勒昆反覆回到同一個判斷：**智慧的本質是預測，而預測能力的底座，是從觀察中自監督地建起世界模型。**這條路他認定是最有戲的，也是他把自己投進去的方向。他在某個節點上也承認，這件事比馬斯克那些人以為的難得多，可能要好幾年甚至十幾年才能讓人看清。這不妨礙他繼續做下去。 對讀者來說，這場對話能落成的行動大概有這麼幾條： - **把學習重心放到保質期長的知識上。**數學、物理、工程裡的基礎方法，幾十年後還在用；某個框架、某款 SDK 的熟練度，幾年就過期。 - **用一個具體專案去驗證一套理論。**勒昆講模型預測控制，就拿開車貼懸崖舉例；講聯合嵌入，就拿 VICREG 的程式碼說話。你要能在自己的場景裡跑通一次，才算真懂。 - **別把審稿意見當成判決書。**被拒的論文會因為好用而被大量引用。判斷一篇工作價值的，是它有沒有值得別人接著走的想法，發在哪個會上反倒次要。 - **留一個動手的愛好。**勒昆做電子樂器、搭四軸飛行器，這些和他在 AI 上的工作看似無關，卻共享同一套思路：理解一個系統最好的辦法，是親手把它造出來。 - **想清楚要建什麼樣的世界模型。**無論你做產品、做研究還是做決策，真正拉開差距的，往往是你對"這件事背後世界怎麼運轉"那層理解的厚度，某個具體任務的技巧反而次要。