# 楊立昆：Meta AI、開源、大語言模型的侷限、AGI 與 AI 的未來 > 圖靈獎得主楊立昆談 Meta 的 AI 研究、開源路線之爭、大語言模型的能力邊界，以及通向 AGI 的可能路徑。 - 原標題：#416 – Yann Lecun: Meta AI, Open Source, Limits of LLMs, AGI & the Future of AI - 期數：第 416 期 - 釋出日期：2024-03-07 - 嘉賓 / 主題：楊立昆 - 網頁版：https://lex.qiaomu.ai/tw/ep/yann-lecun-3/ - 官方頁面：https://lexfridman.com/yann-lecun-3/ - 精讀字數：約 10931 字（閱讀約 24 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 楊立昆（Yann LeCun）在 Lex Fridman 的播客裡把話說得很死：自迴歸的大語言模型不是通往人類級智慧的那條路。 他給的理由是一張清單。一個智慧體要能理解世界，尤其是物理世界；要有持久記憶，能記住也能檢索；要能推理；要能規劃。GPT-4、Llama 2 這一代模型，這四件事要麼做不到，要麼只做到極原始的程度。 > 它們一個都做不到，或者只能以極原始的方式做到。它們並不真正理解物理世界，沒有真正的持久記憶，不會真正推理，當然也不會規劃。（楊立昆） 他不否認這些東西有用，也不否認圍繞它們能長出整個應用生態。但那和"通向人類級智慧"是兩件事，他把這兩件事分得很開。 ## 十七萬年的閱讀量，抵不過一個四歲小孩四年看到的東西 今天最強的 LLM，訓練資料規模大概是 10 的 13 次方個 token。每個 token 兩個位元組，也就是 2×10 的 13 次方位元組。一個人每天讀八小時，把這些內容讀完需要 17 萬年。 聽起來是天文數字。換一個參照系就完全不是了。 發展心理學家算過，一個四歲的小孩清醒時間累計約 16000 小時。這四年裡抵達他視覺皮層的資訊量，大約是 **10 的 15 次方位元組**。這個數可以自己推：視神經的頻寬大約每秒 20 兆位元組，乘以清醒的秒數，量級就出來了。 10 的 15 次方，對比 2×10 的 13 次方，差了兩個數量級。 也就是說，人類透過感官拿到的資訊遠遠多於透過語言拿到的。我們以為自己大部分知識來自讀書和對話，實際大部分來自觀察和與真實世界的互動。生命最初幾年學到的東西，以及所有動物學到的所有東西，都和語言沒有關係。嬰兒在最初幾個月對世界毫無影響力，只能觀察，僅憑觀察就積累了巨量的知識。 ## 語言是已經被壓縮過的低頻寬通道 Lex 在這裡頂了一下。語言本身就是高度壓縮的，一句話包含的資訊比存它用的位元組多得多。人類的智慧、詞語、拼接方式，本身就是一份濃縮的世界知識。那麼有沒有可能，光靠語言就重建出世界模型？ 楊立昆的回答是不能，因為語言只記錄了能夠被語言描述的那部分現實。 這是哲學和認知科學裡的一場老辯論：智慧是否需要紮根在現實中。他屬於明確的一派，認為智慧不可能脫離某種現實憑空長出來。這個現實不必是物理的，也可以是模擬的，但環境本身就遠比語言能表達的東西豐富。語言只是知覺和心智模型的粗略近似。 他舉了自己最常用的例子。把桌上這個水瓶轉 90 度，你腦子裡浮現的是那幅影象，用不上任何一句話。你要從椅子上站起來，走到樓下，攔一輛計程車去機場，這個過程中涉及的規劃，很難用語言完整寫下來。我們日常做的絕大多數任務，都在操作一個當前情境的心智模型，和語言無關。 機器人領域的先驅莫拉維克提過一個悖論（Moravec paradox）：為什麼下棋、解積分這種高階複雜的事，計算機做起來很輕鬆，而學開車、抓東西這種我們習以為常的事，計算機做不到？ LLM 能透過律師資格考試，看起來聰明極了。但它沒法像任何一個 17 歲少年那樣，用 20 小時學會開車。它也沒法像任何一個 10 歲小孩那樣，看一遍就學會收拾餐桌、把碗放進洗碗機。它缺的是一層結構，讓這些知識能在真實世界真正運轉起來。 ## 影片裡有一道生成式模型過不去的坎 有人會說，那就給 LLM 接上視覺。把影象編碼成一串 token 餵給它，不就行了？ 楊立昆管這叫打補丁。現在市面上帶視覺能力的模型基本都屬於這一類。它們沒有被訓練去理解世界，沒有用影片訓練過，不懂直覺物理。 真正的原因在於資料的性質不一樣。文字是離散的，字典有限，模型預測下一個詞時，可以輸出一個在整個詞表上的機率分佈，從中取樣就行。影片是連續的高維空間。要照搬這套玩法，你得預測"所有可能下一幀"的機率分佈，而人類至今不知道怎麼在有用的意義上表示高維連續空間上的分佈。 舉個具體的場景。假設鏡頭在這間屋子裡掃過一圈，模型可以猜到這裡有一盞燈、有一面牆，但它沒法預測牆上那幅畫的具體樣子，沒法預測沙發的紋理，更別說地毯的紋理。這些細節在給定條件下就是不可預測的。 過去十年，FAIR 的同事和他試過很多辦法。一種思路是引入潛變數（latent variable），讓神經網路用一個變數去承載"你還沒看到、但為了預測畫素必須補上"的資訊。他們試過樸素的神經網路，試過 GAN，試過 VAE，試過各種正則化自編碼器。全部失敗。 另一條路是拿損壞過的影象或影片去重建完整版本，指望系統在內部長出好的表示，再拿去做分類或分割。這套路在文字上極其成功，就是 LLM 的看家本領。搬到影象上，比如 FAIR 自己做的 MAE（掩碼自編碼器），挖掉一些圖塊讓模型補全，效果就是不行。判斷依據很直接：同一套編碼器架構，改用有標籤資料、用影象的文字描述做監督訓練，得到的特徵質量明顯更好。架構本身沒毛病，卡住的是"用重建來訓練"這個目標，它引導不出好的通用特徵。 ## JEPA：不預測畫素，只預測抽象 他給出的替代方案叫 JEPA，聯合嵌入預測架構（Joint Embedding Predictive Architecture）。 做法是這樣：拿一張完整影象，再拿它的一個損壞或變換版本，各跑一遍編碼器，得到兩個表示。然後訓練一個預測器，從損壞版本的表示去預測完整版本的表示。 關鍵差別在於，它不生成輸入本身，只預測輸入的抽象表示。LLM 和所有重建式系統都得把每個畫素、每個細節吐出來，算力大量花在這上面。JEPA 把這一步省掉了。 省掉之後還有一個副作用，而且是好的副作用。影象裡有很多東西不可預測，也不值得預測，比如馬路邊被風吹動的樹葉，它們的運動近乎隨機。編碼器會把這些細節當成噪聲濾掉，只保留"有樹葉在動"這個層面，不去記每一片葉子。於是表示層的抽象程度被自動抬高了，預測也變簡單了。 訓練這類架構有個老麻煩叫表示坍縮。如果只讓系統把兩個版本的表示拉近，它會偷懶，直接忽略輸入，輸出一個常數，損失函式照樣很低。怎麼防住這件事？ 九十年代的辦法叫對比學習。除了給相似的樣本對，還得給明顯不同的樣本對，把它們的表示推遠。楊立昆 1993 年就寫過這方面的論文。對比學習的代價是，當答案空間很大時，需要展示的負樣本數量會爆炸。 所以他現在更偏好非對比方法。只需要給同一物體的不同視角，靠別的機制防止坍縮。這一類方法在過去三四年裡才真正成熟，FAIR 貢獻了其中幾個，包括 DINO 和 I-JEPA，DeepMind 的 BYOL 也屬於這一路。 I-JEPA 的特別之處是它不需要知道自己在處理影象。直接把畫面裡的一塊區域挖掉，讓系統去預測缺失部分的表示就行，不需要做旋轉、模糊、調色這些明顯屬於影象的操作。 再往上一層的版本叫 V-JEPA，同一套思路用在影片上。做法是把一段影片裡的一個時間管（temporal tube）遮住，通常是連續 16 幀裡的同一塊區域，然後訓練系統從被遮的影片預測完整影片的表示。這是他們第一個真正學到高質量影片表示的系統。把這些表示接到一個有監督的分類頭上，判斷影片里正在發生什麼動作，準確率相當好。 還有一個更新的結果：這套表示似乎能讓系統分辨一段影片在物理上是否可能。物體憑空消失、瞬間跳位、改變形狀，它都能識別出來。楊立昆說這是很新的東西。 ## 我們從不用量子場論描述一張桌子 這套設計背後是一個更根本的判斷：世界必須被分層描述。 我們描述任何現象，都是選一個抽象層級，從來不會把所有現象還原到量子場論，那在計算上不可能。從量子場論，到原子理論、分子、化學、材料，再到現實裡具體的物體，每一層都有自己的語言。JEPA 想做的就是在自監督中學會這種分層表示，而且可以逐層疊加。 語言之所以能讓 LLM 走這麼遠，恰恰因為它已經被壓縮過了，已經丟掉了大量不可預測的資訊，抽象層級是先天的。文字省掉了 JEPA 要費勁去做的那一步，所以直接預測詞就能奏效。這是語言的便宜，也是它的天花板。 楊立昆在這裡說了一句很刺耳的話。現在把視覺編碼器接到語言模型上，本質是在用語言當柺杖，去補視覺系統學不出好表示的短板。這麼做的後果是，語言模型可能被影象喂得更強了，但它依然到不了貓和狗理解世界的水平。 貓狗沒有語言，可它們對世界的理解勝過任何一個 LLM。它們能規劃相當複雜的動作，能預演一組動作的結果。在把語言接進來之前，先得讓機器學會這件事。 > 如果你真的關心人類級 AI，就放棄生成式 AI 這個念頭。（楊立昆） ## 幻覺不是偶然故障，是數學 自迴歸生成有個必然結果。每生成一個 token，都有一點機率把整句話帶出正確答案的集合。假設這個出錯機率在各 token 之間獨立，那麼隨著 token 數增加，答對的機率是指數衰減的。錯誤會累積，**漂移是指數級的**。 Lex 反問，訓練集裡真理在平均意義上是被充分表達的，會不會存在一種拉回真相的引力？ 楊立昆說沒有，這是在和高維空間的詛咒搏鬥。 能做的補救是用人的提問去微調。提問的人終歸是人，問題之間高度相似，收集一批資料能覆蓋住大概 80% 的常見提問，模型在這些問題上的表現會好。但剩下的是一個巨大的長尾。在所有可能的提問構成的集合裡，被訓練覆蓋到的比例小得可憐。 於是就有了各種越獄方式。往提示詞裡塞一段隨機字元，足夠把系統推到一個完全不同的應答模式裡。或者用英文問一個問題得到正常回答，然後把其中幾個詞換成另一種語言的同一個詞，回答立刻變成胡話。 他說，這個長尾問題社交網路早就領教過了。最終這類系統會退化成一個巨大的查詢表。而查詢表不是我們想要的，我們想要的是能推理、能規劃的東西。 ## 每個 token 的算力恆定，這件事本身就說明了問題 怎麼判斷 LLM 的"推理"有多原始？楊立昆給了一個可量化的標準。 生成每個 token 消耗的算力是常數，大致等於預測網路的層數乘以 token 數。問題簡單、問題複雜、問題根本不可判定，花掉的算力都一樣。人類不是這麼運作的。碰到複雜問題，我們會花更多時間去想，因為難。這種在推理時按難度分配算力的能力，LLM 現在沒有。 他把這套機制和心理學裡的系統一、系統二對應起來。系統一是那些熟練到不需要刻意思考就能完成的事，老司機一邊開車一邊聊天，老棋手對新手不看棋盤也能贏。系統二需要規劃，需要呼叫內部世界模型，想一陣子再落子。AI 目前只有系統一。 那系統二長什麼樣？他的設想是用基於能量的模型（energy based model）。整個網路只有一個標量輸出。給它兩個輸入 X 和 Y，輸出接近零表示 Y 和 X 相容，輸出正數表示不相容。 有了這個函式，產生答案的方式就變了。系統在抽象表示空間裡搜尋一個能量最低的答案，從左到右逐個吐 token 的那套流程被換掉了。它先在概念層面完成最佳化，再把那個想法交給一個解碼器翻譯成文字。整個過程發生在推理時，這時模型引數是固定的。 為什麼要在連續空間裡做這件事？因為整個系統可微，可以直接用梯度下降去修改答案的表示，一點點逼近最優解。LLM 選擇了另一條路，在離散的 token 序列空間裡做最佳化，辦法是生成一大堆候選再挑最好的，效率極低。 能量模型有兩類訓練方法。對比方法要喂進錯誤的 Y，把它的能量推高，RLHF 裡那個獎勵模型本質上就是這個東西。非對比方法他更偏好，做法是壓低訓練集中相容樣本對的能量，同時用一個正則項限制低能量區域的體積，靠這個保證其他地方的能量自動升高。目前 LLM 裡其實也隱含地做了防坍縮，只是因為詞表上的機率必須歸一化，給一個詞高機率就自動等於給別的詞低機率。這套機制非常間接，楊立昆的原話是，它為什麼能奏效其實並不顯然。 ## 強化學習能少用就少用 他常被貼上"討厭強化學習"的標籤。他自己的表述要溫和一些：用還是可以用，用量得壓到最低，因為 RL 在樣本效率上糟糕透頂。 正確的順序是先讓系統主要靠觀察學到好的世界模型，再讓它基於這個模型去規劃。規劃能解決大多數問題，用不著 RL。什麼時候才需要 RL？兩種情況下模型會出錯：目標函式沒有真實反映你想要的目標，或者世界模型本身不準。 學騎腳踏車，你對自己會不會摔的判斷可能不準。打格鬥，對手的動作和你的預判不一樣。出現這種偏差時，需要調整世界模型或目標函式，這才是 RL 的地盤。 他還補了一句，提前調整世界模型的辦法是去探索那些模型明顯不準的區域。這事有個更日常的名字，叫好奇心，或者叫玩。玩就是在不冒真實風險的前提下探索，在不出人命的情況下把自己的世界模型修好。 至於 RLHF 為什麼效果好，他的拆解是：真正起作用的是 HF，是人的反饋。人的反饋有好幾種用法，其中一部分純粹是監督學習。讓人去給多個回答打分，訓練一個目標函式來預測這個分數，再用它微調模型。這套東西和上面說的規劃用的目標函式幾乎是同一個東西，區別在於它現在的用途是改引數，規劃那套玩法還沒啟用。他順口說，如果用來規劃會高效得多。 ## 開源為什麼是唯一出路 Gemini 1.5 釋出後惹了不小的麻煩。生成黑皮膚的喬治·華盛頓，被問到天安門廣場和坦克人時拒答或含糊其辭，社交媒體上一片譁然。楊立昆在推特上的回應只有一句：開源是答案。 他的邏輯分兩層。 第一層，不存在一個對所有人都無偏的系統。 > 偏見在觀察者眼裡。（楊立昆） 事實層面有一些不可爭議的東西，但大量內容是可以有不同表述的。你往一個方向調，一群人覺得有偏；往另一個方向調，另一群人覺得有偏。調過頭還會直接導致事實錯誤，比如生成穿納粹軍裝的黑人。所以"做一個所有人都覺得無偏的系統"這件事，技術上有挑戰，但在定義上就不可能完成。 第二層，既然單一系統無法讓所有人滿意，答案就只能在多樣性裡。他拿自由民主社會對新聞業的態度作類比：新聞必須自由而且多樣，因為把所有資訊交給單一來源，本身就與民主背道而馳，也和科學背道而馳。科學的進步靠的就是不同意見的爭論，最後形成共識。 而未來是，我們與數字世界的每一次互動都會被 AI 系統中介。Meta 已經在賣帶攝像頭的 Ray-Ban 智慧眼鏡，可以對著外文選單問它這是什麼，可以做實時翻譯。搜尋引擎會變成對話系統。這意味著這些 AI 系統終將成為人類全部知識的倉庫，而**這個倉庫不能由美國西海岸的幾家公司獨佔**。 他說他跟法國政府聊過很多次，法國政府不會接受本國公民的數字食譜被三家美國公司掌控。這和善意與否無關，這是對民主的威脅，也是對本地文化、價值觀和語言的威脅。 他舉了兩個例子。印度 Infosys 的創始人正在資助一個專案，微調 Meta 開源的 Llama 2，讓它講印度全部 22 種官方語言。他的前同事 Moustapha Cissé 回到非洲，在做面向塞內加爾本地語言的 LLM，目的是讓當地人能獲得醫療資訊，那裡的醫生密度極低。這兩件事都只有在開源平臺上才可能發生。 > 我看到的透過專有 AI 系統集中權力的危險，比其它一切危險都大得多。（楊立昆） 商業上怎麼算這筆賬？Lex 擺出了那個數字：扎克伯格在影片裡提到 35 萬塊英偉達 H100，光顯示卡就是幾百億美元，還不算配套的基礎設施。楊立昆的回答是商業模式問題。Meta 的模式是提供有龐大使用者基礎的服務，靠廣告或企業客戶變現。比如一家夫妻店披薩鋪，透過 WhatsApp 讓 AI 接待點單，問清楚尺寸和配料，這是商家願意付費的服務。既然這套系統為了自己的客戶群本來就要建，把基座模型開源出去並不虧。別人在上面做出好應用，Meta 可以直接買下來。 他給了一個已經發生的資料：**Llama 2 的下載量以百萬計**，有成千上萬的人提供了改進思路，也有成千上萬的企業在它上面搭應用。 ## 生物武器與火箭發動機 關於 LLM 會不會降低製造生物武器的門檻，他的態度是不成立。越來越多的研究指向同一個結論：已經有搜尋引擎和圖書館的人，從 LLM 那裡拿不到額外的東西。 更關鍵的是第二層。拿到一份製造化學武器或生物武器的說明，和真的把它造出來，中間隔著的距離比大多數人想象得遠得多，而 LLM 在這段路上幫不上忙。化學武器和生物武器都被國際條約禁止，原因之一是使用它們很難不反噬自己。他順手舉了火箭發動機：他可以把精確的製造步驟列給你，但哪怕你有 50 個經驗豐富的工程師，也得先炸掉十幾臺才能得到一臺能工作的。 這裡又繞回莫拉維克悖論。把紙面指令變成物理世界裡的實物，需要大量不寫在指令裡的知識。有生物學家在網上回應那些擔心，大意是，你知道實驗室裡的活兒有多難幹嗎，這可不輕鬆。 ## 通用人工智慧不會是一個事件 他反覆強調一點：AGI 不會在某個時刻被"發現"，然後某臺機器被開啟，人類就進入了新時代。好萊塢的敘事就是這個樣子。 真實的路徑是漸進的。會先有能從影片裡學會世界如何運轉、學出好表示的系統。然後會有帶大容量聯想記憶、能記住東西的系統。然後會有能推理和規劃的、按目標驅動的系統。最後要把這些拼在一起，還要解決分層規劃、分層表示、按情境重新配置能力這些問題。 他的判斷是這至少需要十年，很可能更久，因為現在還有一堆看不到的坑，沒人知道這個框架裡是否存在簡單解。他說他聽這套"AGI 就在轉角"的說法已經 12 到 15 年了，這些人系統性地錯了，當年他就知道他們會錯。 順帶他把"智慧"這個概念本身拆了。智慧不是線性可比的量，也沒法用一個數字衡量。人類比猩猩聰明嗎，有些維度上是的，但猩猩在森林裡生存所需的大量領域比人類強。IQ 能對人類測出點東西，前提是人類這個物種本身同質化程度很高。換成一個能力分佈完全不同的智慧體，這個指標就沒有意義。智慧是一組技能的集合，加上高效獲得新技能的能力。這組技能鋪開在一個高維空間裡，兩個智慧體之間沒法簡單排出高低。 至於 AI 末日論者，他逐條反駁。 第一個假設，超級智慧的出現是一個事件，因為我們從沒做過，所以第一次就會失控。這條前面已經說過，錯的。會先有和貓差不多聰明的系統，然後一點點往上走，每往上走一步都會同步加上護欄。 第二個假設，越聰明的物種越會消滅別的物種。他說這很荒謬。首先 AI 不會是一個物種，不會和人類構成物種競爭。其次，支配欲不是智慧的自然產物，它必須被硬編碼進去。支配欲、順從、爭奪地位，這些是群居物種的特徵，人類有，狒狒、黑猩猩、狼有，紅毛猩猩沒有。而紅毛猩猩幾乎和我們一樣聰明。 那 LLM 不受控怎麼辦？他的回答是 LLM 確實不受控，但目標驅動的 AI 不一樣，它的答案來自對目標函式的最佳化，而目標函式里可以直接寫進護欄。一條是服從人類，另一條是在傷害他人時不要服從。 當然他也承認這事沒有銀彈，沒有數學證明能保證系統安全。會是一個不斷迭代的設計過程，出錯就修正。他拿渦輪噴氣發動機打比方：這種東西在極高溫度下連續執行 20 小時，可靠到能讓雙發客機以接近音速飛越半個地球，這是怎麼做到的？ 通用原理並不存在。安全是幾十年一點點調出來的。而且通用電氣或者斯奈克瑪內部並沒有一個專門負責安全的獨立部門，安全就長在設計裡，因為更好的發動機同時就是更安全、更可靠的發動機。**AI 也一樣，讓 AI 更好，它就會更安全。** ## 那個試圖給你洗腦的 AI，得先過你 AI 這一關 Lex 提出一個更貼近現實的威脅：一個極其有說服力的 AI，可以操縱人的心智，政府可能拿它當武器。這算不算是 AI 版的核武器？ 楊立昆說不是。區別在於核武器是一次性的、決定性的突破，誰先拿到誰就改變格局。AI 不屬於這一類，任何突破都會極快地擴散。 這個場景是這樣的。某個國家造出一個 AI，試圖說服每一個美國人去投票給某個特定的人。它根本接觸不到你，它只能接觸你的 AI 助手，而你的助手和它一樣聰明。你甚至不會知道這件事發生過。你的助手會說這是垃圾資訊，直接攔下來。垃圾郵件過濾器就是這個邏輯，你不會看到那些郵件，它們在你看不見的資料夾裡被處理掉了。 他給了一個具體數字支撐這個說法：**AlphaGo 釋出後三個月內就被複現了**，而且是在沒有詳細資料的情況下。這個領域不擅長保密，人從一家公司跳到另一家公司，資訊就流出來了。矽谷之所以成功，恰恰就是因為資訊流動得快。 關於對新技術的恐慌，他提了一個網站叫悲觀主義者檔案（Pessimist Archive），裡面收集了幾百年來報紙上那些關於新技術如何毀滅社會的報道。爵士樂、漫畫書背過失業的鍋，曾經有人認真論證火車開過每小時 50 公里人就沒法呼吸。這些是膝跳反射式的反應，幾百年來一直如此。真正的問題只有一個：我們是擁抱變化，還是抵制它，以及哪些是真實的危險，哪些是想出來的危險。 ## 人形機器人還差一個世界模型 特斯拉 Optimus 讓整個人形機器人賽道重新熱了起來，波士頓動力在這個方向上已經做了很多年，現在又多出 Figure AI、宇樹等一批公司。 楊立昆的判斷是，人形機器人會來，但不是很快。接下來十年會很有意思，因為機器人產業已經等了十到二十年還沒真正起來，除了那些預先程式設計好的行為之外。卡住的還是莫拉維克悖論：怎麼讓系統理解世界如何運轉，然後規劃動作。 波士頓動力的路線是用大量手工建的動力學模型和提前規劃，是很經典的機器人學加上很多創新和一點感知。但這條路造不出家用機器人。完全自動駕駛遠未解決，靠行駛 20 小時自學成才的系統更是遙不可及。在沒有世界模型之前，機器人不會有實質進展。現在做機器人硬體的人，某種意義上是在賭 AI 會及時跟上。 FAIR 裡有個叫具身智慧的小組，不自己造機器人，用商用機器人做研究。你可以讓機器狗去冰箱那兒，它能開啟冰箱，還能拿出裡面的罐子遞給你。它能導航，能抓取它被訓練識別過的物體，現在的視覺系統在這件事上做得不錯。但讓它收拾餐桌，遠遠不行。 Lex 提到家用機器人是件很有吸引力的事，因為它能讓人和 AI 在物理空間裡直接打交道，人因此有機會去探索人和機器人之間的關係。楊立昆說，他也希望這件事能快點成。但他們在這個方向上已經摸索了十年，真正有實質進展是最近兩三年。 ## 給想做研究的人：三個還沒有答案的問題 他特別強調，這裡面的很多突破不一定需要天量算力，做博士還有大量空間。他列了三個方向。 一個是靠觀察訓練世界模型，怎麼訓練、需不需要超大資料集，都還開著。也許要像 LLM 那樣靠規模湧現，但他認為很多好想法不需要堆算力。 第二個是用學到的世界模型做規劃。而且這裡的"動作"不限於物理動作。如果系統執行的環境是網際網路，一個動作可以是搜尋、查資料庫、跑一次模擬、呼叫計算器、解一個微分方程，那麼怎麼讓系統規劃出一串動作去解決一個問題？FAIR 做過一個叫 Toolformer 的工作，還有別的規劃相關研究，但他認為沒有好答案。 第三個是分層規劃。從紐約到巴黎這個例子是分層的，幾乎所有行動都帶有分層結構。但在 AI 裡，分層規劃的各個層級表示都必須由人來指定。機器狗從客廳去廚房，我們可以設計一個高層路徑規劃避開障礙，再交給一個低層規劃器，讓它算出腿該怎麼動才能跟上這條軌跡。這套兩級規劃能跑，但兩級之間的劃分是手工設計的。哪一層該用什麼抽象、用什麼表示，全靠人指定。 深度學習能讓人從資料裡學到分層表示的"感知"版本。如果物件換成行動方案，對應的版本是什麼？沒有答案，也沒有任何演示。 他點出的關鍵是，這三個問題目前沒有人有解，也沒人知道解該長什麼樣。打算讀博的人可以拿它當座標。 ## 印刷術、書法家協會，以及我們今天在保護誰 訪談最後，Lex 問了一個大問題：面對戰爭、分裂、仇恨，什麼讓你對未來有希望？ 楊立昆的答案是他反覆講的那一套：AI 會讓人變聰明。每個人都會擁有一批比自己更聰明的 AI 助手，它們聽你調遣，用比你更好的方式完成任務。這就像管理一個團隊，其中有些人比你聰明。他說他這輩子一直在和比自己聰明的人共事，這是件非常美妙的事。 > 人類犯的所有錯誤，歸根結底都是因為智慧不足，或者知識不足。（楊立昆） 智慧是最被需要的商品。讓人變聰明，只可能變得更好。這和公共教育是好東西、書是好東西、網際網路是好東西是同一個道理，社交網路只要運營得當，本身也是好東西。 他把 AI 助手普及這件事在人類史上的對應事件，類比為印刷術的發明。 印刷術讓所有人變聰明瞭。書變便宜了，更多人有了學認字的動力，以前不是這樣。啟蒙運動沒有印刷術就不可能發生。哲學、理性主義、從宗教教條裡掙脫出來、民主、科學，都建立在這上面。沒有印刷術，大概也不會有美國獨立戰爭和法國大革命，我們可能還活在封建制度下。 但印刷術也帶來了歐洲長達兩百年的宗教衝突。因為人們第一批讀到的東西是《聖經》，然後發現神父講的和經文裡寫的可能不是一回事。新教運動由此而起，裂痕由此而生。天主教會不喜歡印刷術，但它沒有選擇。 今天沒有人會說印刷術在總體上起了負面作用，哪怕它帶來了兩百年宗教戰爭。 這個類比裡最有意思的一半在後面。楊立昆說他本來很得意於這個類比，後來發現有人先想到了。他拿奧斯曼帝國作對照。奧斯曼帝國把印刷術禁了兩百年，而且只禁阿拉伯語印刷，拉丁語、希伯來語的書照樣可以印。 他原以為原因很簡單，統治者想維持對民眾和宗教教條的控制。後來他和阿聯酋 AI 部長 Omar Al Olama 聊起這件事，對方告訴他還有另一個原因：**為了保護書法家協會**。用漂亮的字型抄寫詩歌和宗教文字是一門藝術，而這個行會勢力很大，幾乎掌控了帝國的相當一部分。你沒法讓他們失業。 於是問題被拋回來了。今天要禁 AI 的人，到底是在保護誰？ 他不否認技術變革對就業市場的衝擊是個真問題，但他諮詢過的經濟學家告訴他，這不會造成大規模失業，只會讓職業結構逐漸遷移。十到十五年後最熱門的職業是什麼，今天沒人知道。二十年前也沒人能想到移動應用開發者會成為最搶手的崗位之一，那時候智慧手機還沒被髮明。 ## 一封來自未來的操作清單 這場對話裡，楊立昆其實給每個角色都留了具體的活。下面是他給出的具體建議。 - 如果你是研究者或博士生，別把算力當作入場券。他從自監督學習裡列出的三個開放問題，訓練世界模型的表示、用世界模型做規劃、學習分層規劃，都可能在沒有超大規模叢集的情況下做出東西。判斷切入點的標準是：這個問題有沒有清晰的成功判據，能不能被今天的評測證偽。 - 如果你在做產品，把基座模型和最後一公里分開看。基座可以來自開源，真正的壁壘在你的私有資料、在你的垂直場景、在你能把系統調到多貼合具體使用者。塞內加爾的醫療資訊、印度的 22 種官方語言、一家出版社的幾千本書，都是這個邏輯。 - 如果你在評估風險，先問這個問題：它是不是一個事件。核武器是事件，誰先拿到誰改格局。AI 走的是一條不同的路徑，它是連續進展，任何突破都會在幾個月內擴散。判斷一項 AI 危險性的第一步，是分清它屬於"一次性突破"還是"可復現的能力"。 - 如果你擔心模型偏見，別指望做出一個讓所有人都滿意的系統，那在定義上就不可能。可行的做法是讓系統足夠多，讓每個人都能找到貼合自己價值觀的那個。這意味著支援開源、支援微調生態。指望某一個模型對所有問題都給出一致答案，那條路走不通。 - 如果你在做安全護欄，與其貼在產品外面，不如寫進目標函式。目標驅動的架構裡，護欄是最佳化目標的一部分，"服從人類"和"在傷害他人時不要服從"可以直接編碼進去。這比事後加一層過濾要牢固。 - 如果你只是普通使用者，注意一件事：你未來與數字世界的每一次互動都會被 AI 中介。這意味著你的 AI 助手會替你擋掉絕大多數針對你的操縱嘗試。培養一個能替你判斷資訊真偽的助手，比逐個分辨每條資訊更現實。 - 如果你在焦慮"AI 會不會是人類最後一個發明"，回到印刷術那個類比。變革會帶來很長時間的混亂，這是常態，不是失敗。真正需要防的是權力透過技術高度集中。開源在這裡提供了具體的對沖手段，超出了理想主義口號。 楊立昆在節目最後沒有給出任何宏大預言。他說的是一件更樸素的事：讓 AI 變好，它就會變安全。這兩件事在他那裡從來不是一對矛盾。