# 伊利亞·蘇茨克維：深度學習

> OpenAI 首席科學家談深度學習的進展與侷限，神經網路為何奏效，以及通向通用智慧的可能路徑。

- 原標題：#94 – Ilya Sutskever: Deep Learning
- 期數：第 94 期
- 釋出日期：2020-05-08
- 嘉賓 / 主題：伊利亞·蘇茨克維
- 網頁版：https://lex.qiaomu.ai/tw/ep/ilya-sutskever/
- 官方頁面：https://lexfridman.com/ilya-sutskever/
- 精讀字數：約 8185 字（閱讀約 18 分鐘）

> 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。

2012年ImageNet大賽，一個叫AlexNet的神經網路把第二名甩開十多個百分點。這件事後來被引用過無數次，當成深度學習革命爆發的標誌性起點。

伊利亞·蘇茨克維（Ilya Sutskever）在這期訪談裡給出的時間點更早，也更安靜。

> 2010年，James Martens 發明了Hessian-free最佳化器。他用它端到端訓練了一個神經網路，從頭開始，沒有任何預訓練。那一刻我心想，就是它了。（蘇茨克維）

他當時的推理鏈條樸素得近乎天真：如果十層網路能表示複雜函式，那就訓練一個足夠大的網路，喂足夠多的監督資料，它必然成功。這個信念在當年聽上去像外行話，因為機器學習社群的主流判斷是，深層網路根本訓不動。

十年後回看，他贏了。訪談有意思的地方，在於他反覆咀嚼一個更讓人不安的問題：**我們到現在依然在嚴重低估深度學習。**

## 大腦提供靈感，靈感只是起點

蘇茨克維承認，神經網路的整個思想譜系直接來自大腦。60年代羅森布拉特（Rosenblatt）的感知機，麥克洛克（McCulloch）和皮茨（Pitts）琢磨著借計算機自動機的思路，設計一個像神經元那樣的計算物件，再到福島邦彥（Fukushima）的卷積網路，以及後來勒昆（LeCun）把感受野限制引入影象處理。這條線索清晰得像教科書刻意安排的。

他自己的態度也很直接：

> 我當時的想法是，人工神經元如果造得足夠對，大概和大腦差不了太多。那就先假設它成立，然後幹起來。（蘇茨克維）

這種先假設、再驗證的做法貫穿了他的研究哲學。他同時提醒，類比必須用得精確。大腦靠脈衝傳遞訊號，人工網路用的是連續啟用值。有人想用脈衝神經網路復現大腦，他對這條路線的置信度不高。理由很有意思：脈衝網路研究者最後發現，得先在脈衝網路裡模擬非脈衝網路的訓練方法，才能讓它跑起來。

> 問題在於，它憑什麼該工作？這個問題本身並不自明。（蘇茨克維）

他更在意大腦的另一個特性：時序。神經元放電的時刻本身攜帶資訊，而前饋網路和標準迴圈網路把時間壓扁成了離散步。他提到脈衝時序依賴可塑性（spike-timing-dependent plasticity，STDP）：突觸的輸入訊號如果在神經元放電前不久到達，這個突觸被加強；訊號如果在放電之後才到，突觸被削弱。

“我說對了九成，”他補了一句，“如果哪裡說錯了，別太生氣。”

這種坦誠貫穿整場對話。一個被引用超過十六萬次的人，解釋自己領域最基礎的概念時，仍然會說“我不確定”“我不想說得太絕對”。

## 成本函式很好用，但它未必是唯一答案

有一段值得反覆讀。蘇茨克維說，深度學習能工作，一個關鍵的概念貢獻是成本函式。你定義一個衡量系統表現的標量，梯度下降幫你去最小化它。

他隨即鬆了口：

> 我不確定生物演化有沒有成本函式。你也許可以說它朝某些區域靠攏，但我不認為成本函式這個類比是最有用的。（蘇茨克維）

如果演化沒有成本函式，經濟也沒有，那深度學習死守成本函式這套框架，會不會成為某種瓶頸？

他的回答保持了一貫的務實：

> 我是成本函式的忠實粉絲。它能用，而且用得非常好。也許有一天會出現某種更深刻的視角，讓成本函式退居次要位置，但我不知道。我不會押注在成本函式消失上。（蘇茨克維）

這種分寸感很典型。一個在最前沿幹了十幾年的人，對“現有框架會被推翻”的態度，既沒有狂熱擁抱，也沒有死守。他承認自博弈、探索機制、好奇心驅動的內在獎勵，都在成本函式的邊緣試探。這些手段目前仍然被成本函式這套語言吸收著。

## 為什麼偏偏是2012年

深度學習為什麼成功，他給了三個成分，缺一不可：大量標註資料、大量算力，以及一個經常被忽略的東西，信念。

> 想法早就在那兒了。缺的是資料、算力，還有把這兩者混合起來會奏效的那種信念。（蘇茨克維）

他專門替當年不相信神經網路的人做了一次辯護。後人容易帶著優越感回看，覺得那幫人怎麼會看不出來。蘇茨克維說，實際情況是那時的神經網路確實什麼都做不好，在很多工上都不是最優方法。**不相信它，當時是理性的。**

打破僵局的，是足夠難、足夠硬、無法爭辯的基準測試。ImageNet 扮演了這個角色。Jitendra Malik、Alexei Efros 這些計算機視覺領域的權威最初持懷疑態度，Geoffrey Hinton 堅定看好，最後 AlexNet 用一份無法忽視的成績單把爭論終結掉。

> 這個領域今天能進步，靠的就是這些真正硬的基準，它們代表真實的進步。這也是為什麼我們能避免無休止的爭論。（蘇茨克維）

他講的其實是一種更普適的認知機制。一個領域缺乏硬指標的時候，會陷入立場之爭，誰聲音大誰贏。一旦有了能產生不可否認證據的測試，討論就從立場轉向工程。

## 視覺、語言、強化學習，底層是同一臺機器

被問到機器學習內部的統一性，他的回答很乾脆：**統一性極高。**

> 整個領域只有一到三個非常簡單的原理，然後它們以幾乎相同的方式，作用在不同的模態、不同的問題上。（蘇茨克維）

他舉了個具體例子：發一篇改進視覺任務最佳化的論文，這個改進大機率也會在強化學習任務上生效。底層是同一臺機器。

他甚至預測視覺和語言會進一步合流。回看幾年前的自然語言處理，每個小問題都有自己的架構，一派碎片化景象。今天一個Transformer包打天下。再往更早看，每個AI小問題都有自己的子領域、自己的特徵工程專家。

“現在全都被深度學習吞併了。”

強化學習是不是例外？他的措辭很講究：

> 強化學習既不是視覺也不是語言，但它天然地和這兩者對接、整合。（蘇茨克維）

真正讓強化學習不同的是它的非平穩性。你一旦開始行動，你看到的世界就變了。靜態任務裡，資料分佈是給定的，你只是在上面擬合一個模型。一個學習行動的智慧體，它的行為會改變它接下來接收到的資料。

## 被低估的深度學習

整場對話裡，這個判斷出現了三次。

> 過去十年，大部分時間我們的預期都是：好吧，深度學習大概就走到這兒了。然後第二年發現，不，它走得更遠。年年如此。（蘇茨克維）

讓他真正覺得不可思議的，是這件事本身：

> 深度學習居然真的能工作。你有點想法，有個小網路，有反向傳播，然後你有些理論說這有點像大腦，那就把它做大試試。做大，喂更多資料，它真的能逼近大腦的功能。這是真的。這太瘋狂了。（蘇茨克維）

他把深度學習比作生物學和物理學的幾何平均。物理學的理論精確得可怕，預測力驚人；生物學的系統複雜到幾乎無法建立好的預測理論。**深度學習卡在中間。**它有類似物理學的可預測規律，又保留著類似生物學的複雜性。

這個類比聽起來像玩笑，它其實在解釋一件事：為什麼這個領域既讓人興奮，又讓人抓不住。

## 雙下降：更大的模型反而更糟

2020年初，他參與的論文《Deep Double Descent》給社群丟擲了一個刺眼的現象。他解釋得清楚：固定資料集，逐漸增大模型。模型很小的時候，變大一點，效能快速上升。繼續變大，到了某個點，效能開始變差，而且恰好落在訓練損失降到接近零的那個位置上。再繼續變大，效能重新變好。

這條曲線是U形加一個尾巴，所以叫雙下降。

背後的直覺是：當模型的自由度和資料的自由度恰好對齊時，兩者之間是一一對應的關係。資料裡任何一點隨機的、無關緊要的擾動，都會直接傳遞到模型引數裡，模型沒法拒絕它。

> 過擬合的本質，是模型對資料裡那些微小的、隨機的、不重要的東西過度敏感。（蘇茨克維）

引數量遠大於資料量時，存在一個巨大的零誤差子空間，SGD會找到其中範數最小的那個點。這個解被證明對資料的微小擾動不敏感。資訊被壓縮了，噪聲被丟掉了。

有個細節容易被忽略：**提前停止（early stopping）幾乎能讓整個雙下降現象消失。**效能最差的那個點，往往出現在驗證集表現開始變差的時候，那時候訓練還沒走到“變好”的那一段。只要在驗證表現下滑時收手，就永遠看不到後面那個回升。很多團隊早就在做提前停止，所以雙下降在日常工程裡一直被掩蓋著。

## 反向傳播：別急著拋棄它

Hinton 曾半開玩笑地說過，既然在大腦裡找不到反向傳播，不如推倒重來。蘇茨克維的回應很穩：

> 他原話是，如果在大腦裡找不到反向傳播，那從大腦的學習機制裡也許能學到點什麼。同時，反向傳播很有用，我們該繼續用。（蘇茨克維）

他本人是反向傳播的堅定支持者，理由不抽象：

> 它解決了一個極其基本的問題，就是在一定約束下找到一個神經迴路。我不認為這個問題會消失。（蘇茨克維）

“在約束下找到最合適的電路”這個最佳化問題本身不可迴避。反向傳播是這個問題目前最好的解法。除非有人給出一個本質上不同、且同樣有效的解法，這個支柱不會挪。

## 神經網路能推理嗎

2020年這個提問已經很尖銳，今天更尖銳。他給了一個漂亮的存在的證明：AlphaZero 下圍棋的神經網路，不靠搜尋，單看那個網路本身，棋力超過99.9%的人類。

> 我們都同意圍棋需要推理。那這個網路本身不就證明了神經網路能推理嗎？（蘇茨克維）

Lex 試圖反駁：推理像是一種逐步搜尋的過程，圍棋是特例。蘇茨克維順著這個方向給出了更精確的表述：

> 神經網路有能力推理。但如果你訓練它做一個不需要推理的任務，它就不會去推理。眾所周知，神經網路會用最省力的方式，解決你擺在它面前的那個問題。（蘇茨克維）

這句話裡藏著一個重要判斷。神經網路的能力高度依賴任務本身對能力的需求。你給它一個可以靠表面統計規律糊弄過去的任務，它就只學表面規律。你給它一個必須靠多步推演才能解決的任務，它就有可能被逼出推理。

## 小電路與小程式的隱喻

蘇茨克維早年說過一句被反覆引用的話：神經網路是對小電路的搜尋，而通用智慧是對小程式的搜尋。

他在這期訪談裡做了修正。

> 現在我會把它改寫成：一個大的電路，但它的權重裡只包含少量資訊。（蘇茨克維）

這個修正來自過引數化的發現。過去他以為好模型就是引數少的、簡潔的模型。現在他意識到，模型可以很大，但訓練過程本質上是在把資料裡的熵一點點傳輸到引數裡，最後權重承載的資訊量並不大。這正是它泛化得起來的原因。

那為什麼不能直接去找最短的程式？因為理論上可以證明：

> 找到生成某段資料的最短程式，是不可計算的。沒有任何有限的計算能做到這件事。（蘇茨克維）

這是柯爾莫哥洛夫複雜性的經典結論。神經網路因此成了唯一可行的路徑。最短程式找不到，你只能找一個大致擬合資料的電路。

他還給這條原則加了一個更硬的前提：**可訓練性。**

> 我們有一根叫“可訓練性”的支柱，然後圍繞這根支柱去扭曲神經網路的形狀。這是不能違反的不變數。（蘇茨克維）

這句話的分量比表面看上去重。即使存在某個理論上更優雅、更強大的架構，只要它訓不起來，就不會被真正採納。整個深度學習的發展史，某種程度上就是不斷在“更強大”和“更可訓”之間找平衡的歷史。

## GPT-2：Transformer到底贏在哪

談到語言模型的歷史，他追溯得很遠：80年代就有小型迴圈網路被用於語言。真正扭轉軌跡的，還是資料和算力這兩個老變數。

語言模型有個特別清晰的解釋，說明為什麼必須做大。它要預測下一個詞。規模很小的時候，它只能注意到表面模式：有時候有字元，中間有空格；有時候有逗號，後面跟大寫字母。再大一點，它注意到某些詞經常共現，注意到拼寫，注意到語法。再大，它才開始注意到語義和事實。

他舉了自己早年的實驗做證據。在亞馬遜評論上訓練字元級模型，當隱藏層從500擴到4000時，其中一個神經元開始表示評論的情感傾向。

> 情感是非常語義化的屬性，語法層面抓不到它。小網路抓不到，大網路抓到了。（蘇茨克維）

他們當時的解釋是：語法這個層面的東西很快就被學完了，學完之後，模型只能把注意力轉向更深的語義。

Transformer 為什麼成功？他的回答避開了單一的英雄敘事：

> Transformer是多個想法同時組合的結果。注意力是其中之一，但它不是唯一的關鍵。去掉任何一個，它都會遜色很多。（蘇茨克維）

他點出兩個真正的要素：一是它能極其高效地在GPU上跑；二是它**沒有迴圈結構，因此層數更淺、更容易最佳化。**

迴圈網路給人一種能表達任意長時間依賴的強大感，但在最佳化層面，深度本身就是負擔。Transformer 犧牲了理論上的序列表達力，換來了可訓練性。可訓練性這根支柱又一次壓過了理論優雅。

他承認，當年看到Transformer的效果，確實驚訝了。“我剛想收回前面說的話，那真的很驚人。”他原本預測到訓練大語言模型應該會有好結果，親眼看到又是另一回事。

> 我們適應得太快了。現在已經有認知科學家寫文章說GPT-2並不真正理解語言。我們對“它能這麼好地建模語言”這件事，居然這麼快就習以為常了。（蘇茨克維）

## 模型該不該釋出

OpenAI 在GPT-2上的分階段釋出，在2020年是個有爭議的決策。他的解釋很樸素：AI領域正在從童年走向成熟。它的影響不只是大，還在增長。所以在釋出之前先想想影響，寧可早一點，不要晚一點。

他承認當時的不確定性：

> GPT-2有可能被用來降低製造虛假資訊的成本。這是可能的，並非確定。（蘇茨克維）

分階段釋出於是成了邏輯上的選擇：先放小模型，觀察社群怎麼用。結果是有很多很酷的應用，沒有已知的負面應用。後來大模型也放出來了，其他人也復現了類似的模型。

他也承認這裡有條沒法迴避的邊界：“以我們所知”。

訪談裡有個更尖銳的問題：一個公司，要不要、能不能和競爭對手討論這些風險？他的回答傾向於樂觀，也帶著前提：

> 重要的是逐步在公司之間建立信任。因為最終大家都只是在做越來越強的技術。歸根結底，我們只能一起。（蘇茨克維）

## 通用智慧還缺什麼

他對AGI的公式給得很剋制：深度學習，加上也許一兩個小想法。

他願意押注的“小想法”之一，是自博弈。理由很具體：

> 自博弈有一種了不起的性質，它能用真正新穎的方式帶來驚訝。（蘇茨克維）

他提到OpenAI做的捉迷藏實驗，兩個小智慧體互相博弈，演化出了人類沒有預設的行為。AlphaZero 也是。這些系統給出的不只是隨機的新奇，它們給出的是**針對一個問題、有用且出人意料的解法。**

當前模型的強，是擬合出來的強；自博弈的強，是探索出來的強。這正是當前系統不常展現的東西。

那模擬環境夠不夠？他的回答拒絕二元對立：

> 模擬是一種工具，有它的強項也有弱項，該用就用。（蘇茨克維）

他舉了OpenAI的機械手例子。那隻手100%在模擬裡訓練，然後零樣本遷移到真實世界，還能適應影片裡那些它從沒見過的新奇擾動，比如一隻長頸鹿玩偶。這個案例證明了一件事：**模擬到現實的遷移已經發生了。**

他還預測，深度學習的遷移能力會持續增強。遷移能力越強，模擬就越有價值，因為你在模擬裡學到的東西，能帶得走。

## 身體、意識與自我認知

關於“智慧體是否需要身體”，他的態度是：有用，但不必要。

> 有身體肯定有用，有些東西沒有身體就學不到。但如果你沒有身體，你也可以補償，仍然能成功。（蘇茨克維）

他舉了海倫·凱勒的例子。先天失聰失明的人，靠剩下的感官也能達到極高的認知水平。

關於意識，他的論證方式很特別：

> 人類是有意識的。如果你相信人工神經網路和大腦足夠相似，那麼至少存在一些人工神經網路，也應該是有意識的。（蘇茨克維）

邏輯很樸素：從一個存在性事實出發，透過相似性推到一個可能性。他沒有聲稱現在的網路有意識，只是說，如果大腦裡沒有某種非物質的魔法，那麼原則上應該有網路可以達到同樣的狀態。

Lex 追問：如果大腦比我們以為的複雜得多、有趣得多呢？

> 如果是那樣，那它遲早會顯現出來。總有一天我們會發現，你沒法繼續推進了。但我覺得這不太可能。（蘇茨克維）

## 什麼算好的智慧測試

被問到“什麼能讓你印象深刻”，他避開了圖靈測試那類框架，給了一個非常具體的標準：

> 如果一個深度學習系統能解決一個很平常的任務，比如機器翻譯或計算機視覺，而且它犯的錯誤，人在任何情況下都不會犯，那我會覺得很了不起。（蘇茨克維）

這個標準切中了一個長期存在的批評。現在很多模型在準確率上已經超過人類，它們錯的方式不一樣。人類看到模型犯的某些錯會說：“如果你真的理解了這個概念，你不會犯這個錯。”

這句話是很多懷疑論的根源。他承認這一點，並認為彌合這道鴻溝才算真正的進步。

他也點出了人類評判AI時的一種心理慣性：

> 21世紀分析AI進步的方式，變成了去找一個系統大錯特錯、而人類不會錯的案例，然後很多人寫文章，公眾就被說服這個系統不智慧。我們靠一個軼事來安慰自己。（蘇茨克維）

什麼時候公眾才會真正被說服？他給了一個經濟學的答案：

> 當AI真正開始推動GDP的時候。（蘇茨克維）

## 權力、對齊與放手

訪談最後一段進入了更沉重的話題。如果有一天你真的造出了AGI，你會怎麼和它相處？

他說，第一件事是問各種問題，試圖讓它犯錯，然後驚訝於它不犯錯。

那權力呢？如果你掌控著一個能改變世界的系統，你能放手嗎？

> 放手這種權力，我輕而易舉就能做到。你描述的那種場景，我只會覺得恐怖。我絕對不想處在那個位置上。（蘇茨克維）

他描述了一個理想圖景：不同的城市、不同的國家，人們投票決定代表他們的AGI應該追求什麼目標。本質上，是把民主程序推進到下一個層級。董事會永遠可以解僱CEO，也就是說，**永遠保留按下重置鍵的能力。**

重置鍵真的能一直按得下去嗎？

> 完全可以造出想要被人類控制的AI系統。這可以是它存在目標的一部分。就像人類父母普遍想幫助自己的孩子，希望孩子成功。這對父母不是負擔，他們樂在其中。（蘇茨克維）

他認為，可以把“幫助人類繁榮”設計成AGI深層的、樂於履行的驅動力。

那怎麼把人類價值裝進去？他給了一個技術性的方向：訓練一個獨立的價值函式，讓它去識別並內化人類在各種情境下的判斷，然後把這個價值函式作為更強大系統的基礎目標。

> 人類就是這樣。人類的獎勵函式在內部，不在外部。（蘇茨克維）

這個類比很有分量。人類不被一個外部程式打分，人類自己產生慾望，慾望本身構成目標函式。對齊問題在某種意義上就是：能不能讓AI也長出這樣的內部目標。

## 生命的意義與幸福

聊到人生意義，他說這個問題本身有點問題。

> 這個問題預設了一個外部的答案：你生命的意義是X。但我覺得實際發生的是，我們存在，這本身就很奇妙。那就儘量把它過好，在有限的時間裡，儘量多享受、少受苦。（蘇茨克維）

關於幸福，他的觀察更樸素：

> 幸福在很大程度上取決於我們看事情的方式。一頓簡單的飯可以讓你很滿足，也可以讓你失望，取決於你怎麼看它。（蘇茨克維）

他補了一句：“但我不太確定，我不想說得太自信。”

一個在深度學習領域被引用十六萬次的人，談到幸福時的語氣，和談論技術時一模一樣：給出判斷，然後留出餘地。談到遺憾，他說自己當然做過很多事後看來不會做的選擇，也會有些懊悔，但他試著從“當時我盡力了”這件事裡找安慰。

## 這期訪談裡真正值得帶走的東西

回看整場對話，他反覆給出的東西很難被歸納成結論。他對深度學習的信心，來自十年裡一次次被現實推翻預期、又一次次發現現實走得更遠。

“我們依然在嚴重低估深度學習”，這句話在2020年說成立，在2012年說也成立，在任何一年說大概都成立。這既是這個領域的迷人之處，也是它讓人焦慮的地方：你沒法靠現有框架預測它的邊界，因為邊界一直在往外推。

而他自己在這條推邊界的過程裡，堅持的東西很樸素：**能訓起來，優先於理論上優雅；能產生不可爭辯的證據，優先於無休止的辯論；能被控制，優先於能控制一切。**

下面是這期訪談裡可以直接拿走的幾條判斷，給正在做技術決策的人：

- 評估架構或方法時，把可訓練性當作硬約束放在第一位。理論上更強的方案，只要訓不起來、調不動，就不值得投入工程資源。Transformer擊敗迴圈網路，靠的是更契合GPU、層數更淺、更好最佳化，表達力本身並沒有贏。
- 做模型規模決策時，別隻看單點實驗。效能隨規模的曲線不單調，驗證集表現下滑時先別急著下結論，檢查是不是恰好卡在插值閾附近。提前停止能大幅削弱這種波動。
- 判斷系統是否真的理解，別隻看準確率。問它錯在哪，看它犯的錯人類會不會犯。如果錯誤型別和人類系統性不同，說明它學到的是表面規律，泛化邊界會比數字顯示的窄得多。
- 做能力研究時，先找到那個必須用到該能力的問題。蘇茨克維談主動學習的判斷可以直接遷移：沒有硬任務支撐，你只能在人造任務上刷分，無法說服任何人，也無法推進真實能力。
- 如果要做模擬訓練，優先投資遷移能力。模擬本身的價值不由它多逼真決定，而由學到的東西能不能帶到現實決定。OpenAI機械手的案例說明，把策略訓練得足夠自適應，比把物理引擎調得足夠精確更划算。
- 釋出強能力模型時，分階段是被驗證過有效的路徑。先放小模型，觀察真實使用中的正負外部性，同時主動和同行建立溝通渠道。他的原話是，最終我們都只能一起。