# 弗朗索瓦·肖萊：Keras、深度學習與人工智慧的進展 > Keras 作者談深度學習工具的演進、智慧的本質，以及衡量 AI 進展的方法與常見誤區。 - 原標題：François Chollet: Keras, Deep Learning, and the Progress of AI - 期數：特別節目 - 釋出日期：2019-09-14 - 嘉賓 / 主題：弗朗索瓦·肖萊 - 網頁版：https://lex.qiaomu.ai/tw/ep/francois-chollet/ - 官方頁面：https://lexfridman.com/francois-chollet/ - 精讀字數：約 9795 字（閱讀約 22 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 愛因斯坦在伯爾尼專利局做了七年三級審查員。1905 年，他連發四篇論文，把物理學翻了個面。弗朗索瓦·肖萊（François Chollet）在播客裡聊起這段歷史，落點很冷：如果那幾年沒有出現一個恰好需要他的問題，愛因斯坦大機率會以專利局職員的身份退休，歷史書裡不會有這個名字。 他的推論更冷一層。今天的世界上，大概存在著數量相當可觀的天才級頭腦，我們永遠不會知道他們存在，因為他們沒碰上那個能讓自己顯形的題目。 這段話出自 Lex Fridman 的播客，錄製於 2019 年 9 月。肖萊是 Keras 的作者，Google 的 AI 研究員，也是 Twitter 上最不客氣的那批人之一。他因為質疑"智慧爆炸"（intelligence explosion）這個說法，收到過大量圍攻。 ## 大腦不是智慧的容器 智慧爆炸的邏輯大致是這樣：如果造出一個通用的問題解決 AI，那麼"造 AI"本身也是一個問題，可以被這個 AI 自己解決，而且解決得比人更好。於是它開始改寫自己的演算法，做出更強的版本，一層層遞迴下去，智慧指數級膨脹。 肖萊反對的是這條推理鏈的第一環。它預設智慧是大腦的孤立屬性，像樓的高度一樣可以被單獨測量。缺了身體、缺了環境，這個概念本身就塌了。 > 智慧產生於大腦、身體和環境的互動之中。缺了其中任何一塊，你就沒辦法再定義智慧了。（弗朗索瓦·肖萊） 在這個框架裡，智慧是"強問題解決能力"與"一個好問題"的相遇。問題不存在，智慧就無從表達，剩下的只有潛在智慧，比如你腦子跑得多快、IQ 測出來多少。那只是一個數字，什麼也沒說明。 所以他說，系統裡任何一塊被最佳化，其他塊立刻變成新瓶頸。各部分是高度互相依賴的，你擰緊了這顆螺絲，壓力就轉移到別處。指望擰一顆螺絲得到指數級收益，等於把系統當成了零件。 ## 所有智慧都是專用智慧 "通用人工智慧"這個詞讓他很為難。人們說 AGI 的時候，可能指"比人聰明得多的 AI"，也可能指"像人一樣的 AI"，兩件完全不同的事被同一個縮寫壓扁了。 他的立場是：所有智慧都是專用智慧，包括人的。人類智慧專精於人類經驗。這個專精體現在好幾層，一層是出生時就帶著的先驗知識，關於施動者、關於目標驅動行為、關於什麼算一個物體、關於時間；另一層體現在學習方式上，我們學語言毫不費力，因為大腦被硬編碼成要學它。 同樣的專精也意味著大量無能。人對長期問題幾乎沒有直覺，五年、十年的跨度就已經很難想象，工作記憶的容量小得可憐。 那人類怎麼解決大問題？靠的不是單個大腦。肖萊的說法是，我們有一個叫"文明"的東西，它本身就是一套問題解決系統，一套執行在大量基礎設施上的智慧體：書、計算機、網際網路、制度。電腦科學作為一門學科，能解決的問題規模遠超任何一個個人。科學本身，作為一套建制，是一個超級人類的問題解決演算法。 ## 科學是遞迴自我改進的，但產出是線性的 整場對話裡資訊密度最高的一段，落在科學這個話題上。 肖萊說，我們不需要空想遞迴自我改進系統會怎樣，現實裡就有現成的例子：科學。科學產出知識，知識變成技術，技術變成更好的儀器、更好的計算機、更好的通訊，反過來加速科學。它形成了一條閉環，貨真價實的遞迴自我改進系統，而且已經超級人類了。 那就看看它實際跑出了什麼曲線。 科學家和工程師的數量在指數增長，投入科學的計算資源在指數增長，發表的論文數、申請的專利數在指數增長。這些全是資源消耗的指標，被誤當成了產出的指標。真正該看的是知識本身的增量，是我們解決的問題在範圍和重要性上的變化。 邁克爾·尼爾森（Michael Nielsen）在 2018 年前後做過一次測量：把過去一百到一百五十年間的重大科學發現列出來，請專家組給每一項的重要性打分，然後畫"重要性隨時間的密度曲線"。如果科學的產出是指數的，這條曲線應該指數上揚。實際畫出來，是一條几乎水平的線，橫跨物理、生物、醫學所有學科。 直覺上也能對上。一百一十年前物理學正在天翻地覆，一百七十年前馬車被汽車替換、電力進入生活，那也是劇變的年代。今天變化也很快，但說今天比五十年前快出一個數量級，站不住腳。 > 隨著你在某個領域取得進展，進一步取得進展會變得指數級地困難。第一批進入資訊理論的人，滿地都是低垂的果實。（弗朗索瓦·肖萊） 下一代研究者要挖得更深，才能拿到更小的發現，要獲得同樣的影響力，需要的人數多得多。 ## 指數進步會觸發指數摩擦 他給了一個物理類比。假設你造出一個裝置，它能測量自己的加速度，然後按比例輸出更大的加速度。把它扔到空中，它不會飛到無限快，空氣阻力會把它鎖在某個終端速度。 就算你把空氣這個瓶頸也拿掉，還有別的，摩擦換個形式繼續出現。 科學也一樣。研究者越多，跨研究者的溝通開銷越大。今天想在量子力學裡做出有意義的貢獻，需要先吞下的前置知識量大得驚人，光是進入門檻就夠勸退。想做的實驗越來越貴，因為便宜的那些早就被人做完了。 所以他才會認為，用科學來推演超級智慧 AI 的命運，比用"大腦加速"來推演靠譜得多。他沒有說這是證明，只說這個起點更站得住。 ## 一萬篇論文在往架構裡硬編碼答案 話題轉到深度學習本身。肖萊在 Twitter 上說過一句大實話：大約有一萬篇深度學習論文，做的其實是同一件事，把某個特定任務的先驗知識硬編碼進網路結構裡，然後報告效能提升。 機器學習的本意是研究泛化，是提煉出能跨資料集、跨任務複用的知識。如果你盯著一個資料集，把關於這個任務的答案寫進架構，那和訓練完之後說"我找到了一組表現很好的權重"沒有本質區別。兩者都把答案抄進了模型。 David Ha 有一篇講"權重無關神經網路"（weight-agnostic neural networks）的論文，把這件事講得很透：一套架構，即使權重全是隨機的，它本身已經編碼了關於任務的知識。 他舉了 bAbI 資料集作例子。那是一批用演算法生成的自然語言問答對，背後的生成器遵循固定模板。如果你手工設計一個網路，把這個模板原樣編碼進去，準確率能接近 100%。至於"如何解決一般性的問答"，這個結果一個字都沒回答。 ## 《苦澀的教訓》有保質期 理查德·薩頓（Rich Sutton）寫過一篇《苦澀的教訓》（The Bitter Lesson）：七十年 AI 研究給出的最大教訓是，能利用算力的通用方法最終總是贏。 肖萊同意這個判斷，但只同意它對過去七十年的描述。他認為結論的有效性依賴當時的研究環境，而環境在變。 七十年裡，算力按照摩爾定律指數增長，任何能吃掉算力的演算法都會自動變強。這個紅利正在見頂。當你把算力這個維度榨乾，瓶頸就轉移到下一個維度，也就是資料。 他的判斷是，研究重心會從"擴大算力規模"轉向"提升資料效率"。 他對無監督學習和強化學習的態度同樣源於這個判斷。這兩個是學習框架，不是具體技術。今天的深度強化學習依然在用巨大的引數模型、逐點梯度下降，它降低的是標註密度，不是資料需求量。潛空間加稀疏標註是個好主意，能帶來標註效率上的漸進改善，但也就到這裡。 ## 深度學習的本質是點對點插值 他把深度模型的工作方式講得很直白：一個巨大的、可微的、連續的引數模型，把輸入空間幾何地變形到輸出空間，靠梯度下降訓練，逐點進行。 逐點意味著，網路只能理解那些離訓練資料很近的點，最好也就是在點之間做插值。想要訓練出來，你需要對輸入輸出空間做稠密取樣。這在高維複雜問題上貴得離譜，自動駕駛、機器人都是例子。 對比一下符號規則。一段幾十行的排序演算法能處理任意長度的列表，因為它抽象，它不是靠逐點對映學出來的。用神經網路去學排序，你學到的是"這個特定列表排好序長什麼樣"。 真實世界裡成功的 AI 系統基本都長成了混血。自動駕駛的主體是手寫的軟體，是基於顯式 3D 環境模型的規劃系統，深度學習負責把原始感官訊號翻譯成符號系統能用的東西。端到端在車道上跟車這類子問題上可行，放大到整個駕駛就要求對經驗空間做稠密取樣，不現實。 那深度學習的天花板在哪？他的回答是，理論上沒有硬上限，只要搜尋空間足夠豐富、取樣足夠稠密。麻煩在於"足夠稠密"可能是幾萬個樣本，也可能是幾萬億個，差別巨大。 感知類問題，深度學習是天作之合。物理規律、三維結構、物體間關係這類東西，一個顯式的抽象模型是遠比學習出來的對映更壓縮的表示。你當然還是可以用網路去學，只是效率極低。 ## 程式合成還處在反向傳播之前的冬天 如果要自動生成那些規則，靠的是程式合成（program synthesis）。 他給這個領域的定位很狠：如果說深度學習現在是 2019 年，那程式合成大概在 1990 年代。甚至這個比喻都算樂觀，因為 90 年代人們已經搞懂了反向傳播這個引擎，只是沒看到它的潛力。程式合成連自己的引擎都還沒找到。 整個領域目前唯一拿得出手的真實應用，是 Excel 裡的 Flash Fill：給幾個例子，自動學會一個格式化單元格的小程式。就這樣。 他自己的直覺是遺傳演算法、遺傳程式設計這條路有希望。目前的做法基本是樹搜尋、圖搜尋，被現有搜尋演算法的能力卡住。 ## 真正的危險不在終結者 被問到 AI 威脅時，他給出的清單和科幻片沒什麼關係。 第一層是監控。人臉識別、行為追蹤、把海量個人資料彙總起來做識別和預測，這些能力正在被一些國家大規模推進。 第二層更值得警惕，也更少被討論。人的生活正在變成數字生活，閱讀、表達、社交都在網上留下痕跡。誰控制了資訊的分發入口，誰就掌握了一條閉環：觀察你此刻的心智狀態，預測你對不同內容的反應，然後推送那條能把你推向特定方向的內容。這個過程可以實時進行，也可以擴充套件到整個人群。 > 把人的心智看作一段程式的話，它有一個非常大的可利用面。（弗朗索瓦·肖萊） 他具體拆解了操縱是怎麼發生的。政治信念和身份認同綁得很緊，如果你看的新聞由我篩選，我可以只給你看某一類新聞。更高明的一招是利用社交反饋：你想讓我鼓勵某種表達，我就把它推給會贊同你的人，點贊會強化這個信念；你想讓我壓制某種表達，我就把它推給反對者，你被攻擊之後，下次發之前會猶豫，甚至可能因為這個反彈而開始懷疑自己。 這種操縱已經在跑了，只不過今天的目標函式是"參與度"（engagement），背後沒有政治意圖。他覺得這恰恰是最麻煩的地方：參與度最大化看起來人畜無害，實際會系統性地篩選出情緒化、能激起反應的內容。假新聞比真新聞更容易被點選，原因很簡單，它不受事實約束，可以要多聳動有多聳動。 即便沒有任何惡意，這套系統已經在產生有害的社會動力學。 ## 目標函式應該由使用者來定 他的方案帶著很強的工程師氣質：介面設計問題。 使用者應該能配置演算法在最佳化什麼。想看 YouTube 是為了學東西，那就把目標設成"學得又快又多"，順帶把資訊準確性作為約束。想看 Twitter 是為了瞭解某個領域，那就別按全站最熱來推。他吐槽過 Twitter 的話題推薦，永遠是覆蓋面最廣、最平庸的那一版，因為它在最大化點選率。 他不喜歡平臺替使用者做價值判斷這件事，哪怕判斷是善意的。那是極權的心態。他想要的技術形態是導師、教練、助手，核心在於你在指揮它，它在執行你的意圖，老闆這個位置不該給它。 對 Spotify 那種逐條點贊點踩的反饋機制，他也不太買賬。演算法會拿你的選擇去和所有人的選擇做關聯，你的口味越主流，效果越好；越偏門，效率越低。這套機制依然沒有回答最根本的問題：演算法到底在為什麼最佳化。 他承認這事很難，也承認自己給不出完整答案，但認為公開討論本身就是進展。演算法偏見在兩三年前幾乎沒人提，現在國會都在談，起點就是有人把它說出來。 ## 損失函式工程會成為一個職業 順著這個邏輯，他預測"損失函式工程"（loss function engineering）會變成一種崗位。 今天大家用的損失函式都很樸素，因為難點不在"你想最小化什麼"，而在其他所有工程細節。當這些細節被工具自動化掉之後，人的注意力會集中到更高層：到底是什麼在驅動整個學習系統。 他給 Keras 的定位正是這個：資料和你業務目標之間的介面。工程師的工作，是把自己的業務理解表達成一組損失函式和約束。 ## 怎麼定義和測量智慧 他給了一個定義，短得像一句口號，但撐得住展開。 > 智慧是把經驗轉化為可泛化程式的效率。（弗朗索瓦·肖萊） 展開就是：從經驗空間裡取樣一部分，轉化為處理更大一塊經驗空間的能力，轉化的效率越高，越智慧。 這個定義順手解釋了為什麼智慧必然專用。你談的是經驗空間，是經驗空間裡的某一段，是先驗，是經驗量，這些詞本身就框定了智慧湧現的上下文。沒人能站在經驗空間的總體上看問題。 不過他也留了餘地：如果那個經驗空間足夠大，它看起來就像通用的。人類的智慧經常被稱作通用，實際上相當專用。 用技能當智慧的代理指標是可以的，但要控制兩個變數：先驗，和經驗量。給兩個智慧體同樣的先驗、同樣多的經驗，誰學出來的程式在更大範圍的經驗空間上表現好，誰就更聰明。 他為此做了一件工具，斷斷續續做了兩年多。設計上有個巧妙的約束：任何數量的練習都不能提高分數。 做法是，把人類嬰兒出生時自帶的那套先驗顯式地寫出來，然後基於這套先驗生成任務。任務對被測智慧體必須是全新的，同時人類也能做，這樣人和機器的分數才有可比性。先驗從哪來？哈佛的伊麗莎白·斯佩爾克（Elisabeth Spelke）研究了幾十年的"核心知識"（core knowledge）：物體性、施動者、目標導向行為、時間、數量。 他形容那是個好玩的小專案，算不上什麼突破。ImageNet 當年也只是個資料集。 ## DNA 是一條頻寬極低的線 為什麼人類的先天知識這麼少？他給了一個很有說服力的推演。 任何先天知識都必須由進化寫進 DNA。DNA 是一種頻寬極低的介質，寫入極慢極貴。你需要進化壓力來引導寫入，寫得越高階耗時越長，而被編碼的那個環境特徵必須在這段時間裡保持穩定。結論是：能進 DNA 的，只有那些在數百萬年尺度上穩定、且構成生存優勢的極小子集。 所以我們有一些關於蛇的輪廓、關於什麼構成一張臉的先天知識。但我們不可能有"男性和女性的臉有何視覺差異"的先天知識，因為這種差異出現得太晚，DNA 來不及寫。 還有一個推論更狠：正因為寫入這麼慢，絕大部分先天知識是和類人猿共享的。把人類變得特殊的，不是這套出廠預裝。 ## Keras 的起點是 LSTM 2014 年底，肖萊在折騰迴圈神經網路（RNN），當時這是個冷門方向，熱度要到 2016 年才起來。他找了一圈工具，發現沒有能用的：Caffe 是主流，但主要做計算機視覺，用 C++；Theano 他在 Kaggle 比賽裡用得多；Torch 7 也試過。唯獨 RNN 這塊，連一個可複用的開源 LSTM 實現都找不到。 於是他決定自己寫一個。最初的定位就是 LSTM 工具箱，用 Python 寫。有個當時並不顯然的決定：模型用 Python 程式碼定義，這跟主流相反。Caffe、Pylearn2 這些大庫都走 YAML 配置檔案路線，寫一堆配置來宣告模型結構。 他借鑑的物件是 scikit-learn，喜歡它的易用性，想把這套感覺搬到神經網路上：把複雜的訓練迴圈壓成一次 fit 呼叫。有人說這會隱藏細節，他的回答是，隱藏細節正是目的。 2015 年 2 月開始寫，3 月釋出。當時整個深度學習圈子不到一萬人，而想試 LSTM 的人正在變多，時間點踩得很準。 六個月後他加入 Google，跟 Keras 無關，去的是一個做影象分類的研究團隊。入職沒多久就接觸到了 TensorFlow 的內部早期版本，第一反應是"這是改良版 Theano"，於是知道自己得把 Keras 遷過去。TensorFlow 在 2015 年 11 月開源，他 12 月動手，做的是重構：把所有後端相關的東西抽到一個模組裡，同一套程式碼能跑在多個後端上。之後整整一年，Theano 還是預設選項，更好用、bug 更少、音訊任務上快得多，直到 TensorFlow 反超。 2016 年 10 月，TensorFlow 的負責人拉賈特·蒙加（Rajat Monga）找上門，說看到了 Keras，也看到作者在 Google，邀請他過來幹一個季度。Keras 先是以 TensorFlow 專用版本進了 contrib，後來進了 core。他再沒回原來的研究團隊。 ## API 應該長得像專家的腦子 聊到 TensorFlow 2.0 的設計過程，他講的其實是軟體工程的一般原理。 他在 Google 的大量時間花在設計討論、寫設計文件、參加設計評審上。設計決策的本質是滿足一組約束，同時用儘可能簡單的方式滿足，因為只有簡單的東西能被維護、被擴充套件。 好的 API 是模組化的、分層的，表面積儘可能小，並且反映領域專家思考問題的方式。專家讀文件的時候，腦子裡已經有一套概念，他要做的是儘快把自己腦中的概念對映到 API 的概念上。API 越貼近這套心智模型，認知負荷越低。 反過來，API 不該自指，不該洩露實現細節，只該談領域概念。 TensorFlow 2.0 讓他興奮的地方是工作流的連續性：想從零寫訓練迴圈，可以用 eager execution 加子類化模型，除錯直觀；想用經典 Keras 那套 fit，一應俱全。同一套框架覆蓋從研究者到資料科學家的整個譜系，再往下還能接 TensorFlow Lite、雲端服務。 再往後的方向是 AutoML。他打了個比方：未來的形態不會是丟給你一盒樂高，而像一個很會玩樂高的孩子，加上一盒樂高。 ## AI 冬天不會全面到來，但信任會透支 他對 AI 冬天的判斷是有層次的。 全面寒冬不會來，因為深度學習在實打實地創造價值，能解決的問題範圍極廣，而且應用才剛開始。 麻煩在另一頭：炒作。有太多人在過度推銷這些系統的能力，把它們說得像大腦，說成帶著神秘色彩的東西，同時把進展速度也吹大了。論文數量的指數增長看起來像加速，實際上只是湧入這個領域的人變多了。 他給了一個精確的比喻。假設你在為創業公司或實驗室融資，需要講一個宏大的故事：深度學習就像大腦，能解決自動駕駛、機器人這些了不起的問題，通用人工智慧十年、十五年內就會到來。這些話沒有一句是真的。每當一個投資人相信了，**你就等於在拿信任透支信用卡**。 錢是拿到了，債留下了。這筆債最後會以整個領域信譽崩塌的形式償還。 ## 2021 年，幾乎每家都承諾過 自動駕駛是他舉的現成例子。 2015 年前後，一大批融資中的公司讓公眾和決策者相信，L5 級自動駕駛會在 2016 年、2017 年、2018 年到來。現在是 2019 年，大家還在等。幾乎每一家公司都承諾過 2021 或 2022 年量產全自動駕駛。 他描述的崩盤場景很具體：這些公司燒掉幾十億美元之後，某天開會問兩個問題。第一個，"我們真的有自動駕駛車嗎？"答案是不會。第二個，"等等，我們投了十億、二十億、三十億，一分錢利潤都沒有？" 接下來的反應可能非常劇烈，會波及自動駕駛之外的行業。 AI 冬天的機制就在這裡：技術本身沒崩，崩掉的是承諾和現實之間的那道縫。第一批人被證明是在撒謊，第二批人連真話也不信了。 通用人工智慧那一側的敘事更直接。有些創業公司在賣一個夢：只要 AI 系統跨過某個 IQ 閾值，價值就是無限的，像一頓免費午餐。他判斷會有投資人買賬，等上十年、十五年，什麼也沒發生。人類記憶很短，下一代投資人會重新入場。 ## 不必去分辨哪篇是民科論文 Lex 提到一件事：因為他偶爾詩意地談 AGI，收到過大量長篇宣言，作者都聲稱自己已經造出或知道怎麼造 AGI。肖萊說他收到的更多，那些文字讀起來像是 AI 生成的，還是 Transformer 寫的民科論文。 那怎麼判斷這些人裡有沒有真貨？ 他的回答繞開了這個問題的前提。**智慧不存在於抽象之中，智慧必須被應用。**沒有問題，就解決不了問題。一個人聲稱自己有通用智慧系統，那它應該附帶一套基準，應該展示某種能力，哪怕是很人工的能力。 所以其實不必去分辨哪篇論文藏著潛力、哪篇是空話。新技術如果真的產生價值，很快就會被看見，因為它在起作用。有用的東西會自己浮出來。 這條標準不只適用於 AI。科學史上出現過無數"萬物理論"，作者可能真的很有洞見，但這些理論完全沒用，於是消失了。你不需要去區分有趣的理論和沒用的理論，你只需要看一件事：它有沒有對別的東西產生影響。 > 要緊的是有效，不在於正確。（弗朗索瓦·肖萊） 深度學習自己就是個例子。在它開始奏效之前，做神經網路的人被當成怪人，這個方向幾乎沒人碰了。它變得有價值，是因為它真的跑通了。 不過他也補了一句：這套機制裡，個體往往要承受被當成怪人的那段時間。Yoshua Bengio、Yann LeCun 熬過來了。如果你相信自己手裡有東西，那就堅持下去，把它做完。 ## 圖靈測試是一種偷懶 談到怎麼衡量智慧，他把兩個問題拆開了。一個是有多聰明，一個是多像人。量值和方向，兩條獨立的軸。 他不喜歡圖靈測試，理由很直接：**它偷懶**。它完全繞過了"定義和測量智慧"這個難題，把判斷權外包給人類評審團。一種徹底的逃避。 想測像人的程度，應該讓它去和其他人互動，然後觀察它的行為，跟一個真人處在同樣情境下會做什麼做對比。而不是找人當裁判打分。 那怎麼測智慧的量值？他認為現有的基準全跑偏了，都在測某項具體技能的熟練度：下棋、下圍棋、打 Dota。這類比較沒有意義，因為你在單項技能上總能贏過人類。 人類在圍棋上的技能之所以讓人印象深刻，是因為我們是在一組約束下表現出來的：只有一輩子時間、只有這一具身體、只有這個頻寬。把約束去掉，給無限的資料和無限的硬體，達到任意高的技能水平說明不了任何智慧問題。 他的方案還是那個定義：固定先驗，固定經驗量，看誰學出來的程式更泛化。 ## 意識不會自己長出來 話題轉到類人智慧。他的判斷是，**要像人，就得有情緒和意識**。 這兩個東西通常不被認為是一個智慧系統的必需品。前面說過的科學，作為超級人類的問題解決系統，它沒有意識，沒有情緒，照樣在運轉。 在他看來，意識和情緒處於同一個光譜上，都是主觀體驗的組成部分，功能是引導行為生成。人類和動物的智慧是為生成行為而進化的，包括在社會情境中生成行為。這才需要情緒，才需要意識。 一個在不同語境下發展出來的人工系統，完全可能永遠不需要它們，永遠不會有意識。 所以他認為意識不會從足夠強的資訊處理能力中自發湧現。它屬於心智的一個部件，你不顯式實現它，它就不在。 身體呢？他認為必須有，但不必是物理的，一個足夠真實的模擬也行。關鍵是那個語境：類人智慧只能在類人的語境中產生，它需要其他人存在，才能展示出自己像人。 ## 2013 年那陣驚訝 被問到什麼時候被 AI 的能力真正震到過，他給的時間是 2013 到 2014 年。 那時候我們還沒摸清深度學習的邊界，感覺潛力是無限的。後來邊界一點點收窄。 但他說自己從沒相信過深度學習沒有極限。真正讓他震驚的是它能跑通，能做計算機視覺做得那麼好。這跟接近人類水平智慧之間隔著一大段距離，他從沒混淆過這兩件事。 他也不認為我們接近人類水平智慧，但認為沒有理由最終達不到。 他順帶批評了"人類水平"這個說法。它預設了一條智慧的一維標尺，上面有不同刻度。實際不是這樣，智慧是多維的。能力和像人是兩個獨立的軸，你可以造出非常先進但完全不像人的智慧體，也可以造出很像人但能力有限的系統。 至於通用人工智慧讓他興奮、恐懼還是無聊，他的回答很書生：興奮，但興奮點不在它能幹什麼，而在於如果真的造出類人智慧，那就意味著我們真正理解了人類智慧。這件事本身足夠迷人。 ## 這套想法對讀者意味著什麼 整場對話裡，他反覆在做同一件事：把一個被當成物理定律的敘事，還原成一個特定語境下的經驗觀察。智慧爆炸是敘事，《苦澀的教訓》是特定七十年的經驗總結，AI 威脅是十年前後完全不同的具體問題。他要求的從來不是"你該相信什麼"，他要的是"你說這話的時候，能不能給出一個可驗證的場景"。 下面幾條是能直接拿去用的。 - 看到任何關於 AI 能力的宣告，先找它對應的基準和可復現演示。找不到就先放進"尚未產生效用"那一堆，不用急著判斷對方是騙子還是有遠見，讓時間來做篩選。 - 聽到"跨過某個閾值就能帶來無限價值"這類論證時，把它當成融資話術而非技術判斷。價值來自具體問題的具體解決，不來自某個抽象的能力刻度。 - 評估一個 AI 專案的時間表時，看它的承諾歷史上有沒有兌現過。2015 年承諾 L5 的那批公司，是理解當下這波敘事最好的參照物。 - 作為使用者，主動去找平臺有沒有開放推薦目標的設定。沒有的話，至少要意識到你看到的不是世界，是某個目標函式篩選後的世界。 - 做技術選型時，區分"能硬編碼進架構的領域知識"和"真正需要從資料裡學的規律"。前者能刷高分數，但換一個資料集就歸零。 - 如果你在研究一個暫時沒人看好的方向，記住深度學習自己也曾被當成民科。堅持的前提是你手裡有一件最終能被證明有用的東西，不是一個漂亮的故事。