# 托馬索·波焦：大腦、心智與機器 > 計算神經科學學者探討視覺皮層的計算模型，以及大腦與機器學習之間的異同。 - 原標題：Tomaso Poggio: Brains, Minds, and Machines - 期數：特別節目 - 釋出日期：2019-01-19 - 嘉賓 / 主題：托馬索·波焦 - 網頁版：https://lex.qiaomu.ai/tw/ep/tomaso-poggio/ - 官方頁面：https://lexfridman.com/tomaso-poggio/ - 精讀字數：約 6835 字（閱讀約 15 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 愛因斯坦在蘇黎世聯邦理工學院的博士同學一共五個，他是最差的那個。畢業時，另外四個人都拿到了教職，只有他一個人沒拿到，最後去了伯爾尼的專利局上班。 這件事是托馬索·波焦（Tomaso Poggio）在訪談裡講的。他講它，是為了回答另一個問題：愛因斯坦憑什麼能想到相對論？ 波焦是 MIT 教授、大腦、心智與機器研究中心（CBMM）主任，論文被引用超過十萬次。他小時候把愛因斯坦當偶像，理由很具體：這個人只靠腦子裡的一場思想實驗，想象一個靜止的觀察者和火車上的人用手電筒通訊，就把時間和空間的關係撬開了。 那是純粹的智力。腦子一轉，物理現實最深的一層就鬆動了。 但愛因斯坦在課堂上的成績並不好，他走的是完全相反的一條路。波焦的判斷是：愛因斯坦的天才之處，恰恰在於他不按傳統方式思考。老師和其他學生都在同一套框架裡做題，他偏要跳出來。 波焦把這件事講成一條人生經驗，用的類位元別接地氣：股市裡，所有人都在買的時候，你別買。科學研究也一樣。大家都往一個方向擠的時候，那個方向大機率已經沒什麼剩下了。 ## 時間旅行大概不行，但那是另一個問題 訪談裡 Lex 問了一個很膨脹的問題：時間旅行可能嗎？ 波焦的回答很剋制。他說科學上你永遠不能說“不可能”，但根據我們對時間本質的理解，回到過去非常不靠譜。往前跳倒是理論上有點影子，比如把自己凍起來，或者坐一艘接近光速的飛船。 Lex 接著追：那你小時候那個夢想還在嗎？造出足夠強的智慧，讓它去解決人類解決不了的問題，包括時間旅行這種？ 波焦說，有些問題可能就是無解的，比如憑空造能量、回到過去。但造出能像我們一樣思考、甚至比我們思考得更好的機器，這件事他沒看到任何原則上的障礙。他補了一句很關鍵的話：**短期內更現實的方向，是機器幫我們思考得更好，至於機器替我們思考，還排不到前面。**這件事其實已經在發生了。 他還順帶吐了個槽。“智慧”這個詞本身就很滑，跟“愛”“意識”一樣，得先拆開才能談。 ## 為什麼智慧問題比宇宙起源還大 波焦說過一句話：智慧問題是科學裡最大的問題，比生命起源大，比宇宙起源也大。 他解釋了這句話的來歷。少年時代他迷戀相對論，但很快就發現，廣義相對論那個級別的問題太多了，就算他是愛因斯坦，也不可能一個一個解完。於是他換了個思路：能不能找到一個能解決所有其他問題的問題？ 答案就是智慧。如果能造出一個比愛因斯坦聰明十倍的東西，剩下的問題就可以交給它。 這是他最初的動機，很功利，也很工程。但他說，很快這個動機就變了。人類智慧本身成了他真正的研究物件，因為這背後藏著一個更根本的追問：**我們用來做科學的那個工具，就是我們自己的大腦。它怎麼工作？它從哪來？它的極限在哪？我們能不能把它變強？** 這個問題一旦問出來就繞不開了。所有科學都得靠大腦完成，大腦於是成了科學最底層的那塊地基。 ## 飛機和鳥：不懂生物學，也能造出會飛的東西 Lex 問了一個很實際的問題：不理解人腦，能不能造出強人工智慧？ 波焦沒有直接回答，先講了萊特兄弟。人類解決飛行問題的時候，對鳥怎麼飛其實瞭解得不多。知道“比空氣重的東西也能飛”這件事很重要，但再往下，生物學對造飛機幫助有限。萊特兄弟確實觀察過鳥，飛機卻並非從鳥的骨骼和肌肉裡長出來的。 那智慧是不是也一樣？ 波焦說，現在這就是一個賭局。你可以這樣問：假設我們早晚能造出一臺機器，聰明到能當我的秘書，什麼都能替我幹。造出它需不需要了解人腦？還是說，瞭解人腦反而是最快的路徑？ 不同背景的人會押不同的注。他給了一個很有分量的歷史證據：**過去五到十年裡 AI 的主要突破，源頭大多在神經科學。** 強化學習是 AlphaGo 的核心演算法之一，它的思想源頭可以追到巴甫洛夫，追到 60 年代的明斯基和其他神經科學家。深度學習是自動駕駛和 AlphaGo 的另一塊基石，它的分層網路架構最早來自哈佛的 Hubel 和 Wiesel 在 60 年代對貓視覺皮層的研究。 波焦自己的賭注是：神經科學至少還會繼續提供靈感。不一定是每一次突破，但一定會有幾次。 ## 小孩和果蠅的基因數量差不多，這件事很要命 波焦說，很長一段時間裡他都覺得人工神經網路太簡陋了，跟真實的神經網路比簡直是玩具。後來他改主意了。 原因是對比物件變了。人工神經元確實是生物神經元的漫畫版，但它再簡陋，好歹是“一堆互相通訊的單元”，這跟大腦的基本結構對得上。而傳統電腦科學用來模擬思維的東西，數學邏輯、Lisp、Prolog，連這個都算不上。**人工神經網路至少架構上離大腦近得多。** 那它缺什麼？ 缺的是標籤。深度學習要訓練，得喂大量人工標註過的樣本，比如一百萬張圖片，每張都有人告訴你裡面是什麼東西。生物不是這樣運作的。一個嬰兒在生命頭幾年看到的影象也有幾百萬張，但沒人會給他幾百萬個標籤。 這裡波焦講了一個他覺得特別有意思的對照：**人類和果蠅的 DNA，基因數量差不多。** 果蠅基本上是一臺被基因硬編碼的機器，它一生中學到的東西很少，95% 的行為是出廠設定。但我們和它基因數量差不多，那我們的學習能力從哪來？ 波焦的推論是：因為進化沒給我們更多基因，它就只能把我們造成一臺通用學習機器，再塞幾個非常弱的先驗進去。硬體不夠，用軟體湊。 ## 嬰兒臉上的那塊“可塑性空白” 他舉了一個具體例子，關於大腦裡識別面孔的那塊區域。 我們早就知道，大腦裡有一批神經元專門對面孔有反應。問題是：這塊區域是天生接好線的，還是生下來之後很快學會的？ 哈佛的瑪格麗特·利文斯通（Margaret Livingstone）做了一個很巧的實驗。她把剛出生的小猴子養起來，前幾周不讓它們看到任何臉。小猴子能看見東西，但所有照顧它的技術人員都戴著面具。 結果，這些猴子大腦裡那塊本該對臉敏感的區域，完全沒有面部偏好。 波焦的猜測是：**進化給出的東西是一塊高度可塑的區域，它被預設成“很容易被印刻”，基因裡並沒有一張詳細的面孔模板電路圖。**畫一張那樣的電路圖需要太多位元，得規定大量神經元之間的連線方式，基因裝不下。 基因真正下發的指令更像是：記住你生命頭兩週裡最常看到的東西，尤其是跟食物有關的。 這個實驗還有一個後續細節，特別能說明問題。那些被面具擋住臉的小猴子，經常看到的是技術人員餵奶時戴的藍色手套。結果它們大腦那塊區域裡，有一部分細胞變得對手套敏感。 臉的位置被手套佔了。硬體是同一塊，裝什麼軟體看環境。 ## 大腦是模組化的，但模組的硬體長得一樣 1950 年代神經科學有過一個說法，叫“等勢”（equipotentiality），意思是你切掉大腦的哪一塊都差不多，頂多效能下降一點。這個說法來自大量老鼠實驗，後來被證明是錯的。 現在我們知道大腦高度模組化。某塊區域中風，人可能就說不了話；另一塊出問題，腿可能就動不了。證據來自戰爭傷員、腦損傷病例，以及近些年的功能性核磁共振。 但這裡面藏著一個大謎題。波焦說，大腦裡有些部分解剖結構明顯不同，比如小腦、海馬體。可大腦皮層不一樣，視覺皮層、聽覺皮層、運動皮層、語言皮層，**硬體長得幾乎一模一樣，神經元型別一樣，連線方式也一樣。** 同一塊硬體，為什麼要跑視覺、聽覺、語言這麼多種完全不同的軟體？ 波焦說這個問題現在是開放的，他倒是覺得它很有啟發性。如果一塊架構既能做視覺又能做語言，那背後的機制大概是通用的。**這對造人工神經網路是個重要提示：別為每個任務設計一套專用架構。** ## 為什麼深度網路比淺層網路強：組合性 波焦用了“組合性”（compositionality）這個詞來解釋深度學習為什麼有效。 他研究的問題很技術：什麼時候多層網路比單層網路強？答案是，當你要學的那個函式本身具有組合結構的時候。 什麼叫組合結構？就是函式套函式。你看一張圖，不需要一次看所有畫素，可以先看一小塊，算出點東西，再在一小塊的結果上算下一層。讀句子也一樣，不用一個詞一個詞地啃，可以看音節、拼成詞、再拼成句子。 淺層網路要逼近這種函式，需要指數級多的單元。這就是所謂的維度災難。一個 200×200 畫素的影象，四萬個變數，想要 10% 的精度，單元數量大概是 10 的四萬次方。這個數字比宇宙裡的原子還多。 **深層的、帶區域性連線的分層架構，可以完全繞開這個詛咒。前提是函式本身是組合的。** Lex 在這裡丟擲了馬克斯·泰格馬克（Max Tegmark）的觀點。泰格馬克是物理學家，他認為組合結構之所以存在，是因為物理世界本身是區域性的：原子只和鄰近的原子作用，行星只和鄰近的行星作用。組合性是物理定律給的。 波焦說，這個說法對，但可以再往前推一步，方向可能正好相反。 世界也許並不碰巧是組合的。也許是我們的大腦被接成了深度網路，所以它只擅長處理組合性的問題，處理不了那些不組合的問題。我們測試演算法用的題目，都帶著組合結構，因為造我們的那臺機器就是按這個結構造的。 他甚至給了另一個更“生物”的解釋：區域性連線的原因可能很土，就是長不出長距離連線。生物系統裡，短程連線好長，長程連線成本高、數量有限。於是大腦只能被造成一個深度卷積網路。**而這個網路恰好擅長某類問題，這類問題恰好是我們活著需要解決的問題。**所以我們就覺得它們“簡單”。 他還補了一句很實在的話：你完全可以靠解決這類問題，做出一家成功的公司。Mobileye 做的自動駕駛，就是一個組合性的問題。 ## 梯度下降為什麼管用：最優解比宇宙的原子還多 深度學習調引數靠的是隨機梯度下降，一個簡單得近乎粗暴的演算法。Lex 問，這麼簡單的東西為什麼能 work？ 波焦先說，他不覺得大腦會真的在做梯度下降。從我們目前對皮層和突觸的瞭解看，生物實現這個演算法不太可能。所以一定存在別的最佳化演算法，他猜是有的，還沒人找到。 然後他解釋了梯度下降為什麼在工程上這麼成功，這裡有個觀念上的轉折。 傳統統計學教你：模型引數越多，你需要的樣本就越多。資料量至少要是引數量的兩倍，最好十倍，不然就是過擬合。今天的神經網路反著來，引數量是資料量的十倍甚至百倍。 這麼自由，怎麼還能學到東西？ 波焦說他做過一些計算，用了代數里一個老定理，貝祖定理（Bézout's theorem），它可以估計多項式方程組解的個數。結論是：**一個典型深度網路的區域性最優解數量，可能比宇宙裡的原子還多。** 既然滿地都是解，隨便走走就能碰到一個，也就不奇怪了。這跟線性方程組是一個道理：未知數比方程多，解就有無窮多個。你總能找到一個解。 找到解和找到能泛化的解是兩件事，波焦特意把它們分開了。但他指出，過引數化把“找解”這一步的難度直接降下來了。 ## GAN 被高估了，但方向是對的 Lex 問生成對抗網路（GAN）能不能幫忙解決無監督學習的問題。 波焦的回答比較冷靜。他覺得 GAN 是一種估計機率密度的新辦法，以前沒人這麼幹過，有它的價值。他對它在智慧裡的作用沒那麼樂觀，比領域裡很多人要保守。 他的觀察是，很多人被 GAN 生成逼真影象的能力震住了，這種驚豔感很大程度上解釋了它的流行。生成好看的圖，和解決“減少人工標註”這個核心問題，是兩回事。 他自己很多年前做過類似的東西。訓練一個網路，輸入是姿態、表情這些引數的集合，輸出是影象。用同樣的資料集，把輸入輸出倒過來訓練。結果生成的影象質量相當不錯，機制比 GAN 簡單得多，效果差不多。 他的判斷是：**GAN 在計算機圖形學這類應用上很有用，指望它解決標註問題，恐怕不行。**他說了句很直白的話，很多人以為自己能取出比放進去更多的東西，可世界上沒有免費的午餐。 ## 怎麼把“大資料”變回“小資料” 這是訪談裡最實用的一段。 Lex 提了一個類比：我們正在教機器，能不能反過來研究“怎麼當一個好老師”？現在給網路打標籤的方式，根本沒考慮過該挑哪些樣本教。 波焦接過這個話頭，講了一個電腦科學史的濃縮版：**過去是程式設計師貴，後來是標註工便宜，未來應該變成學校。**像教小孩一樣教機器。 怎麼挑樣本？他還是回到生物。 進化是機會主義的，給的都是弱先驗。比如幾乎所有生物，包括人類嬰兒，都內建了檢測運動的能力。這套機制從果蠅到人高度保守，是進化很早就發現的東西。 這解釋了一個現象：嬰兒生下來頭幾天，眼睛總是追著動的東西看。 為什麼追運動？因為運動自帶分割。**一個東西在動，它和背景的邊界就自動出來了。**嬰兒不需要先學會分割，運動幫他分好了。一個乾淨的、摳掉背景的物體，是學認東西最理想的樣本。 所以流程可能是這樣的：先靠運動看幾周，把物體認下來、印刻進去，之後就算物體不動、混在背景裡，也能認出來了。 用極弱的先驗啟動，然後自我引導、逐步擴充套件。波焦認為，機器要擺脫海量標註，很可能得走類似的路。 ## 視覺的黃金時代，和理解的荒原 Lex 問：能識別物體、能定位，跟真正理解一個場景，差距有多大？ 波焦說，這個差距非常大。 他先肯定了現狀。現在做底層視覺、語音識別，是黃金時代，很多應用非常有用，Alexa 就是例子。同一水平的事情還有一大堆可以做，包括醫學診斷。 再往上，理解一個場景、理解語言、理解動作、理解人，還差得很遠。他說得很直接：**儘管有很多宣稱，我們其實還差一截。** ## 關於 AI 威脅：早點擔心是對的，但現在還早 Lex 提到了馬斯克、羅素、博斯特羅姆這些人對 AI 生存風險的擔憂。 波焦的態度很清楚：擔心是好事，早點擔心比晚點擔心好。他不反對擔心。 但他認為真正需要擔心的時刻還很遠，有些說法是誤導性的。比如“AI 比核武器更危險”這類話，他的評價是“這真的錯了”。從優先順序上講，核武器仍然更值得擔心，而且已經有人在處理了。 至於時間線，他提到博斯特羅姆說過大概一百年，也提到有人說過二十年。他自己沒給具體數字，只說自己更接近羅德尼·布魯克斯（Rodney Brooks）那一派，更保守、更靠後。 訪談裡有個小細節挺有意思。Lex 問，假設真造出了那種系統，它的設計我們能理解嗎？會不會是簡單可解釋的？ 波焦說，大概不能。緊接著他補了一句：這取決於你說的“理解”是什麼意思。 他打了個比方。我們其實也不理解深度網路內部每一個單元在幹什麼，但我們開始有了理論，知道它的計算是什麼、侷限在哪、性質如何。這就像我們“理解”氫彈一樣。**理解的定義可以很寬：作為一個文明，我們能不能再造出一個來？**能，就算理解了。 他自己 40 多年前和大衛·馬爾（David Marr）寫過一篇關於理解層次的論文，當時分了硬體層和演算法層。最近他把這篇論文更新了，加了一層：學習。 為什麼加這一層？因為你可以完全理解怎麼造一臺學習機器，但不知道它學出來會是什麼樣。就像你理解孩子學習的過程，但你不理解他為什麼突然迷上某一種音樂。**“理解過程但不理解結果”這種狀態，本身就已經是很強的理解了。** ## 倫理是可以學的，因為腦子裡真有對應的區域 Lex 問倫理能不能被機器學會。 波焦說很可能可以。然後他區分了兩個容易混的東西：一個是“神經科學的倫理”，也就是神經科學家該守什麼規矩；另一個是“倫理的神經科學”，也就是道德判斷在大腦裡怎麼實現。他感興趣的是後者。 這不是空想。已經有證據表明，大腦裡有特定區域參與道德判斷。更進一步，你可以用磁場刺激這些區域，改變一個人的道德決定。 這是他的同事瑞貝卡·薩克斯（Rebecca Saxe）等人的工作。 波焦說這只是開始，方向很清楚：如果倫理判斷有明確的神經基礎，那它就是一個可學的問題，也就可以被設計進機器裡。 ## 意識：做圖靈測試的時候，它其實偷偷在場 談到意識這個硬問題，波焦先承認它難，難在定義。神經科學家和哲學家一直在爭：意識是不是必須有血有肉？矽基裝置能不能有意識？還是說萬物都有一點意識，只是程度不同？他提到了朱利奧·託諾尼（Giulio Tononi）的整合資訊理論。 然後他提了一件事：克里斯托夫·科赫（Christof Koch）是他的第一個研究生。 Lex 問，造智慧系統需不需要搞清楚意識？ 波焦說，大部分做 AI 的人會回答不需要，這是個工程問題，能透過圖靈測試就行。 他自己的看法不太一樣。**他認為在做擴充套件版圖靈測試的時候，意識其實是隱含在裡面的。**你要判斷對面是不是真的有智慧，你實際上偷偷要求它有某種自我意識。科赫不同意這個看法。 Lex 接著問了一個更哲學的問題：死亡、有限性，對意識和智慧是必要的嗎？ 波焦說這個問題他從來沒想過，挺有意思。他提到喬布斯在斯坦福演講裡說過，生命的有限性是成就的驅動力。理性地講，他不認為意識必須依賴必死性。只是在我們這種生物系統裡，這兩件事看起來總是一起出現。 “誰知道呢。” ## 下一個突破在哪：一個讓人分不清自己在哪的實驗 Lex 問下一個突破會是什麼。波焦說他不知道，很可能還是受神經科學啟發。 他介紹了他自己參與的登月專案：MIT 的 CBMM，主要由 NSF 資助，研究的是視覺智慧，具體說是視覺皮層，以及我們怎麼環顧四周、理解周圍的世界。這裡是什麼情況？怎麼從這裡走到那裡不撞到東西？周圍有沒有其他人？這些東西我們感知得極快。 他說這已經非常接近意識了，還不完全是。 然後他講了一個 Google X 的實驗，很有意思。受試者坐在椅子上，戴著 VR 頭顯和耳機，透過一臺附近機器人的眼睛看世界，機器人的攝像頭和麥克風就是他的感官。 結果是，幾乎所有受試者都產生了一個強烈的、甩不掉的錯覺：**他們覺得自己就在機器人所在的那個位置。**他們能從機器人的視角看到自己的身體，仍然覺得自