# 馬特·博特尼克：DeepMind 的神經科學、心理學與人工智慧 > 結合神經科學與心理學視角，討論 DeepMind 的研究如何借鑑人腦的認知與學習機制。 - 原標題：#106 – Matt Botvinick: Neuroscience, Psychology, and AI at DeepMind - 期數：第 106 期 - 釋出日期：2020-07-03 - 嘉賓 / 主題：馬特·博特尼克：認知與 AI - 網頁版：https://lex.qiaomu.ai/tw/ep/matt-botvinick/ - 官方頁面：https://lexfridman.com/matt-botvinick/ - 精讀字數：約 13671 字（閱讀約 30 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 馬特·博特尼克（Matt Botvinick）在醫學院讀書時，同時想做外科醫生和精神科醫生。他以為自己是地球上唯一一個在這兩個方向之間搖擺的人，跑去問導師。導師後來被證明是一位挺有名的精神分析師，聽完說，這並不罕見，兩個領域有一個共同點：都是往表面之下看。 二十多年後，他在 DeepMind 擔任神經科學研究主任，帶一支既看神經元也看神經網路的團隊。他最近幾年最上心的問題換了方向：AI 能不能被人類真正喜歡，能不能反過來喜歡人類。 這兩件事隔得很遠。但按他自己的講法，它是一條線索慢慢收攏的結果。 ## 在他這裡，心理學和神經科學是同一門學問 先說那個腎臟的類比。腎科醫生研究腎臟，第一句話必然是問“這東西是幹什麼的”：把含有代謝廢物的血從一側接進來，把好東西留下，把廢物以尿的形式排出去。這件事說清楚了，剩下的工作才是研究它怎麼做到。 大腦在他這裡是一樣的問法。大腦是幹什麼的？答案是產生行為，從感知輸入走到行為輸出，而這些輸出得對生存有用。這件事說清楚了，剩下的工作才是研究它怎麼做到。而“說清楚這件事”本身，就是心理學在做的事。 所以他對心理學和神經科學的分界線越來越不耐煩。他承認這是個個人立場，但推到底就是一句話：如果神經科學不以“這個器官是幹什麼的”為出發點，那它研究的到底是什麼？ Lex 追問，這個立場是理想主義的還是工程現實主義的。他的回答兩頭都算。他確實預期未來幾十年裡這條路線會出成果，但他也覺得，如果不這麼框定問題，他根本不知道心理學家和神經科學家每天在忙什麼。 Lex 抬出一個反駁：早期天文學家追蹤行星運動的時候，完全不懂背後的物理，那也有價值。博特尼克當場同意。他說必須先有第谷那樣的資料，才可能有牛頓。但他補了一句：那只是個階段，還沒到終點。 ## 基因這個隱喻先於物理機制存在了幾十年 讀研時他有過一段真實的困惑。心理學討論問題的方式，大量依賴某種“虛擬因果機制”：注意力先選擇了環境中的某個物件，然後這個物件的資訊被傳遞給運動系統。他聽著覺得不對勁。這些只是隱喻，談不上機制。這裡面沒有任何一步真正還原到了物理層面。 後來他拿遺傳學史給自己吃了顆定心丸。孟德爾的遺傳學早於沃森和克里克的 DNA 雙螺旋幾十年。這中間有很長一段時間，人們用“基因”這個概念卓有成效地研究遺傳規律：有顯性、有隱性、有重組。基因在哪？沒人知道。它是個被髮明出來的解釋性實體，人們把因果屬性安在它頭上。後來那個空白被物理機制填上了。 > 但那個隱喻是值得擁有的，因為它給了我們一個很好的感覺：我們在找的是哪一種因果機制。（馬特·博特尼克） Lex 在這裡追了一刀：所以在你看來，神經元的相互作用是不是也是一種隱喻？還是說到了這一層就不再是隱喻了？ 博特尼克猶豫了一下，說這話可能會引起爭議。然後他給了明確回答：神經元之間的相互作用就是物理事實本身，因果互動真正發生的地方就在這裡。當然你可以再往下還原到量子事件，但那是一條烏龜馱烏龜的無限下行鏈，他不打算鑽。 他自己的取捨很清楚。永遠停留在心理學那層描述上，他會覺得失望。他想要知道心理活動怎麼從神經活動裡長出來。反過來也成立：不帶任何“要解釋什麼”的意識去研究神經活動，充其量是隨機摸索。 ## 他最推崇的心理學研究，來自腦損傷病人 Lex 提了一個批評：心理學的樣本量小得可憐，全都關在實驗室裡，從不去野外看真實的人。博特尼克沒有辯護，他承認高控制度的實驗代價就是，按設計本身就會丟掉真實世界的豐富性。 但他隨後講了讀研時最打動他的東西：神經心理學。 研究者去找各種腦損傷的病人群體，看特定部位的損傷產生了什麼特定的缺陷，然後反推這塊腦區是幹什麼的。他形容這類實驗“極具創造力，極其審慎，是好科學”。一個實驗回答一個問題，同時丟擲另一個問題，另一個人接著做實驗回答那個問題。你能感覺到自己在逼近某種近似答案。 他舉了語言功能的例子。語言產出、語言接收、視覺功能與閱讀的關係、聽覺與語義的關係，這些方向上的細緻研究結出了一批漂亮的模型，那些模型會叫你真的產生“我理解了一件此前不理解的事”的感覺。 > 這些不屬於工程問題。它們關於人類偏好和人類文化。心理學到這裡就貼著哲學了。（馬特·博特尼克） ## 把他拉進科學的，是一本沒拆封的書 他先讀的醫學院，同時唸了一個藝術史的研究生學位。做精神科輪轉的時候，導師問他感興趣什麼。他說可能是精神科，因為他一直好奇大腦怎麼工作，但他篤定沒有人正在做他想做的研究，那時候他連“認知”這個詞都還沒掌握。 導師說，不一定。然後從書架上抽下一套書遞給他。書還是塑封的，導師自己都沒讀過。 就是 PDP 那套書，《並行分散式處理》（Parallel Distributed Processing）。那個詞是深度學習最早的名字之一。他抱回宿舍，從頭讀到尾。 這段細節值得留意，因為它解釋了博特尼克整個學術趣味的底色。他進入科學，跟造更快的機器沒什麼關係；他是被那套書承諾的一件事拉進去的：認知的豐富性可以用網路來建模，而且建出來的東西有可能跟腦子裡的東西對得上。 ## 元學習：慢的學習塑造出快的學習 他們那篇 2018 年的論文叫《前額葉皮層作為一個元強化學習系統》。核心概念是元學習。 他用學外語解釋。第一次學一門外語很痛苦，一切都很陌生。等你學過兩門，第三門就容易得多。因為你學會了怎麼學：你知道接下來要背變位，要過語音關，你知道這一套流程長什麼樣。這裡有一個慢的學習機制，在改造你那個快的學習機制。 論文真正的起源是一次純 AI 的實驗。他們用標準強化學習演算法訓練一個迴圈神經網路，不只訓練一個任務，而是一整個互相關聯的任務序列。然後給它同系列裡的新任務，看會發生什麼。 結果是元學習自己長出來了。 機制講起來不復雜。迴圈神經網路有連線回路，活動能在裡面停留、被更新，這就是神經科學裡說的工作記憶。所以這個網路有一套動力學，活動模式隨時間怎麼演化，由連線方式決定。而連線方式，也就是突觸權重，由強化學習演算法在調整。 於是有了那條主線：**慢的突觸學習，塑造出快的活動動力學，而活動動力學本身變成了一個新的學習演算法。** > 你可以透過凍結突觸權重來驗證這件事。說，行了，不許再學了，你現在完蛋了。給它一個新盒子，它照樣能搞清楚哪個按鈕更好。（馬特·博特尼克） 他描述那個過程：網路會從兩個按鈕之間來回試探，平滑地轉成只按它更喜歡的那個，理性得像回事。但權重一點沒動。它靠的是過去許多許多個盒子塑造出來的活動動力學。 這個組裡恰好有一批神經科學家，看到結果後集體被敲了一下。這聽起來太像突觸記憶和活動記憶的區分了，也太像前額葉那身出了名的高遞迴連線了。 於是他們做了一個類比式的遷移：前額葉高度遞迴，是工作記憶的核心位置，那它支援強化學習嗎？強化學習是取動作、看獎勵、更新策略。也許前額葉就是在純活動層面做這件事，用活動模式記住“我剛才做了什麼、拿到多少獎勵”，並以此為根據改變行為。 接下來那個問題才有意思：前額葉怎麼變得這麼聰明？這套跑在迴圈動力學裡的程式，是從哪來的？工作給出的答案是，也許作用在突觸層面的機制，也就是多巴胺介導的那套東西，負責塑造了這些動力學。 ## 他看重的是湧現，不是設計 Lex 問能不能一直往上疊：元學習、元元學習、元元元學習，一層套一層更抽象的能力。博特尼克說這個方向被過度延伸了，但緊接著承認，Schmidhuber 在博士論文裡就半開玩笑地提過 meta-meta-meta 這條路。 然後他講了這件事裡真正讓他著迷的地方。 後來 AI 圈湧現了大量元學習演算法，很多很有效。但它們都是工程出來的：有人先想清楚“要讓元學習發生，應該怎麼設計”，然後寫出演算法。他們發現的這一種不一樣，**它沒有演算法的形式，它更像一種必然發生的現象：只要有記憶、只要記憶的功能被強化學習塑造、只要訓練任務是成序列且彼此相關的，它就一定會自己冒出來。** 你攔不住它。 他早前參與過另一篇論文《記憶增強神經網路中的元學習》，那裡的記憶不是迴圈動力學，是一種槽位式的外部記憶。同樣的故事，同樣的結果。所以迴圈結構並非必要條件，有記憶就夠了，再加上任務分佈。 而任務分佈這個條件，人類世界簡直是滿的。 > 你每天做的事，從來沒有跟昨天完全一樣的。但每一件事都跟前一件事有家族相似性。（馬特·博特尼克） 他自己的說法是：世界是無盡的變化加上無盡的冗餘。元學習就發生在這個設定裡。人類特別擅長抓那個冗餘，抓那個相似性。Melanie Mitchell 管這個叫類比。 ## 多巴胺可能存著一整條分佈 另一篇論文叫《基於多巴胺的強化學習中價值的分佈性編碼》。他先道了個歉，因為要講清楚必須先講清多巴胺是什麼。 傳統的強化學習裡，演算法核心有一個價值訊號：你預期未來能拿到的累計獎勵，通常表示成一個數字。賭場裡的賭徒，有某個機率贏多少錢，某個機率輸多少錢，傳統做法是把這一切加權平均成一個期望值。 分佈性強化學習說：別壓縮，把它當成一整條分佈來記。賭徒腦子裡想的是“有這麼大可能贏這麼多，有那麼大可能輸那麼多”，不化簡。 實驗裡這個改動顯著加速了學習，策略也更好。但這屬於先試出來、後找原因。人們這才回頭問，為什麼？ 已經清楚的一條原因是：**它驅動了更豐富的表徵學習。**兩個情境期望值相同，標準演算法會把它們在內心裡越擠越近，因為你被要求表示的那個量是一樣的，整個系統裡它們被攪成一坨。但如果這兩個情境的分佈不同，分佈性學習會保住這個區別。而這個區別在別的任務裡可能正好有用。 接著是跟腦子的對接。多巴胺目前主流的理解，是它編碼了強化學習裡的“獎勵預測誤差”：你拿到的比預期的多，就回頭把那個價值估計往上調；拿到的比預期的少，就往下調。這是時序差分學習的核心，1990 年代建立了這條連線，之後大量研究在支撐它。 傳統看法是，這個誤差也是一個數字，一個“驚訝程度”的標量。分佈性框架裡，價值是分佈，誤差也就是分佈。 Will Dabney 是早期做分佈性時序差分的人之一，他找到組裡的計算神經科學家 Zeb Kurth-Nelson，問：多巴胺有沒有可能在做這種分佈編碼？然後他們拉上哈佛的 Naoshige Uchida，翻文獻，列出一串可檢驗的預測：如果腦子真在用分佈編碼，那麼在 Uchida 那些實驗裡，應該能看到這幾件事。 結果那幾項預測基本都被相當清楚地驗證了。 博特尼克在這裡的謹慎值得一提。他說，剛發完這種論文，下一個念頭就是“希望它能重複”。好幾個實驗室在做後續實驗，很快會有答案。 ## AI 與神經科學之間是雙向的 他反覆強調一件事：這類工作看起來是 AI 給神經科學送靈感，它同時也驗證了 AI。如果能在腦子裡找到證據，說明某個技術在生物系統裡被使用了，那這個技術更可能是靠譜的，更可能擴充套件到複雜任務，更可能跟別的機制配合得好。 他把這稱為兩個領域之間的良性迴圈。這個迴圈一直都在，只是主導權在兩邊來回擺。他判斷當下是 AI 領先的階段：湧現出一堆想法，值得去腦子裡找對應物。而神經科學這邊，很多研究行為的方法還停留在早期認知心理學的框架裡，跟 AI 現在撓頭的問題（大規模複雜環境怎麼辦）有點接不上。 但他認為這個輪子必然會轉回來，不太遠的將來會有那麼一刻，神經科學開始往 AI 研究者的桌上砸想法，改變他們工作的方向。 Lex 問了個更個人化的問題：一個人能不能同時在 AI 和神經科學兩端都是世界級？ 博特尼克回答得很乾脆：能，但那是極少數人，他自己不在那個名單上。他點出真正的門檻跟智力關係不大，長在工具的學習曲線上。在前沿做動手的 AI 研究，工程門檻高得驚人，程式設計、資料收集、資料管理、分散式計算，全套。神經科學那邊又是完全不同的一套，而且方法在爆炸式增長。 他說最好的局面是光譜上每個點都有人，從純神經科學到純工程，而這些人身處一個互相說話的共同體裡。他自己站在接近中間的位置，一條腿在神經科學，一條腿在 AI。他坦白這個位置叫他無法在任何一端擁有真正的技術專長。 > 但我至少希望，身邊有幾個能看見連線的人是值得的。（馬特·博特尼克） 他補了一段很實在的觀察：每個學科都有自己的盲點、都有點不幸的執念、都有自己的一套隱喻和參照系。有點智力上的多樣性是健康的，能把人從卡住的地方拽出來。他在 DeepMind 天天看到這件事發生。 ## 機器人彈貝多芬彈得比人好，你想去聽嗎 話題轉到他現在最投入的方向：人機互動。他組裡有人這幾年硬轉向，從傳統認知心理學和認知神經科學，轉去做人機互動的實驗研究。 他給了兩個理由。第一個是追問意義：我們到底在幹什麼？把世界變得更好是什麼意思？他很確定那意味著使人類生活變好。但這個命題認真看下去，複雜得嚇人，尤其當你造的是學習系統。你寫完程式碼交出去，它不會像谷歌地圖那樣照程式跑，它會從經驗裡學。 這自然引向 AI 安全。他特意強調那些問題極其重要，DeepMind 內外有大批人整天在想。但他想說的是另一面：**使人類生活變好，正面看是什麼樣子？** 跟同事聊完，他們的初步結論是：光靠哲學思辨不夠，你必須考慮人實際上是怎麼回事，人實際上想要什麼，以及“人不知道自己想要什麼”和“兩個人想要的東西衝突”這兩種情況有多難辦。 他給了一個具體到有點嚇人的例子。假如有一個機器人，彈貝多芬奏鳴曲比任何人都好，那種敏感度和表現力超出人類極限。你想去聽嗎？你願意買票去音樂廳聽一個機器人演奏嗎？ > 這背後是偏好和文化的問題，跟工程無關。（馬特·博特尼克） 再往下更麻煩。就算知道了答案，這是 AI 工程師該替所有人決定的事嗎？大概不該。智慧體應該去跟工程師群體之外的人互動，去搞清楚那些人想要什麼。然後呢？兩個人想要不同的東西，而你只有一個智慧體，你要同時滿足他們。這就進了經濟學、社會選擇理論，甚至政治的領域。 順著這條線推到底，問題會滑出技術和工程的範疇，變成“你想要什麼樣的社會”。 他說這個念頭浮現時，自己在 AI 研究裡的感受變了，他用了一個詞：refreshed，像是被重新整理了一下。造這些東西，最終會把我們帶回那些最根本的問題：什麼是好生活，誰來定，怎麼使多個群體的視角都參與進來塑造我們生活的方式。他開始覺得，負責任地做 AI 研究，有可能通向一次文化上的更新。 Lex 接過話頭說，AI 會是 21 世紀的哲學。 ## 另一種敘事：能力越強就越仁慈 他提了一個常被忽略的敘事差異。人類獲得更多資訊和理解的時候，故事通常是這樣的：他們變得更有智慧，更接近覺悟，更仁慈。佛陀那條線。 那麼為什麼我們不去設想，我們造的 AI 系統會越來越多地搞懂世界怎麼運轉、人怎麼互動，然後變得善良？ 他說他不認為這會在沒有精心設定的情況下自然發生。但這個方向本身是存在的。 Lex 在這裡提了一個反向的觀察：人類心智對最壞情況有一種近乎本能的偏好。**他說這話時，指的是一種根深蒂固的傾向，先算最壞的可能。**電腦科學裡的最壞情況分析傳統也強化了這個習慣。我們不想被老虎吃掉，所以先算最壞。但這不該阻止我們去把其餘那些通向好結局的路徑修出來。 博特尼克同意，並且指出一個不對稱：說清“什麼會出錯”相對容易，說清“什麼叫走對了”難得多，也不明顯。而這恰恰是需要投入的地方。 他舉了 WALL-E 那個例子。所有事情都由機器替你做了，那是一種完全不同形態的反烏托邦。那不屬於我們想要的生活。 > 人從生活裡獲得的一部分滿足感，來自把事情做成。（馬特·博特尼克） 所以 AI 該幫什麼忙、幫到什麼程度、哪一步必須留給人自己，這些都得提前想。哪怕現在的技術還很原始，也該開始問：我們希望它們想要什麼？ 他也提到，有些事現在就能做。DeepMind 近幾年往科學應用上投入很多，比如蛋白質摺疊，那是在實打實地把世界變好。而社交網路、推薦系統這類已經在跟人深度互動的東西，裡面有大量互動機制還沒被真正理解，更沒被研究清楚。 Lex 舉了 Twitter：怎麼造出一個提升對話質量和健康度的 AI 系統？博特尼克說這是個漂亮的人類心理學問題，還加了一層：怎麼做到不欺騙、不操縱，最大化人的自主性，以及怎麼用民主的方式做這些選擇。有本事造這類系統的人只是極少數，但“什麼使世界變好”是所有人都該參與討論的事。 他組裡最近在讀的東西值得記一下：AI 文獻、神經科學文獻，加上經濟學、社會選擇理論，甚至一點政治理論。他們刻意不去寫哲學論文，想辦法做真正的實證研究，走出第一步小的嘗試，看看當帶著全部複雜性、矛盾、悖論的人類，真的跟這些系統接觸時，會發生什麼。 ## 溫暖的 AI 才是終極圖靈測試 Lex 問了一個他自己都說是過度浪漫化的問題：我們能不能造出一個人類會愛的 AGI，而且它會愛回來？ 博特尼克的回答用了一項社會心理學研究。普林斯頓的 Susan Fiske，那正好是他以前工作過的系。她把人對人的態度拆成兩個維度：一個是能力，這個人多能幹；另一個是溫暖，這個人多可親。 你可以設想一個人極其能幹但很冷，你會敬佩，但會有保留。你也可以設想一個人特別溫暖但什麼事都辦不成，同樣會有保留。**人類真正給出最高評價的，是又能幹又溫暖的那一小撮人。** 他強調這只是在做實證描述，沒有價值主張的意思。 然後他把這個二維模型放到 AI 研究上，落差立刻出來了。整個領域幾乎全在能力這一維上使勁。這個東西圍棋下得比人好，很厲害，但那只是兩個維度裡的一個。 另一個維度是什麼？他承認可能有簡單的部分：給系統一張臉，做得可愛，耳朵大大的。那大概確實算一部分。但更核心的是一整套行為模式：一個 AI 系統表現出關心、體貼，叫人真的相信它是在關心，感覺上不像表演，不像在被糊弄。 > 我覺得那才是終極的圖靈測試。不只是叫我們相信它會推理、會理解語言，而是讓人覺得可以坦然說出，這個 AI 是個好人。（馬特·博特尼克） 難的地方在於，我們對“溫暖”沒有足夠顯式的理解，沒法直接工程化。而人類在這件事上強得離譜。這不完全是與生俱來的，有人天生更暖，但也有很多是學來的技能：叫別人知道你 cares，知道他在你這裡有分量，知道你在享受跟他相處。這些是從彼此身上學來的。 所以他的判斷是：手工設計這些行為沒戲，但造出一個系統、給它一個方向，使它在跟人打交道的過程中自己學會什麼叫讓人舒服的互動，這並非不可能。 > 說實話，如果不是往那個方向走，我想退出。（馬特·博特尼克） ## 神經科學的下一個章節：把行為請回來 展望部分他給了兩條線。 神經科學這邊有一個尷尬的錯位。技術爆炸了，雙光子、光遺傳、各種記錄手段，但用上這些技術的實驗裡，往往沒有多少像樣的行為。原因很實際：要用這些裝置，小鼠得被固定住頭部，動不了。你怎麼使一隻被固定的小鼠做出有意思的行為？人們想了很多辦法，比如虛擬現實環境加一個可以跑的球。 這些嘗試鋪開之後，越來越多人開始問同一個問題：把行為請回來。那本來才是整件事的目的。 他期待兩條趨勢匯合：對行為的興趣回升，加上對 AI 裡那些計算機制的普遍關注。匯合的結果會是一個新章節，關於行為結構的興趣重生，而這次是被 AI 裡逐漸清晰的計算機制所照亮的。 如果真能做到，就離他前面說的那個理想狀態更近一步：心理學和神經科學之間不再有分界，神經科學就是研究“大腦是幹什麼的”背後的機制，而大腦是幹什麼的？產生行為。 ## AI 缺的是隨時改主意的能力 AI 這邊，他認為核心難題是靈活性，而且是兩層意思。 第一層，人能在很多事情上都還不錯，不必只專精一件。第二層，人能極快地切換，也能極快地學會新東西，因為他們一眼就能看出新任務跟以前做過的哪些事有共同點。 > 我們的 AI 系統 blatantly 沒有這個能力。（馬特·博特尼克） 有人據此論斷深度學習和深度強化學習這條路根本錯了。他不這麼看。但他承認那個更樸素的事實：我們還沒造出有這種靈活性的東西，而大半個領域的注意力正在往這兒轉。 這會引向抽象，也會引向心理學裡叫“認知控制”的東西：在任務之間切換的能力，把一套從未執行過的行為程式快速拼裝起來的能力，而且拼出來的東西對當前需求是合理的。這在神經科學那頭，跟前額葉乾的事關係極近。 ## 前額葉：那塊“最前面的地皮” 他自嘲說給前額葉下解剖學定義是懦夫的做法：運動皮層很好認，大腦皮層這塊外殼裡，位於運動皮層前面的那部分，就叫前額葉。只說地皮位置，不說功能。 這段研究史讀起來有點好笑。真正把這條路開啟的是一戰。大量帶著腦損傷回來計程車兵，成了研究不同腦區功能的視窗。這很悲劇，但確實極其高產。而讓神經心理學家最挫敗的一點是，損傷最靠前那塊區域之後，缺陷到底是什麼，怎麼也說不清。 後來靠大量臨床經驗和細緻觀察，有人摸到了一個綜合徵。其中一位是俄羅斯神經心理學家魯利亞（Luria），認知心理學的學生現在還在讀他。他的結論是，額葉跟靈活性有關：抑制習慣、做不尋常的事、在瞬間之間靈活地改變正在做的事。 把這個功能聚焦得更清楚的，是控制性行為與自動化行為的區分，另一套術語叫目標導向行為與習慣行為。人腦裡有專門給習慣用的通路，那些你天天做的事必須自動化，好把你的認知資源騰出來幹別的。 學開車和開了十年車，區別就在這裡。有些通路會慢慢吸收那些高頻重複的行為，把它們變成習慣，變成自動的。 前額葉的角色，恰恰是站在習慣的對立面：**它使人能壓下習慣。**使人能說，我在這種情況下通常做 X，但看現在這個情形，我大概該做 Y。 他舉了肘擊。伸手握手是根深蒂固的習慣行為，是前額葉叫人意識到此刻情況特殊，這個場合不能做那個慣常動作。魯利亞設計的那些檢測測驗就是這個邏輯：我伸出手，但請你改用肘部碰我。額葉損傷的病人做這個極其困難。別人伸出手，握手反應就被自動拉出來了。 ## 小鼠有沒有前額葉，這是個真問題 Lex 問，這個能力是人類獨有的嗎？小鼠有前額葉嗎？ 博特尼克說這問題又棘手又及時。因為我們現在有革命性的技術，可以在小鼠和果蠅身上監測、測量，甚至因果性地干預神經活動。這些技術在猴子身上都用不全，更別說人。 所以“我們想理解的人類智慧，能不能在這些生物身上追”變成了一個緊迫問題。而答案有分歧。 研究果蠅的人會說：果蠅比你想的聰明。他們會指給你看實驗，果蠅能學新行為，能從一個刺激泛化到另一個，那種泛化方式暗示它們內部有抽象。 他自己常遇到的場景是這樣的。他先描述一個觀察：小鼠學某個任務慢得離譜，而那個任務對人來說簡單到不值得提。他據此推論，小鼠沒有我們想解釋的那種認知靈活性。然後研究小鼠的人會回他：那個實驗可能沒做成，是因為你讓小鼠處理的東西對小鼠太不自然。如果你保持實驗邏輯不變，但把資訊呈現方式換成小鼠在自然棲息地裡習慣處理的樣子，你可能會發現它比你以為的聰明得多。接著人家就放影片：小鼠在自然環境裡拖著食物回窩，路上有障礙，它在想辦法把障礙清掉。 他說這些是開放問題。 ## 大腦既不是積木也不是一鍋粥 他先給了一個明確的判斷：功能分化有壓倒性的證據。不是所有腦區都在幹同一件事。這從腦損傷研究裡立刻能看出來，把電極插進去測神經活動也能看出來。 然後他補了兩點，方向相反。 第一，仔細看功能分化，你通常得到的結論是，腦區之間的差異是漸變的，談不上離散。很難把大腦切成邊界清晰、通道清晰的真正模組。前額葉尤其如此，它由一堆子區域構成，功能定義不清晰，邊界也模糊。 第二，一些非常新的研究顯示，那些我們原以為功能很聚焦的腦區，其實攜帶著意想不到的訊號。初級視覺皮層，教科書裡說它是最早處理視覺資訊的皮層中轉站，它該關心的就是“我這個場景裡邊緣在哪”。然而只要有足夠的資料，你能從初級視覺皮層裡解碼出各種東西：動物此刻在做什麼行為，當前任務裡有多少獎勵可拿。 > 神經科學的歷史就是在模組化和一鍋粥這兩種觀點之間來回擺。我猜最後會落在中間。麻煩在於，中間那一片最難想。（馬特·博特尼克） 他的解釋很到位：人的概念系統處理模組化系統很輕鬆，處理完全無差別的系統也很輕鬆，唯獨處理兩者之間的東西會犯迷糊。但我們得習慣它。 ## 資訊到底怎麼在腦子裡傳 他承認自己老派。他認為深度學習研究裡用的那些網路，是對大腦資訊傳遞機制的一個合理近似。 標準的說法是頻率編碼：重要的是一個神經元放電多快，給它安一個數字，這個數字就足以刻畫它在幹什麼。 這個看法有不確定性。有研究指出尖峰的精確時序有意義。也有研究指出，樹突內部進行的計算相當豐富和有結構，跟我們在人工網路裡做的事完全不對應。 但他的立場是，堅持這個高度抽象的層次，我們確實在往前走。他把神經傳遞的 101 講了一遍：神經遞質抵達一個神經元，神經元上有受體，遞質與受體結合改變了膜電位，電位變化足夠大就產生一個尖峰，尖峰沿軸突傳導，觸發遞質釋放。我們在造人工網路時不去管單個尖峰，只管尖峰的發放頻率，管它叫這個神經元的“活動”。所以深度學習裡一個單元的活動，粗略對應神經元的放電率。 Lex 提到他讀到過一種說法，說機械振動訊號可能也在傳遞資訊，甚至有人主張電訊號只是機械訊號的副產品。博特尼克說沒看過那篇，但那不改變整體故事。他順帶承認，物理裡總有更深一層的故事，量子力學就是例子。 Lex 接著問了個更狠的：有沒有可能我們對這套基本機制的理解完全錯了？ 他答得非常乾脆：太有可能了。 > 如果我連這一點都不承認，我就不該當科學家。（馬特·博特尼克） 但他隨後講了為什麼他仍然相信這條路。從 1980 年代開始，有一條沒斷過的研究鏈，方法一直是同一個：拿一個多層神經網路，在人、猴子或者大鼠做過的任務上訓練它，然後去看網路深處的單元在幹什麼，去問那像不像我們知道的腦內神經元的活動。一次又一次，這個方法奏效了。以反向傳播為核心的學習演算法，產生的活動模式、反應模式、神經元行為模式，跟腦子裡看到的驚人地相似。 巧合到這個程度，就開始不像巧合了。原文在這裡斷掉了。 ## 最迷人的那個悖論 Lex 最後問了那個浪漫的問題：在他的領域裡，什麼想法最美、最神秘、最令人驚訝。 他給了一個悖論。大腦如此神秘，感覺如此遙遠。但同時，正是它造就了日常生活的全部透明性。大腦是把一切變得明顯、變得熟悉的東西。而每時每刻，房間裡總有一個。 他在普林斯頓教認知神經科學，最後一堂課他會這麼跟學生說：人們談到科學的靈感，常用的隱喻是抬頭看星星，星星叫人驚歎宇宙，叫人思考自己的位置，思考萬物怎麼運轉。他說他完全支援看星星，但真正給他驚歎的從來都是近得不能再近的那個腦子，那些遙遠的星辰反而做不到。 Lex 追問，是不是也包括這一層：我們此刻這段對話能發生，是因為兩個腦子在通訊。他說是的，而且他常常覺得關於人工智慧的討論窄得讓人失望。他提到自己一直對藝術有興趣，人類完整的體驗有很多層次，光說“我們討論的是認知，情緒回頭再加上”是不夠的。人在每一刻經歷的東西，範圍大得驚人，而這一切是腦子產出的。 Lex 順著講了一個他常感沮喪的現象：語言裡那些真正迷人的東西，音樂感、機智、韻味，一旦社群要建一個 benchmark 聚攏大家，就會大量丟失。你越想做得嚴謹，魔法掉得越多。 博特尼克接得很穩：他說他同意，但也要為第一波深度學習模型說句公道話。那批人建模型時，腦子裡裝著人類認知的豐富性，並不在意分數。 他講了一場研究生時親眼看著發生的辯論，題目聽起來幹得像木屑：過去式的形成。 一方說，心智裡編碼了規則，同時有一張例外清單。規則是加 -ed，但總有不這麼幹的時候，所以你必須存一張表。另一方是連線主義者，也就是今天的深度學習這幫人，他們說：別急著假設，先去真的看資料。看語料庫。語料庫裡的東西非常豐富，大多數動詞確實加 -ed，也有例外，但例外並非隨機的，有線索提示哪些動詞該例外，甚至還有例外之例外。 英語裡專門有個詞形容這個：準規則性（quasi-regularity）。有規則，但很髒。例外內部也有結構。 > 你當然可以試著把這個結構寫成某種閉式解。但真正理解大腦是怎麼處理這一切的，正確做法是搭一個深度神經網路，在這份資料上訓練它，看它最終怎麼表徵這些豐富性。（馬特·博特尼克） 這就是深度學習被引入認知心理學時的精神：衝著豐富性去的。他說這一點一直叫他覺得有說服力，現在依然是。 ## 缺的是隨時改主意的能力 Lex 問得更細：在我們對生物神經網路和人工神經網路的理解之間，有沒有哪個差異，是他覺得既有趣、又深刻、甚至就是通往人類級智慧必須補的那一塊。 他的回答落在他講過很多次的那個點上：現在的系統缺靈活性，缺那種情境一變、立刻換擋的即時性，而這恰恰是人類行為最鮮明的特徵。 有意思的是他接著用圖靈機來類比。他說計算機導論課講圖靈機的時候，有一種講法他記了很久：圖靈機是一臺機器模擬器，它能模擬任何別的機器。他覺得自己一直在這個框架裡看人。人當然遠不是圖靈機，容量有限得很，但我們有一種能力，能組裝出跟以往做過的一切都截然不同的行為。 > 我們腦子裡裝著某個基礎機制，使得我們能跑軟體。（馬特·博特尼克） Lex 在這裡逼了一句：所以在你看來，大腦歸根結底就是個計算裝置？裡面有沒有什麼魔法？ 博特尼克的回答分兩半。前半是，他很樂意把它當成純計算。後半是，他絕不會滿意，直到有人能告訴他那些基礎計算究竟是什麼、它們怎麼產出人類認知的全部豐富性。 他把門檻抬得很高：搞清楚人怎麼做算術、怎麼下棋，對他來說遠遠不夠。**他要的是全部。** ## 2001 太空漫遊裡那根骨頭 話題拐到群體行為。Lex 提到大群體的行為，集體心智，把一群人看成一個智慧有機體。他拿《2001 太空漫遊》裡猴子摸到那根骨頭說事，說那是魔法般的時刻。 博特尼克先做了一件事：把功勞推開。他說自己很榮幸跟一群極聰明的人共事，但組裡和 DeepMind 的多智慧體工作，領路的功勞不該記在他頭上。然後給了判斷：人類行為在共同體內部發生，這一點在他看來不言自明。 Lex 提到 Harari 的那個論點：大量人類能共同持有一個想法、朝同一個方向收斂。像疫情期間，握手變成碰肘，沒有人坐在一個屋子裡開會，但一個觀念在一段時間裡分散式地收斂了。他覺得這幾乎是我們認知和智慧的每一個方面的基礎。人好像沒有一條清晰的、寫在明處的目標函式，但我們都朝某個方向收斂了。 博特尼克在這件事上給了明確的保留。他說自己從不被“智慧存在於共同體層面”這個說法說服。他有點固執地認為，我們要理解的基本單位是個體的人。如果必須在其他人的語境裡去理解這個人，可以。但智慧，他頑固地把它定義為個體身上的一種屬性。 他自己也不確定這是否只是口味問題。 Lex 說他和博特尼克站同一邊，同時點出那可能是科學家的還原論夢想。他也留了另一種可能：智慧也許只在存在多個智慧時才會出現。如果真是那樣，那挺悲哀的，因為那極難研究。因為單獨一個人根本不會變成現在這麼聰明，那一個就不會是智人。 > 這是可能的。（馬特·博特尼克） ## 環境的結構，和認知的結構一樣重要 接著他說了一句他認為被嚴重低估的話：認真理解人類智慧，或者造出類人智慧，必須給環境的結構和認知系統的結構同等的注意力。不管那個系統是腦子還是 AI。 這是他早年在神經網路先驅身上學到的東西。他點了兩個人的名字：Jay McClelland 和 John Cohen。 認知的結構，只有一部分是大腦架構和它實現的學習演算法的函式。真正塑造它的是這些東西與所處世界的結構之間的相互作用。 這一點在強化學習裡最明顯：你能學到多少，取決於你能模擬多少。DeepMind 把這個道理的另一個側面也講透了，就是自博弈。競爭對手成了環境本身。他說這是 AI 裡最激動人心的想法之一，而且真的能學成。 > 所以你看，至少在那個語境裡，競爭對學習是必需的。（馬特·博特尼克） 他還說了一句關於智慧來源的判斷，值得單獨拎出來：很多看起來像是智慧的東西，其實是環境結構的投影，談不上系統本身的屬性。這句話對做 AI 的人有直接的工程含義：當你發現一個模型學不會，第一件該檢查的事，往往落在你給它的環境裡有沒有那種可以被抓取的結構上，而非模型架構。 ## 把這段對話收進日常 博特尼克這期聊的東西跨度很大，從基因隱喻聊到多巴胺的分佈編碼，從額葉損傷聊到機器人彈貝多芬。但真正能落到手上的動作，其實不多，也很難。下面幾條是這期內容裡最經得起反覆用的。 - **先問“這個系統是幹什麼的”，再問“它怎麼做到的”。**不論是讀一篇神經科學論文、審一個模型架構，還是設計一個產品，先把這個器官、這個系統、這個功能的用途說清楚。說不清楚就開始摳實現細節，多半是在隨機摸索。 - **看一個 AI 能力時，分兩個軸打分：能力和溫暖。**Fiske 那個二維模型可以直接搬過來用。評估一個助手、一個客服系統、一個推薦演算法，別隻問它“能不能辦成”，也問“跟它打交道的人感覺如何”。現在絕大多數產品只在第一個軸上做最佳化，第二個軸基本空著，那正是差異化的地方。 - **檢驗你的訓練環境裡有沒有“無盡的變化加無盡的冗餘”。**元學習能不能自己長出來，靠的不在演算法多花哨，而在任務分佈裡有沒有共享的抽象結構。如果你的訓練任務彼此毫不相干，或者彼此完全一樣，那就別指望模型學到“怎麼學”。 - **遇到“這個模型怎麼這麼笨”的時候，先懷疑任務呈現方式。**小鼠那個例子值得反覆想：同樣的實驗邏輯，換成動物在自然棲息地裡習慣的形式，它可能就聰明瞭。模型在某個任務上表現糟糕，先檢查這個任務對它的“感官”和“動作空間”是否自然，再決定要不要改架構。 - **把“什麼會出錯”和“什麼叫走對了”當成兩個同等重要的研究議題。**最壞情況分析容易做，也符合本能，但如果只做這一半，你會得到一個“沒有災難”的世界，而那個“值得生活”的世界還需要另一撥人去修。團隊裡應該有人專門負責後者。 - **做跨學科的事，最好的位置可能是中間，但要接受代價。**博特尼克自己的坦白很誠實：站在中間能看見連線，但很難在任何一端擁有真正的技術專長。如果你的目標是做那個翻譯的人，就主動去經營一個分佈在整個光譜上的共同體，讓兩端的人互相聽得見。 - **給系統一個方向，而不是一套規則。**溫暖也好，人際互動的分寸也好，這些都沒法手寫進程式碼。可行的路徑是設定初始傾向，然後讓它從與人的真實互動裡學。凡是宣稱能用規則窮舉人類社交細節的方案，基本可以先打個問號。 最後留一句他自己的話，可以當成這期的總綱。他說，說實話，如果不是往那個方向走，他想退出。 一個在 DeepMind 做神經科學研究的人，把“造出人類會喜歡、也會喜歡人類的系統”當成自己繼續幹下去的理由。這個理由聽起來不像工程指標，但它可能比任何一個 benchmark 都更接近問題的本質。 因為如果最後造出來的東西很能幹，但沒人願意跟它待在一起，那我們忙這一場，到底是為了什麼。