# 梅蘭妮·米切爾：概念、類比、常識與 AI 的未來 > 複雜系統學者談 AI 為何仍缺乏概念抽象、類比與常識推理能力，以及通向真正理解的路徑。 - 原標題：Melanie Mitchell: Concepts, Analogies, Common Sense & Future of AI - 期數：特別節目 - 釋出日期：2019-12-28 - 嘉賓 / 主題：梅蘭妮·米切爾 - 網頁版：https://lex.qiaomu.ai/tw/ep/melanie-mitchell/ - 官方頁面：https://lexfridman.com/melanie-mitchell/ - 精讀字數：約 10828 字（閱讀約 24 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 1956 年，John McCarthy 造出 artificial intelligence 這個詞，一部分動機是為了跟當時更主流的控制論（cybernetics）劃清界限。梅蘭妮·米切爾（Melanie Mitchell）在這期訪談裡說，據她讀到的材料，他後來後悔了。Herbert Simon 當年力主把這塊領域叫作“複雜資訊處理”（complex information processing），沒爭過。 這個名字的麻煩不在於它錯，在於它太滑。不同的人聽到它，腦子裡浮現的東西完全不同：有人想到下棋程式，有人想到掃地機器人，有人想到《終結者》，有人想到統計學。米切爾說 intelligence 這個詞本身也沒定義清楚，智慧有太多種類、太多個程度、太多條路徑，你很難說清自己在談哪一個。 她自己是被“智慧這個現象”吸引進來的。她開玩笑說，如果當年這行真叫“複雜資訊處理”，她今天可能在幹別的事。 她 1990 年博士畢業，正趕上那一輪 AI 寒冬。導師給她的建議很實在：簡歷上別寫 artificial intelligence，寫 intelligent systems。委婉語。 這段開場像一次術語清理，其實埋下了整場對話的主線。米切爾後來所有的判斷，包括她怎麼看深度學習的天花板、怎麼反駁“超級智慧把世界變成紙夾”、怎麼理解常識，都是從“我們其實不知道自己說的智慧是什麼”這個起點長出來的。 ## 智慧這條線，會一直往後挪 棋類是最好的例子。早年有一大批人相信，會下國際象棋是通用人類智慧的標誌，你不可能沒有人類級別的智慧還會下棋。等機器下贏了，這套說法自動改了，人們回頭重新定義：那下棋其實不算什麼智慧。 這個模式在整部 AI 史上反覆出現。**每一項任務一旦被機器攻克，人類就把它從“智慧”清單裡劃掉，挪到“機械計算”那一欄。**米切爾說，這是這個領域最穩定的一條規律。 那這條線會永遠挪下去嗎？她的判斷是，原則上沒有理由認為我們造不出會被自己認可為智慧的東西，只是“我們怎麼知道自己認可了”很難。也許我們對智慧的理解會一點點被磨細，細到最後終於能說清自己在說什麼。 她還提了一個更有意思的角度：造智慧的過程，可能同時是在照鏡子。細胞本身是機械的，它們有演算法，按規則處理資訊，而海量細胞湊在一起，湧現出了我們叫它智慧的東西。底下全是機械的細胞處理，以及非常非常多的量。人身上那些“機器般的性質”，我們平時看不見。 有個追問很鋒利：能不能在不理解自己心智的前提下造出智慧？她說如果要她下注，答案是不能，至少要在相當程度上理解。但她也承認這是個大問號，因為她被一件事驚到過：那種純靠大資料和大網路的蠻力路線，居然能走這麼遠。這條路跟她理解的人腦工作方式毫無關係。 ## 我們看不見自己每天在做的事 為什麼這個領域對未來的預測總是錯得離譜？ 她講了 Marvin Minsky 把計算機視覺當成暑期專案派給本科生的故事，而且確認這是真事。那份專案計劃書今天讀起來很好笑，因為它基本上把計算機視覺的所有根本難題都列了一遍，其中很多至今沒解。Minsky 極聰明，極老練，照樣低估了。 低估的原因很具體：**這些事對我們太隱形了。**你睜眼看一下房間，說出你看到了什麼，這個過程不費任何力氣，感覺不到任何工作量。所以它看起來不難。實際上底下跑著巨量的無意識計算，我們完全接觸不到。 米切爾在書裡引了一個她喜歡的說法：人類級別的智慧，距離我們還有 100 個諾貝爾獎那麼遠。這個單位挺好用，意思是還得有那麼多重大發現被做出來。順帶一句，諾貝爾獎沒有 AI 這一項，目前還沒有。 她自己的預測是超過 100 年。她認為通往那裡的路必須經過對我們自身認知系統的理解，繞不開，不是把今天的機器學習指數級放大就能到。 Lex 在這裡跟她有一點分歧。他說自己一方面同意，另一方面越來越被這些方法的能力驚到，覺得它們比很多人以為的更能走，會走得很遠，只是“很遠”離“人類級”還是比大家想的更遠。米切爾回應：這些方法確實比人們承認的更強，她也可能錯。她只是不認為這個路子可持續。 ## 這個領域裡至少有五撥人，彼此差別很大 寫書過程裡最讓她意外的，是圈內人對“走到哪一步了”的判斷差距之大。 第一撥是奇點派和超人類主義那一支。他們的敘事是：我們正處在指數曲線最陡的那一段，未來三十年會出現超級智慧，我們還能把大腦上傳。 第二撥不搞奇點，但相信深度學習會一路放大到底，直接把我們帶到通用智慧。她說這撥人不少，尤其大廠的 AI 團隊裡，很多人真覺得“我們離得不遠了”。 第三撥以 Yann LeCun 為代表。他同樣相信會有諾貝爾獎級別的基礎突破，但這些突破會建在深度學習之上。他的核心判斷是監督學習不可持續，無監督學習才是鑰匙。米切爾補了一句：無監督學習會比大家想的更難，人類做這件事的方式至今沒被複製出來。 第四撥是 Gary Marcus 那一路的混合派。深度學習只是其中一塊，符號方法得回來，兩邊要接起來。問題是沒人知道怎麼接，接在哪一層，誰是地基誰是糖霜。 第五撥是做因果的那批人。他們的說法是，今天這個形態的深度學習完全沒有因果概念，這是死穴，不給它某種因果表徵就走不下去。 再往外，還有認知科學背景的一群人在推發展學習、嬰兒怎麼學、直覺物理。有人打趣說，還得教機器直覺形而上學，也就是“物體是持續存在的”“因果是存在的”這些我們可能天生就帶著的東西。機器看到一堆畫素，餵了一千萬個樣本，也未必能學到“世界上有物體”這件事。 米切爾自己的位置偏認知科學那一側，而且她越來越認同具身（embodiment）：**沒有身體，很難學到我們關於世界必須學的那部分東西。** ## 類比是認知的引擎，跟修辭沒關係 要理解她的立場，得回到 1984 年。那年她剛開始讀博，加入 Douglas Hofstadter 的組，參與一個叫 Copycat 的專案。這個專案做的東西聽起來很小：在字母串這個理想化世界裡做類比。 比如給一個例子：ABC 變成 ABD，那麼 DEF 變成什麼？ Copycat 得先發現 ABC 是字母表上連續的一段，才能推出 DEF 的對應答案是 DEG。它內建了字母表順序、後繼、相同性這些概念，還內建了“這段是不是連續的”這類覺察。她的解釋很坦白：程式裡所有概念都是預置的，這當然是很大的限制。他們想問的是另一個問題：假如你有一些概念，你怎麼把它們靈活地用到新情境上？ 這背後是 Hofstadter 的一句核心斷言，米切爾說這該成為 AI 的箴言之一：**沒有概念就沒有思想，沒有類比就沒有概念。** 她用一個很日常的例子展開。三天前她在華盛頓做了一場播客訪談，今天又做了一場。人不同、麥克風不同、問題不同、樓也不同，但她能立刻認出“這是同一件事”。她說，就在這一刻，“播客訪談”對她來說已經是一個新概念，她以前沒有過。她還能進一步把它類比成接受報紙記者採訪，記者可能發來書面問題，書面問題類比於今天的口頭提問。 再往外一層：如果她跟朋友講這次訪談，朋友說“我也遇到過一樣的事”，而那件事完全不是播客，是別的情境。朋友沒說出“一樣”這個詞，意思就是一樣。這個動作本身就是類比，而且它支撐著我們幾乎所有的概念。 她把這個觀點推到很硬的地方：**你每次認出對面坐著的是一個人，就是在做類比。**因為你手上有一個“人”的概念，正在把它套用到這個人身上。你認出街上有人在遛狗，也是類比，因為每一次的細節都不同。感知也一樣，感官輸入進來，跟既有的世界模型整合、更新，整個過程裡全是類比在跑。 那工程上怎麼實現？她說得先搞清楚人是怎麼做的，而答案很可能落在內部模型上。心理學裡有一條線認為，概念本質上就是心理模擬：你遇到一個概念或情境，腦子會跑一段模擬，用來預測接下來會發生什麼，形成預期。所以我們需要的是那種能生成預測的心理模型，而且這些模型之間高度互聯。 ## 概念空間有多大，我們連單位都不知道 Lex 問了一個沒人答得上的問題：如果把人腦裡的概念網路畫出來，這張圖有多大？ 米切爾說她連用什麼單位衡量都不知道。一千億個神經元，幾萬億個突觸，還有大量化學層面的處理，資訊的編碼方式既有電的（放電、放電頻率），也有化學的，沒人真正知道是怎麼編的。容量看起來極其巨大，而且裡面裝的不只是事實，所有東西都被整合成一個可以拿來類比的整體。 這也解釋了她為什麼對“把維基百科轉化成可類比的知識庫”這類設想保持距離。語義網、專家系統、大型知識庫，這些夢做了幾十年。MIT 有 ConceptNet 這樣的專案，一直在做，也有進展，但問題卡在一個地方：**我們擁有的知識大部分對自己不可見，它們不在維基百科裡。** Lex 追問得很妙：如果真的給“直覺物理”和“直覺心理”建一個網站，它會比維基百科大還是小？ 她的回答是“看寫給誰”。這個問題本身暴露了難點：難在表徵。她可以寫下 F=ma 和牛頓定律，很多物理可以從這裡推出來，但這大機率不是機器做我們想要的那種推理時的最佳表徵形式。 再往下是 Doug Lenat 的 Cyc 專案。這個專案想把常識全部編碼成邏輯表達，包括那些隱形的部分，做了幾十年，她認為它沒能做成它想做的事。她說得很公道：Lenat 是最早一批明確指出“常識才是關鍵，專家系統那條路到不了 AI”的人，為此搭上了整個學術生涯，這一點她非常敬佩。方法本身她認為走不通。她也留了餘地：歷史書可能會寫，Cyc 專案在 2058 年終於迎來了突破。 那現在的資料結構和硬體夠用嗎？她的猜測是：圖靈意義上的計算大概夠，硬體不需要換正規化，缺的是正確的演算法和架構。有人提過別的可能，比如 Roger Penrose 認為圖靈機做不出智慧，因為智慧需要連續值，需要量子力學那一套，她說她沒看到支援這點的證據。 ## 把擋板挪兩個畫素，系統就認不出來了 這是整場對話裡最有說服力的一段論證，也是她回答“純靠學習能不能一路走到底”的核心證據。 DeepMind 讓系統只看螢幕畫素學打 Atari 的 Breakout，成績比人類好 1000%。它還自己學出了一招：從磚牆側面打出一條隧道，讓球跑到天花板上反彈，然後橫掃。這個結果本身非常驚人。 後來有研究組做了個實驗，把玩家控制的擋板往上挪幾個畫素，再讓訓練好的系統玩這個新版本。人類當然毫無障礙。系統不行，它沒法把學到的能力遷移過去。 她的結論是：**它沒有學到“擋板”這個概念，也沒有學到“球”和“隧道”的概念。**它學到了某個東西，我們看著它的行為，用擬人的方式描述成“它在打隧道”，但它內部並沒有那個概念，所以遷移不了。 Lex 在這裡提了一個漂亮的反駁。他說，你把擋板挪動幾個畫素，這本身也是往系統裡注入了一個擬人化的假設，然後看它翻車。Atari 那件事本身已經足夠深地讓人驚訝了。 米切爾回應得很清楚：她沒有否認這件事的驚人程度。她問的是另一個問題，這些系統學到的，是不是人類認為相關的那些概念。如果餵給它擋板出現在各種位置的資料，也許它能學到，她不確定。真正的問題是放大到更復雜的世界會怎樣：一個只拿到原始資料的機器，能在多大程度上把世界切分成有意義的概念？她不知道答案，但她會押注：沒有某些先天的東西，做不到。 Lex 說自己十年前會百分之百同意，現在有一絲動搖，因為 AlphaGo 和自對弈的力量讓他反覆被教做人，他對“什麼可能”的瞭解太少了。米切爾承認自對弈極其強大，這條線能追到 Arthur Samuel 的跳棋程式，當年就已經很驚人。 ## 自動駕駛：一個很低的安全門檻，和一條極長的尾巴 Lex 的工作跟自動駕駛關係最近，他把這個話題拎出來當例子。 米切爾說難點在於世界的開放性：正常情況下的駕駛，現在這些車做得很好，天氣別太糟就行。麻煩的是分佈尾部那些東西，可能發生的事太多，多到不可能全在訓練資料裡，而它沒有常識去處理沒見過的情況。這就是擋板問題的放大版。 她讀到的情況是，現在的自動駕駛視覺系統搞不清哪些障礙物該剎、哪些不該剎，所以經常一腳急剎。自動駕駛最常見的碰撞，是被後車追尾，因為後車完全沒預料到它會停。 Lex 補了一層區分：這要拆成兩件事。一件是感知和理解，把檢測到的物體解釋對；另一件是策略，也就是你怎麼響應。很多 L4 級別、帶安全員的車（Waymo、Cruise 這些）策略極其保守，怕傷到任何東西，結果就是對任何疑似障礙物都過度反應。這在人類司機眼裡是不可預測的行為。人類司機也會謹慎，但人類同時會趕時間、會生氣，尤其在波士頓。 他還說了句挺實在的話：很多公司對外宣稱自己在做深度學習和機器學習，一部分原因是招人。實際情況是，感知裡深度學習的比重沒有宣傳的那麼大，鐳射雷達和其他感測器在物體檢測上可靠得多。特斯拉走的是純視覺，馬斯克的基本信念是鐳射雷達是柺杖，攝像頭包含的資訊多得多，你要學習就該要那些資訊。代價是主力的兜底感測器變成了雷達，而雷達對靜止物體的檢測有盲區，這正是撞上停著的消防車那類事故的來源。 不過 Lex 說，特斯拉在主動學習那條資料管線上做的確實厲害：不斷把邊緣案例撈回來，還有多工學習，把一個駕駛問題拆成幾十上百個小學習問題。他從一開始的懷疑，慢慢變得不那麼懷疑。但他仍然認為時間表比那位 CEO 說的遠得多。 米切爾給出了一個最務實的判斷：**要能應對任何情況，就需要完整的人類智慧。**她還點出一個反差：人類的事故大多是因為沒注意、喝酒、走神，機器的事故是因為不夠聰明。機器永遠在注意。所以自動駕駛最終會比人類安全，只不過這個門檻很低。她預測未來的形態會變：不會是“我在後座睡覺，你送我去任何地方”，而是特定區域被改造過，裝了感測器、做了高精地圖，車在這些區域裡不需要常識也能跑得很好，前提是行人別亂來。 Lex 順口提了一句很關鍵的東西：行人、騎行者跟車之間那種非語言的溝通，那場博弈論式的舞蹈，人類很擅長，而且完全說不清自己是怎麼做到的。這正是“我們無法言說自己擁有的知識”這個老問題的現場版。 ## 情緒是智慧的一部分，不在門外 話題轉到具身。米切爾說她越來越傾向於認為身體是必要的，但她也承認不確定。 Lex 追問了一個區分：你說的“身體”，是指能跟世界互動，還是指有一個必須儲存、會死、會害怕的身體？ 她說這個問題她沒細想過，但猜是兩個都要。因為智慧太難跟自我儲存的慾望、情緒、那些干擾邏輯思考的非理性部分切開。我們說的是人類智慧，而人類智慧裡有巨大一塊是社交的：我們演化出來是為了跟其他人打交道，這部分烙得太深。 過去七十年，AI 領域大體上把這塊切掉了。有一個很笛卡爾式的假設：我們要造的是那個“思考的東西”，其他都不重要。她認為其他那些恰恰非常根本。 Lex 在這裡插了個段子。他說自己是俄羅斯人，所以對情緒、苦難、對死亡的恐懼有種浪漫化的偏愛。他提到網上流傳過一篇反對超級智慧的文章，作者好像是斯拉夫人，裡面列了一堆論證，其中一條叫“斯拉夫式悲觀主義論證”，內容大致是：沒有什麼東西能真正運轉起來。 米切爾笑了，然後認真回答。她說情緒影響我們怎麼感知世界、怎麼做決定、怎麼跟人互動，也影響我們怎麼理解別人。她要理解 Lex 接下來大概會做什麼，需要一套心智理論，而心智理論在很大程度上就是關於情緒、動機和目的的理論。她靠在自己腦子裡模擬對方來理解對方，背後是映象神經元那套系統。她說這事她證明不了，但看起來很可能。 ## 她為什麼覺得“紙夾最大化”講不通 米切爾在《紐約時報》寫過一篇專欄，標題是編輯起的，叫《我們不該害怕超級智慧 AI》，她本人不會用這個標題。文章針對的是 Stuart Russell 此前一篇專欄，那篇在概括他的書《Human Compatible》。 Russell 的論證是：如果有了超級智慧，必須讓它的價值觀跟我們的對齊，它得學會我們真正想要什麼。他舉了個例子：假設你讓一個超級智慧去解決氣候變化，它算出來降低大氣碳含量最有效的辦法是把人類全殺了。 米切爾說她看到這個例子第一反應是，這完全說不通。**一個能在氣候科學上做到超級智慧的系統，不可能蠢到不知道人類不想被殺。**你不可能只拿到其中一個能力，而完全沒有另一個。 她順帶批評了 Bostrom 的“正交假說”（orthogonality thesis），也就是系統的目標和它的價值觀不必對齊，兩者可以互相獨立。她說這在她看來沒有意義。紙夾最大化的思想實驗也一樣：一個把所有物質都變成回形針的系統，作為一種思維實驗她也沒法接受。 她那篇專欄想說的是：智慧比這些人呈現的更復雜，理性、價值、情緒這些東西沒法按維度切開。那種“我們能造一個只在一個維度上超級強、其他維度全空”的設想，她不信。 Lex 隨後讀了 Yoshua Bengio 的一段回應，寫得很有分寸。Bengio 說他的印象跟米切爾一樣，認知偏差跟學習能力是綁在一起的，可能也是限制因素，但這事有不確定性。然後他補了一句更要緊的：價值對齊問題在我們到達假想的超級智慧之前就已經存在了，它的形式是超級強大的公司，它們的目標函式可能跟人類整體福祉對齊得不夠，製造出各種有害的副作用。 米切爾同意一半。她說 Bengio 舉的那個例子，公司背後是人，是人的價值觀，真正作惡的基本單元是人。但 Lex 的補充有道理：演算法在控制這一大群人的行為。一家靠廣告和互動量賺錢的公司，會不斷被演算法推著往“更多互動”的方向走，這個迴圈會自我強化，可能讓文化更撕裂，然後繼續滾下去。 米切爾在這裡做了一個她很看重的區分：**能動性到底在誰手上。** 她舉了人臉識別的例子。有人說某些人臉識別系統“是種族主義的”，因為對深色皮膚的準確率更低。她說不是這樣：那個演算法本身沒有能動性，它不是種族主義的東西。起作用的是訓練資料、攝像頭部署位置、使用方式這幾樣東西的組合。 所以她對 Bengio 那段話大體認同，我們使用演算法的過程中確實存在價值問題。但 Russell 的論證不是這個意思。Russell 說的是，機器本身現在具備能動性了，是它在做決定，是它擁有我們所謂“價值觀”這個東西。米切爾說，這跟一個面部識別神經網路是性質上的不同，不只是程度上的不同。 ## 一百年後的事，和今年的事 Lex 把問題推到最硬的地方：馬斯克、Russell、Bostrom 這些人擔心的是 AI 的生存性風險，他們的論證結構是“它終究會發生，我們不知道多久，但終究會”。她怎麼看？ 她的回答乾脆：有可能，但更近的生存性威脅多得多。 她自己的時間尺度是超過一百年，甚至可能超過五百年。在那麼長的時間裡，還會有上百萬種今天我們連預測都做不到的技術出現，它們會從根本上改變社會的樣貌。等到那個節點真的臨近，我們討論的“AI 風險”大概已經不是今天這個詞的意思了。 而眼前排著隊的事情很具體：核武器、氣候、貧困、可能的流行病，可以一直列下去。在她看來，AI 的生存性風險不該排在第一位。 她也把話說清楚了：她沒在批評 Russell 或 Bostrom 去擔心這件事，有些人的確應該擔心，這完全合理。她那篇文章真正針對的是**他們對智慧本身的看法**，擔憂這個動作本身她並不反對。 還有個細節挺有意思。那篇專欄的標題是《紐約時報》編輯起的，她自己不會那麼寫。她原本想表達的更接近“超級智慧這個概念本身不自洽”，這種話報社大概不會拿來當標題。 Lex 補了一句很厚道的話，他說 Bengio 那種說法很友好：讓很多人相信不同的事情，其實是好事。而且就算在“超級智慧”這個術語的定義上吵得不可開交，Russell 做的工作很棒，Bostrom 做的工作很棒，米切爾做的工作也很棒，有人願意用這個詞並且去爭論它，本身就是有用的。她完全同意，還說《紐約時報》願意發這些東西是好事。 ## 圖靈測試還沒被真正執行過 那什麼才算智慧的好測試？ 米切爾的回答是，她仍然認為圖靈測試最初那個想法是個好測試，她想不出更好的。問題在於，迄今為止所有被執行的圖靈測試都太貧乏了。 她書裡提到一場賭局：Ray Kurzweil 對 Mitchell Kapor，賭 2029 年機器能透過圖靈測試。這場賭有很具體的規則，多少個專家裁判、持續多少小時，都寫清楚了。Kurzweil 說會，Kapor 說不會。2019 年說這話的時候，還剩九年。 她的態度是：**如果真有機器能透過那種規格的測試，她願意承認它智慧。** 但她也預判了反駁：到時候人們會說“那不過是個語言模型”。Lex 追問，如果能進行長時間對話，你會舒服地叫它智慧嗎？她說大概會，因為要撐住那麼長的對話，你幾乎必須有對世界的深度常識理解。對話足夠長，就一定能把這一點暴露出來。 ## 複雜性：為什麼把零件全搞清楚還不夠 米切爾還寫過一本關於複雜性的書，這個話題她聊得很放鬆。 她說 complexity 跟 intelligence 一樣，是個被過度使用的詞。她那本書講的是複雜系統這個寬領域：研究自然界、技術系統、社會里那些存在湧現現象的系統。 大腦是個好例子。幾十億個神經元，單拎一個出來，跟整個系統比算不上覆雜。但神經元之間的互動和動力學，造出了我們叫它智慧或意識的那種現象，我們會說那非常複雜。複雜性這門學問想找的，就是這些有湧現特性的系統底下共通的原理。 湧現的來源通常是底層簡單的基本互動，當這類東西數量足夠多、彼此作用，上面就長出了新東西。 這跟科學主流的做法不太一樣。**還原論**的思路是把系統拆成元素，細胞也好、原子也好、亞原子粒子也好，看你研究的是哪個領域，先理解這些元素，再把它們加起來，拼出對整個系統的理解。 她的判斷是：對絕大部分研究物件，這沒問題；對最想理解的那幾樣東西，不一定可行。你盯著單個神經元，永遠看不到智慧。 她舉了人類基因組計劃當例子。當年測序的興奮點在於，大家以為能把零件全搞清楚，然後就能找出哪個基因導致哪種病。結果發現，這些零件並不直接導致我們關心的那些結果，起作用的是它們之間的互動，是網路。那套還原論的路子沒給出想要的解釋。 那她心裡最美妙的複雜系統是什麼？答案是元胞自動機。她為這東西著迷過好幾年。 那麼簡單的規則，鋪在格子上，居然能長出看起來沒有上限的複雜行為。她說這到現在仍然神秘、仍然令人驚訝，但同時也讓人興奮：它給了你一種希望，也許複雜是可以從最開始那一點點東西工程化出來的。 ## 聖塔菲：一群物理學家決定不待在自己的格子裡 Lex 說聖塔菲研究所（Santa Fe Institute）在他心裡一直是個神秘的地方，一群聰明人在混沌邊緣做研究。米切爾說，就是這樣。 1984 年，一群科學家創立了它。很多人來自洛斯阿拉莫斯國家實驗室，開車四十分鐘就到。這批人以物理學家和化學家為主，但他們在自己領域裡感到憋悶：學科沒有在逼近那些大的跨學科問題。他們想要一個地方，讓不同學科的人能一起幹活，不被物理、化學、生物的格子隔開。 名單上都是大名字。George Cowan，化學家，參與過曼哈頓計劃。Nicholas Metropolis，數學家、物理學家。Murray Gell-Mann，物理學家。還有 Kenneth Arrow，諾貝爾經濟學獎得主。 他們開始辦工作坊，整個事業就這麼長起來了。米切爾說這個研究所自己一輩子都在混沌邊緣：它沒有大額捐贈基金，靠捐款、撥款、企業合作，能找到什麼錢就靠什麼錢活著。 組織結構上，常駐教師很少，大概十個人，五年一期，可以續。下面有一些博士後。再外面是一百人上下的外部教師，她就是其中之一，隔一段時間去待一陣。Sean Carroll 也在外部教師名單裡。 對普通讀者來說，入口其實不少：有個複雜系統暑期學校，面向研究生和博士後，四周的密集駐校專案，聽課加做專案，去過的人都很喜歡。還有幾個專業方向的暑期學校，比如計算社會科學、氣候與可持續性。此外有幾天長度的短期課程。他們還有一個線上教育平臺，提供各種課程和教程，包括她自己講的複雜性導論。技術討論會、學術報告會、面向公眾的社群講座系列，全都放在 YouTube 上。 ## Hofstadter 教她的那件事：把問題理想化到極致 回到導師。米切爾說，Hofstadter 教給她最重要的一條是：面對一個複雜問題，**儘可能把它理想化，直到你能看清這個問題的本質到底是什麼。** Copycat 就是這麼誕生的。拿“類比”這件巨大的事，問：我們怎麼把它做得儘可能理想化，同時又保住我們真正想研究的那部分東西？ 這條原則成了她整個研究生涯的主線。她說這其實非常物理：Hofstadter 本人是物理學博士，習慣從第一性原理出發，把問題剝到最根本的那一層，就能專注把它解掉。 這條路在 AI 史上有過一段被冷落的時期。早期大家在這些“微觀世界”裡工作，積木世界（blocks world）是最早也最重要的陣地之一。後來被批評了：你沒法把它放大到真實世界。於是人們轉向更真實的問題。而現在又有回潮，包括回到積木世界本身，很多人重新去做這些高度理想化的問題，或者轉向自然語言和常識。 米切爾留了一句值得琢磨的話：積木世界所代表的東西，可能比人們以為的更接近智慧問題的根本挑戰。 ## 她最驕傲的那一天 Lex 問她，回頭看這一路做過的東西，哪一件讓她最有成就感。 她說 Copycat。它跟幾乎所有人做的都不一樣，裡面還有很多想法等著被挖出來。 然後她說了一句很少在技術訪談裡聽到的話：**除了孩子出生，她人生最快樂的日子之一，是 Copycat 誕生的那天**，是它第一次真的做出有意思的類比的時刻。她記得很清楚，那段時間非常興奮。 Lex 接了一句：你等於給了它生命。她說，對，人造的。 ## 如果你想上手 她給了很具體的路徑。Hofstadter 的《Fluid Concepts and Creative Analogies》裡詳細講了 Copycat 的機制。她自己的《Analogy-Making as Perception》是博士論文的成書版本。程式碼是公開的，她的個人主頁上有連結。此外還有後繼專案 Metacat，以及一個 Python 3 的實現。 她的建議就是最樸素的那種：把程式碼拿下來，跑起來，玩它。 這場對話從頭到尾其實在講同一件事。我們對“智慧”這個詞的使用太鬆弛，鬆弛到掩蓋了真正的困難。那些困難不在算力裡，不在資料量裡，而在我們每天做著卻完全說不出口的東西里：認出對面是個人，認出街上是遛狗，認出擋板是個擋板。 Hofstadter 那句話可以作為整場的落點：沒有概念就沒有思想，沒有類比就沒有概念。米切爾補的那半句更狠：**如何形成概念、如何靈活地使用概念，是 AI 最重要的未解問題。** 如果想順著這條線往下走，可以做的事很具體： - 把 Copycat 或 Metacat 的程式碼拉下來跑一遍。它處理的世界只有字母串，但你會親眼看到“靈活性”和“概念”這兩個詞的重量。程式碼連結在米切爾個人主頁上。 - 讀《Fluid Concepts and Creative Analogies》，重點是看它怎麼把一個大問題理想化到可操作，不只是看它怎麼解字母題。 - 下次看到某個系統“學會了 X”的說法，問一句：它學到了這個概念，還是學到了某個能在這個資料集上得分的東西？把擋板挪兩個畫素，答案就出來了。 - 在自己的專案裡找一次“隱形的知識”。那些從沒寫進文件、團隊裡所有人都預設知道的東西，往往就是系統落地時最貴的那部分。 - 對時間表保持兩層判斷：短期能力會持續超出預期，長期目標會持續被低估難度。這兩件事同時為真，並不矛盾。 - 如果想接觸複雜性這條線，聖塔菲的公開講座和線上課程都免費，從複雜性導論那門課開始最省力。