# 羅德尼·布魯克斯：機器人學 > iRobot 聯合創始人回顧行為式機器人的思路，評估人形機器人、自動駕駛與 AI 泡沫的現實。 - 原標題：#217 – Rodney Brooks: Robotics - 期數：第 217 期 - 釋出日期：2021-09-03 - 嘉賓 / 主題：羅德尼·布魯克斯：機器人學 - 網頁版：https://lex.qiaomu.ai/tw/ep/rodney-brooks/ - 官方頁面：https://lexfridman.com/rodney-brooks/ - 精讀字數：約 12323 字（閱讀約 27 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 「機器能思考嗎？」1950年，圖靈在論文開頭丟擲這個問題。七十一年後，羅德尼·布魯克斯（Rodney Brooks）的回答是：當然能，因為你就是一臺機器，我也是一臺機器。在他眼裡，任何別的哲學立場都有點可笑。 這個人說這話不是隨便說說。他在MIT領導過電腦科學與人工智慧實驗室（CSAIL），參與創辦了iRobot，那家做出Roomba的公司，光掃地機器人就賣出三千多萬臺。後來是Rethink Robotics，做Baxter和Sawyer。再後來是Robust.ai，目標是教機器人常識，這件事比聽上去難得多。 讓他真正出名的，還有另一面：那些不合時宜的判斷。所有人說自動駕駛還有三年的時候，他說別急。所有人說深度學習把智慧問題解決了的時候，他說只解決了一小塊。他寫部落格逐條記錄自己的預測，標上日期，承諾三十年裡每年回頭對一次賬。 這期訪談資訊量很大，從他用冰塊托盤做的第一臺「計算機」，到那輛停在斑馬線前不肯走的Cruise，到Rethink最後那難熬的一週。 ## 一個用冰塊托盤做計算機的男孩 1954年底，布魯克斯出生在南澳大利亞的阿德萊德。家裡有兩本1961年出版的書，《電的奧秘》和《巨型大腦與機器人》，屬於那套How and Why Wonder Books。他八九歲學會搭簡單電路，學會二進位制，剩下整個童年都在試圖把書上的機器人造出來。 造不出來。他很早就認清了自己在機械上的侷限，於是轉去做「腦子」。最原始的版本是一個冰塊托盤，每個格子算一個細胞，兩根釘子做電極，加上電壓，銅會在兩個電極之間慢慢長出一座橋。時間一長，這個銅橋網路就「學會」了做加法。 預算決定了一切。釘子、冰塊托盤，僅此而已。後來攢夠錢買電晶體，他開始搭閘電路和觸發器。再往後是十二歲那年，他用舊電話交換機的開關拼出一臺永遠贏井字棋的機器，九個三位置的開關，空、叉、圈，加幾個燈泡，沒有有源器件。 他提到這件事的時候語氣很平靜，但你能聽出來那裡面有一種東西：他想造的是能打敗成年人的機器。這個念頭跟了他一輩子。 ## 最漂亮的機器人沒有臉 問他見過最漂亮的機器人。答案是多莫（Domo），他學生亞倫·埃德辛格（Aaron Edsinger）做的，現在擺在CSAIL主任丹妮拉·魯斯（Daniela Rus）的辦公室裡。 上半身人形，兩條手臂，三根手指的手，串彈性驅動器（series elastic actuators），纜線驅動，所有電機都藏在體內。埃德辛格當年沒跟布魯克斯要預算，也沒說自己要幹什麼，直接開始花錢，花了很多錢。他還堅持把自己的機械工程師傑夫·韋伯（Jeff Weber）一起帶進實驗室。兩個人做出來的東西，用布魯克斯的話說，機械上漂亮到不像工程產品，各種零件陽極氧化成不同顏色，細節精緻得像藝術品。 多莫的臉只有一個東西：眼球。眼球真的會動，裡面裝攝像頭，帶視覺注意機制。有人進門，它會轉過去看人的臉。 為什麼不給它一張像人的臉，布魯克斯有個原則： > 機器人長什麼樣，就是在為它能做什麼許諾。別過度承諾。如果你的機器人長得像阿爾伯特·愛因斯坦，那它就應該和愛因斯坦一樣聰明。（羅德尼·布魯克斯） 多莫能做到的只有注視和注意力，所以它的臉上只放眼球。技術上有能力做得更像人，倫理上不該做。 ## Rethink的那雙眼睛 Baxter和Sawyer的螢幕上有一雙圖形眼睛。攝像頭不在那裡，這雙眼睛會看向手臂即將移動的方向。工廠裡站在旁邊的人因此不會被人突然揮過來的機械臂嚇到，機器人提前把自己的意圖交底了。 這件事在機器人圈裡爭議不小。有些客戶討厭那雙眼睛，Rethink就做了開關，執行的時候可以切成顯示曲線圖。另一些客戶的反應出乎布魯克斯的意料：他們嫌新版不如舊版像人，他們喜歡那雙眼睛。 布魯克斯說，他最遺憾的是，他接觸過的頂尖機器人研究者，大多不願意碰這件事。他們把它當機器，不當成一臺可以建立人類連線的機器。在他看來，這是白白扔掉的機會。 順便說一句，這雙眼睛還有一個功能：無程式碼程式設計。Baxter用示教的方式教，螢幕上顯示的是它對任務的理解。螢幕同時承擔了兩個角色。 ## 《連錯都算不上》 他正在寫一本書，大約480頁，暫定名《Not Even Wrong》（連錯都算不上）。三條主線。 第一條是計算史。從1614年和1620年納皮爾（Napier）和開普勒（Kepler）的拉丁文手稿，到巴貝奇和洛夫萊斯，到圖靈1936年那篇論文。 那篇論文的目的在於否掉希爾伯特提出的三個問題之一，另外兩個已經被哥德爾解決了，否定總比證明容易。圖靈需要定義一種機械過程，能像當時那些被稱為「計算機」的人一樣工作：那些人拿著紙和筆，按規則寫下一串數字，迭代次數越多，得到的有效位數越多，工程用的表就是這麼算出來的。 圖靈給出的機器很簡單：一條無限長的紙帶，一套人拿紙筆就能執行的規則。然後他證明這臺機器做不到希爾伯特想要的那件事。至於這臺機器是否窮盡了一切可計算的東西，他在論文裡坦承，沒有真正的論證，靠的是直覺。 「計算」這件事，就是這樣被定義下來的。 ## 計算的隱喻被用過頭了 第二條線索是一個2×2的矩陣。 上行是科學，下行是工程；左列是智慧，右列是生命。工程那一行對應人工智慧和人工生命，科學那一行對應神經科學和非生物發生（abiogenesis，非生命物質如何變成生命物質）。四個學科，全部在1945到1965年之間定型成現在的樣子，而且這四個圈子裡的人互相認識，很多都在MIT的電子研究實驗室待過，沃倫·麥卡洛克（Warren McCulloch）在那兒主持。 1943年麥卡洛克和皮茨寫的那篇論文，用邏輯閘的形式給神經元建模，沒有任何實證依據。馮·諾依曼1945年設計EDVAC，參考文獻只有三條，其中一條就是它。明斯基1953年的博士論文接著往下走。 布魯克斯給這段歷史起了兩個章節名：「等等，計算機是人？」和「等等，人是計算機？」 第三條線索是隱喻的限度。人類理解世界靠的是「位置」和「容器」這套基本隱喻，海馬體的位置細胞加上皮層一起構成了它。一旦超出隱喻的射程，我們就得發明新工具，微積分就是這樣一個工具。 > 埃隆·馬斯克的火箭升空的時候，它在計算嗎？它靠計算進入軌道的嗎？（羅德尼·布魯克斯） 他的意思是，「計算」這個詞承擔了遠超原始定義的工作量。它變成了一副眼鏡，戴上之後很多問題就看不見了。 ## 三次意外 布魯克斯承認自己判斷錯過幾次。 第一次是Mobileye。他原本以為那套老老實實的傳統計算機視覺，在真車上不可能跑得那麼好。坐進車裡用過之後，他改主意了。 第二次是特斯拉把Mobileye整個扔掉，從零重做。他當時篤定追不上，那邊積累了那麼多年的標註工作和工程細節。結果追上了，而且靠的是一種「資料引擎」的思路：把駕駛拆成多個任務，從車隊裡回撈邊緣案例，反過來餵給模型。這套工程能力讓他重新評估了「能做到什麼程度」這件事。 第三次是Waymo在錢德勒（Chandler）真的撤掉了安全員。他坐過沒有司機的車，看著方向盤自己轉，那確實是個時刻。 但他不認為這些意外推翻了他的結論。他的原話大意是：人們會從一輛無人駕駛車上做插值，得出「這事已經成了」的推論。這才是他要反駁的東西。 ## 三萬五千和十 美國每年死於機動車事故的人數是三萬五千左右。工程師算賬的方式是：自動駕駛只要把死亡人數降低10%，每年就能少死三千五百人，這是巨大的勝利。 布魯克斯的預測反過來。如果自動駕駛一年撞死超過十個人，公眾會炸鍋。哪怕人類司機一年撞死三萬五千。 這套賬不理性，但他認為這就是現實的樣子。人對新技術的容錯閾值，和對同類的容錯閾值完全不在一個量級。 他還有一個更結構性的判斷：每次新技術進入日常生活，遊戲規則本身都會變。汽車第一次進入城市的時候，城市被重建了，法律被改寫了。亂穿馬路（jaywalking）這個概念，是汽車公司推動立法造出來的罪名，為的是把人從馬路上趕走，減少行人被撞死的數字。 所以他認為，真正的普及不會是把現在這輛車裡的司機拿掉，然後一切照舊。邊緣案例太多，成本太高。得等到環境被重新設計。 ## 一條白線的黑邊 布魯克斯住在灣區，常走280號公路。那裡的路面大多是混凝土，不是瀝青。他注意到白色的車道線現在兩側描了黑邊。他自己的車上的車道保持系統，沒有這圈黑邊就不好使。 他不知道交通部門是不是為了配合這類系統才這麼刷的。但這說明一件事：基礎設施會跟著技術走，往往是悄悄地、被動地、事後地跟。 他原本以為101公路最左邊那條道會變成自動駕駛專用道，車開進去，按一個鍵，切換模式。五年前他預期會有很多動作往這個方向走。沒有。他懷疑是因為特斯拉把話說得太滿，把系統叫全自動駕駛，反而堵住了「大家一起改基礎設施」這條路。 他舉全自動列車的例子。美國大概有十五六套完全無人的列車系統，多數在機場裡。真正在城市裡跑的，只有檀香山那條，原定2017年運營，延期了，但總歸會通。東京灣那條通往填海人工島的全自動線路他也坐過。 你去看這類系統會發現一個共同點：軌道被徹底工程化過。每一站有兩套門，一套在車上，一套在站臺邊緣，中間對不齊就打不開。整條軌道封閉，人爬不上去。日本那條線穿行在樓宇之間，全程如此。 他由此得出一個判斷：全自動駕駛真正先跑起來的地方，是園區、封閉社群、機場、校園這類區域。裡面的其他人不是隨便什麼人，他們知道這些車在那兒跑，速度低到隨時剎停都安全。高速公路做不到這一點。這種車的樣子可能根本不像現在的汽車。 他補了一句：這事在商業上不性感。你坐在車裡，它停下來等，那種感覺極其難受。但換成退休社群裡一個八十多歲的人，孩子已經沒收了車鑰匙，這輛車讓他還能自己去超市，那就是完全不同的價值。只是這種價值影響的人數，比全世界所有道路加起來，要小好幾個數量級。 ## 舊金山北市場那一片 問他什麼時候舊金山能有真正無人的計程車服務，覆蓋任何兩點之間。他的回答很乾脆：十年之內肯定不行，除非道路被重新設計。市場街以南更久。 他住在那一帶，每天都看見各家公司的測試車，Waymo最頻繁，Cruise也不少。車裡永遠有人。他還觀察到一些細節：有時候安全員沒法自己接管，得等總部決策，人坐在那兒等很久，你能看出後臺在開會。「事件解決時間」這件事，比任何宣告都更能說明系統的成熟度。 他講了一個親眼所見的事。幾周前的一個週五晚上八點左右，天快黑了，一輛Cruise開下坡、右轉，然後直挺挺停住，正好壓在斑馬線上。為什麼停？因為兩英尺外站著一個人。一個女人站在自己車門邊，用遙控器開鎖，找不到鑰匙，正忙著。車判定她隨時可能跳出來。布魯克斯一眼就知道不會，她壓根沒在看路，她在跟自己的鑰匙較勁。 車停在那兒，停到他都看膩了。安全員沒有接管。 然後關鍵的一幕來了：一個男人推著嬰兒車下坡，斑馬線被這輛車堵死了。他做了個聰明決定，沒從車前過，繞到車後，推著孩子下了斑馬線，走進路口，繞過這輛車。 > 沒有任何人類司機，會在那兒停那麼久。他們會趕緊挪開。安全被犧牲了，而犧牲的是那些根本沒報名參加這場實驗的居民。（羅德尼·布魯克斯） 他不喜歡拿單個案例說事，這一點他自己也承認。但他認為這類事有個結構性問題：受影響的人和做決定的人不是同一批。 他還提到一個更荒誕的推論。人一旦發現把一隻腳伸出路緣就能讓自動駕駛車停下來，青少年會天天這麼幹。他認識的一個同事就專門這麼「折磨」自動駕駛車。Waymo還沒改名前就發現了這個問題：在四向停車路口，必須往前蹭一點，給出「我要走了」的訊號，否則永遠被人搶道。 這引出他的一個核心信念：和人打交道的機器人必須學會頂回去。可以被欺負的機器人，使用者體驗一定很差。 ## 三十年的對賬單 2018年1月1日，布魯克斯在自己部落格上列了一批預測，標上具體年份，然後承諾此後每年1月1日回頭核對一次，一直核到2050年，那年他九十歲。 他做這件事的動機有點賭氣：所有人都在做預測，錯了沒人記得，那不行，他得對自己有個交代。後來他又加了一條，不再做新預測，只核對這一批。話題集中在三塊：人工智慧、自動駕駛、太空。 有一條他現在覺得過於樂觀：某年之前101公路會出現自動駕駛專用道。還有一條是2035年，無人計程車服務覆蓋馬薩諸塞州劍橋港的所有街道。他後來私下承認，這條也樂觀了。那地方路窄，單行道多，還有人逆行走，人類司機開著都煩。 至於全自動駕駛在舊金山普及，他內心已經比當年更悲觀一些。他給出的判斷方式是：別問技術什麼時候成熟，問環境什麼時候被改造。 ## 十四次失敗 iRobot成立於1990年。到2002年，這家公司已經試過十四種商業模式，全部失敗。同一年，兩個產品同時成了。 Roomba定價目標是200美元。當時市面上另一臺家用清潔機器人是伊萊克斯的Trilobite，賣兩千歐元。布魯克斯團隊的判斷是，兩千歐元不是消費品，200美元才是貨架上有人願意掏的錢。這個目標倒推回來，意味著物料成本必須壓到極限。 於是他有一堆當年的郵件，主題大概是「我找到了」。他去臺北開MIT的會，會多留幾天，坐車去新竹，一家一家拜訪那些小公司。臺積電讓這些小公司不必自建晶圓廠就能創新，他們的活兒是把現成的晶片拆開瘦身：拿掉一半矽片，還能用。摩托羅拉6802，蘋果一代用的那顆，被人削過之後照樣跑。 iRobot當時給計算留的預算是五毛錢，所以布魯克斯去香港看的不是電腦，是那種手持小遊戲機和賀卡里的晶片。他會盯著人家刪改後的規格看，然後判斷：這個中斷處理太弱，做不了通用。最後找到華邦（Winbond）的一顆，512位元組記憶體，效能剛好夠，價格在預算內。 董事會批准的產量，他們做了三倍，七萬臺。2002年9月18日釋出，聖誕節前全部賣光。 他說起這段時的語氣像在講別人的故事。他開玩笑說自己本來是個純數學家，後來變成了賣吸塵器的。 還有一件他真正驕傲的事。2011年3月，iRobot的機器人被送到日本，參與福島第一核電站的事故處置。他2014年去過那裡，有些機器人還在。為什麼是他們的機器人能上？因為此前已有約六千五百臺iRobot的機器人在伊拉克和阿富汗服役，處理路邊炸彈，那意味著九年的嚴酷現場經驗。日本的機器人當時正享受著全世界的讚歎，「看那個本田機器人，會走路，未來來了」，但它們沒被真正部署過，到了現場什麼也做不了。 > 那些拿到所有掌聲的機器人，什麼也做不了。（羅德尼·布魯克斯） ## CFIUS和那難熬的一週 Rethink Robotics是他創辦的另一家公司，也是他最痛的一次失敗。他一直強調，他驕傲的是那件事：把機器人從工廠的籠子裡放出來了。人機可以挨著站，安全，而且人不需要寫程式碼就能重新指派任務。這兩條後來變成了行業的預設期待，大公司小公司都在宣傳。 失敗的根子，他自己講得很清楚，是在一個會議室裡被說服了。 他給公司定的目標是三千美元一臺，帶力反饋，安全。他壓根不打算賣給已經在用機械臂的工廠，他要賣給那些永遠不會買機械臂的人。這樣就不必遷就既有客戶的期待。塑膠齒輪箱能省一大筆錢，壞了換一個，整機當成運營支出而不是資本支出。 問題是塑膠齒輪有扭矩波紋。控制工程師抱怨說，在波紋上做力控太難了。一位機械工程師說，那我們做個金屬直齒輪箱，六週搞定。兩年之後才搞定。成本想盡辦法壓，價格還是上去了。然後當時的CEO說，得做成兩條手臂，不是一條。於是Baxter賣兩萬五。 兩萬五這個價位，唯一會看它的人，就是那些本來就有機械臂的工廠，因為兩條臂比他們現有的便宜。但這些人習慣了0.1毫米的重複定位精度，習慣了一定的速度。布魯克斯反覆解釋：你不需要位置重複精度，你像人一樣用力控就行。對方說，可是別的機器人都有那個重複精度，你為什麼沒有。 他打了個比方。你要把一個零件插進一個直角槽裡。位置控制的做法是：先把工件精確固定，你知道它在哪，直接走過去。力控的做法是：滑過去，碰到，感覺到，再順著貼合進去。人拿到精度靠的是後一種。 說不通。於是他們又花兩年去做一臺三萬五的單臂機器人，用諧波減速器一類的部件，而那東西本身帶扭矩波紋，等於繞了一大圈又回到最初要解決的問題上。 公司最後的死法跟技術無關。他們有過買家，盡調做了好幾輪，但每個財團裡都有中國資本。美國外國投資委員會（CFIUS）這道關卡，歷史上只動用過兩次，卻足以讓所有銀行家在最後一刻說「這個過不去」，投資人轉身就走。等到現金快燒完，剩兩個買家，其中一個用強硬的法律手段壓另一個，說願意出更高價接手，等他們真的沒錢了，退出，然後以一週前報價的三十分之一買走了資產。 > 那是很難熬的一週。（羅德尼·布魯克斯） 他當時說過再也不創業了。讓他稍微好受一點的是，團隊在一週之內被三家公司瓜分完畢，所有人都有去處，有些人甚至沒換工位，因為新公司租下了那塊場地。 ## 為什麼機器人公司這麼難 他給了三條原因，全是他自己踩過的坑。 第一，創始人對能力的預期是錯的。錯在創始人這邊，跟消費者無關。第二，定價錯了。客戶認為合理的價格，不一定理性。第三，讓市場接受一項新技術本身就極難。 他承認自己在這三條上都栽過，失敗比成功多。 至於會不會出現一家市值萬億美元的機器人公司，他說他現在還在創辦機器人公司，所以不會做這種預測。他補了一句：九十年代也沒人覺得蘋果會變成萬億公司。這類事沒法預測。 但他對另一個方向有判斷：家用機器人會有巨大的市場拉力，動力來自人口結構反轉。老人太多，照顧的人不夠。只是現在的機器人還不夠能幹，算不過來這筆賬。他期待它發生，然後提醒你一件事：Roomba是2002年釋出的，他在iRobot又待了九年，那九年裡一直在找下一款家用機器人。到今天，將近二十年後，這家公司的主力產品還是Roomba。 ## 他沒能問出口的問題 寫這本書的過程中，他反覆想到一件事，是他的自責。 五十年代和六十年代活躍的那批人，他大多認識，認識的時候對方已經老了。MIT每週四有faculty午餐，他就坐在那些人旁邊。他沒有問。 > 很多動機永遠丟失了，永久地丟失了。（羅德尼·布魯克斯） 如果能重來，他想問利克萊德（J.C.R. Licklider）什麼。利克萊德是人機共生的提出者，在DARPA推動了這件事，1963年給MIT撥款啟動了Project MAC。他想知道，哪些成了，哪些敗了，當事人眼裡什麼算進展。 他還想問明斯基，1969年那本《感知機》（Perceptrons）為什麼對神經網路下手那麼重。明斯基的博士論文字身就是關於神經網路的。那本書裡有定理，但全是負面定理，整個領域因此冷了十年。他懷疑明斯基自己也沒料到後果。 他提到明斯基說過的一句話，大意是：保持產出的秘訣，是討厭你過去做過的一切。布魯克斯說，也許這就解釋了《感知機》。 他還講了個諾伊斯式的細節。七十年代末他在MIT人工智慧實驗室，高德納（Donald Knuth）晚上在那兒寫TeX。有一天主機宕機，他和另一位工程師開啟洗衣機大小的磁碟機排查，拔出一塊7400系列晶片，換上新的，插反了，冒煙。因為高德納那麼高的個子就站在後面看著，問什麼時候能修好。 ## MIT、Google和那些被鎖起來的人 他對大公司收購學術人才這件事評價很直接：Google當年一口氣買下八九家機器人公司，對這個領域是壞事。人不用再為公司的成敗負責，被鎖起來好幾年，然後整條線被砍掉。他還提了一句更刺的：有些公司付了極高的薪水把人挖走，然後這些人再也不出現在公開場合，不能演講，等於被收藏了。 他對Google那種「由一個創始人驅動的大夢想」也有保留。他不確定那個夢想的地基牢不牢，也不確定它會有創始人相信的那種影響。但他馬上補了一句公道話：大夢想本身有一種統合作用，一群聰明人圍著一個夢想轉，會溢位很多相鄰的想法，很多進步就是這麼發生的。 至於2020年，他在那年的對賬文章裡寫得很清楚：這一年不會被記作機器學習的分水嶺。沒有任何讓人意外的事發生。論文數量暴漲，但大多是無趣的增量工作。真正讓人一震的時刻是深度學習撞上ImageNet那一次。 ## AlphaFold和AlphaZero 他不否認有些東西確實讓他意外。 AlphaFold預測蛋白質結構，正確率高得讓他吃驚，因為這是出了名的難題。但他馬上指出實用性上的漏洞：你不知道它哪幾個是對的。最近那版工具在解決這個問題，可能真能變成能用的東西，可能真的會推動結構生物學。 AlphaGo和AlphaZero則是另一碼事。他提了一個問題：如果棋盤從19×19改成21×21會怎樣？DeepMind的人當時的回答是徹底失效。人類棋手換個棋盤還能下。不過他也注意到，那之後他們發表的演算法已經能適應更大的棋盤了，泛化能力在一點點擴張。 他不接受「學習」這個詞被用得太寬。他學認路、學下棋、學拉丁語、學騎腳踏車，這是四種完全不同的能力。而現在一篇新聞稿就能把其中任何一種說成「公司X引領世界」。 他還有個更根本的批評：這些系統在條件輕微變化時就會崩掉，人不會。 關於國際象棋，他給了一個很有意思的視角翻轉。象棋本身並不難，難的是人有本事選定一個任務，然後讓上百萬人願意為它奉獻一生，互相競爭，把效能推到荒謬的高度。費馬大定理本身沒什麼意思，幾千個人圍著它折騰幾百年才有意思。他說自己小時候的「病」就在這裡：他造機器的樂趣，是造出能打敗成年人、而且成年人打不過的東西。 他說十二歲那臺井字棋機器是他最驕傲的作品之一。旁邊的人說這裡有魔法。他同意，那確實有魔法。但他接著說：每一次都是硬仗，一步，再一步。看到魔法就以為會一直這麼走下去，是錯的。 ## 孫子、窗戶和強化學習 他講了一件讓他震驚的事。一年前，他十六個月大的孫子第一次進那棟新房子。那房子有矮窗，孩子從沒能夠到過窗戶。他走到窗前，一隻手推窗框，另一隻手轉把手，把窗戶開啟了。 兩隻手做兩件不同的事，這個組合他從沒見過。那扇窗他從沒見過，那個把手他從沒見過，那個機制他從沒見過。 > 他是怎麼做到的？（羅德尼·布魯克斯） 另一個故事是十八個月時玩的那個多鎖具盒子。他沒有把所有表面都摸一遍，也沒有亂按。他看得出機關在哪兒，然後一個一個去試。裡面當然有強化，但前面加了一層過濾器，把搜尋空間砍掉了一大塊。 然後是DeepMind。三四年前他去倫敦，進了那道Google員工都進不去的門，會議室裡幾個人給他講他們的強化學習機器人實驗：讓機器人自己亂試，試多了就試出來了。那些機器人是Sawyer，是他公司賣的。對方很喜歡，因為Sawyer是柔順的，能感知力，撞牆不壞，會停下來。 他問能不能去看看。回答是不行，保密。他後來在訪談裡笑著說：那本來是我的機器人。 ## 為什麼「感知很難」這件事這麼難懂 他講了一個「註冊」（registration）的問題，出自哲學家布萊恩·坎特韋爾·史密斯。意思是：你和那個物體之間，必須建立起一種對應關係，你才知道自己看到的是什麼。這件事極其難，也極其含糊。 他舉顏色。桌上那個盒子，他以為是藍色的。但藍色不是光子的屬性，是大腦用色彩恆常性構造出來的。所以只要在停車標誌上貼幾條膠帶，深度學習系統就認錯，因為紅色本來就不在光子裡面。 狗的例子更狠。狗去聞一根燈柱，能聞出過去十小時裡有多少隻不同的狗來過、分別是什麼時候。那是另一個世界的感知。而我們拿著單張快照，就以為自己在感知世界。 他由此說回莫拉維克悖論（Moravec's paradox）。他不覺得這是個悖論，這是演化花時間的地方。六億年的多細胞生物在練習感知和移動，狩獵採集是很晚的事，語言可能只有二十萬年，農業一萬年。上面那層建立在下面那層之上，下面那層花了太久。 至於為什麼我們直覺上分不清難易，他給了一個有點刻薄但很有說服力的解釋：五十年代末六十年代初進AI實驗室的，是一群考進MIT的聰明孩子。他們擅長什麼？下棋，做積分。那才是「難」的。嬰兒會看東西，誰都會，那不叫智慧。 所以符號接地問題一直沒被解決。深度學習開始給影象打標籤時，有人說接地問題解決了。他說沒有，被解決的是標註問題，某個百分比的準確率，兩回事。 ## 為什麼你還不想跟Alexa喝一杯 圖靈測試在他的評價裡不高。他讀原文，認為圖靈自己從沒說過這是個好測試，圖靈只是拿它當一個修辭工具：如果你分辨不出人和機器的差別，那你就必須承認機器在思考，因為你說不出別的。但這個想法後來變成了一場「騙人」的奇怪遊戲。 他講了個MIT的舊事。八十年代末實驗室辦AI奧運會，其中一項是圖靈原文開頭那個「模仿遊戲」的原始版本：判斷對面打字的是男是女。有個男的從此找到了一個百發百中的問題：你小時候有綠色塑膠兵人嗎？你都拿它們幹什麼？裝作男人的女人會說，哦，我把它們排成一排，我們打仗，擺戰場。而一個真正的男人會說，我一腳踩扁，我燒了它們。 那對話本身呢，不帶測試性質的那種？他認為那才是真正難的東西，比計算機視覺難得多，因為它太像人了，一切都看得見。 他提到六十年代魏澤鮑姆的Elisa，作者本人被嚇到了，沒想到人願意對著它傾訴那麼多。他去問，要讓人願意跟一個系統聊上一小時，圖什麼？答案是缺了幾樣東西。話題沒有連續性，你沒法提起昨天說過的事。沒有一個持續存在的自我。沒有共同經歷，也沒有記憶裡共享的時刻。系統也沒有任何意圖，哪怕只是「想開心一點」這種程度的意圖都沒有。 他不認為這不可做，他認為這是最低門檻。夠不夠，不知道，還沒人做到過。 ## 關於愛，和《兩百歲的人》 被問到人類會不會愛上一個AI，那個AI也愛回來。他先說，五十年代就有人愛上汽車了，那是另一種愛。至於那種能一起成長、相伴一生的關係，他的判斷是，還很遠很遠。《銀翼殺手》的時間尺度完全錯了。 最難的地方還是身體。那個能感知世界、能被感知的形態。但如果只看聲音，像電影《她》那樣，他認為對某些人來說可能不遠了。 他看著科幻片有個方法論上的意見：科幻片的套路是今天的世界原封不動，只改一件事。但現實不是這樣，所有東西是一起長出來的。他認為這方面最好的電影是《兩百歲的人》（Bicentennial Man），雖然拍得濫情。好在哪？機器人努力變得更像人的同時，人類在把機器人的技術裝進自己身體，兩條線在靠攏。 所以未來的人不會是今天的人。我們已經開始改造自己的嬰兒，已經往身體裡塞技術。他自己耳朵裡就裝著助聽裝置，好聽見這場對話。 他還說了一句關於隱喻的話。量子力學一百年來這麼難懂，是因為我們非要給它一個物理隱喻：它是粒子？不，它是波？總得是個我們懂的東西。他說不是，它就是一套奇怪的數學邏輯。他預計一兩百年後，量子力學和暗物質都不會用今天這套語言來討論，就像燃素說最後消失了一樣。燃燒不在物質裡面，是外面的氧氣。我們對隱喻的渴望，加上有限的認知能力，一起給我們製造麻煩。 他講了一個他很喜歡的巧合。Ada Lovellace寫的第一段程式，是算伯努利數。而伯努利數恰好就是求鼓面那些不動點需要的東西。你敲一下鼓，它振動，表面上有些點紋絲不動。你可以用計算逼近它們，但鼓自己知道，鼓不需要算。她那個程式裡還有個bug，除法的一處引數寫反了，不過分析機從沒造出來，這段程式碼也從沒跑過。 ## 風險、死亡和那本沒寫完的書 給年輕人的建議，他說沒有統一答案，因為路不止一條。他反對被「什麼好發論文」綁住，雖然承認自己那個年代可以當叛逆者還活得下去，今天也許更難。 核心是一句：想要真正有影響，就得準備好失敗很多次，就得做很多不安全的決定。唯一讓它成立的辦法是一直做下去，做得足夠久，然後其中一次會成。也可能不成，可能就落得一個很糟的職業生涯。這是可能的。反過來，全做安全決定的人，基本不可能真正貢獻什麼。 關於死亡。他說新冠剛來的時候他確實想過，因為那陣子誰都不知道會有多嚴重。那段時間他拼命寫書。後來公司忙起來，書就擱下了，但他想寫完。 問怕不怕。他說怕的是流口水，是失智，是那個「自己」不在了。旅途總會結束這件事，他知道很久了。但知道和知道，是兩回事。他說這話的時候帶了一點自嘲：部落格上那些預測，核到2050年，他九十歲，每寫一次年度回顧，就離自己預設的那個終點近一點。 ## 關於意義 他希望留下的東西是什麼？把那本書寫完，然後有一個人讀到，想法被改變了一點，接著引出了下一個大東西。一百年後有人在播客裡說，我當年讀過那本書，一切都不一樣了。 生命的意義。他的回答很誠實：我們都很不擅長這件事。人容易被眼前的事抓住，因為眼前的事容易做，長期的事不容易。大局觀上，我們很糟。 無神論告訴他一切都是隨機的。但他想理解的是，秩序怎麼從無序裡長出來。整個宇宙是隨機的，可地球這一小口袋複雜性偏偏出現了，為什麼？這種複雜性有多常見？會不會持續？都不知道。 怕不怕我們是孤獨的？他說他無法相信我們是孤獨的，那太殘忍。但那也可能是另一個更冷的答案：宇宙裡到處是文明的墳場。我們也是其中之一。所有這些都會被忘掉，包括他造的機器人。 他最後說的其實很平靜：歷史上幾乎所有人都會被遺忘，接近百分之百。他不認識任何記得他曾祖父母的人，因為沒見過。 然後他補了一句：儘管有這麼多荒謬，有時甚至毫無意義，生活還是挺好玩的。對他來說，最好玩的事情之一是機器人。 ## 回頭看，這幾件事值得記住 這場對話裡，布魯克斯其實一直在說同一件事：技術在進步，人對技術的想象在原地打轉。每隔幾年就有人說「這次成了」，然後幾年過去，我們還在原地往前挪了一小步。 他並不是唱衰。他自己造出了賣出三千萬臺的掃地機器人，也親眼看著自己公司的機器人進了福島的核電站。他知道東西能做出來。他只是受不了那些把一小步說成一大步的人，因為那些人最後會讓公眾對整件事失去耐心。 下面幾條是這場對話裡可以拿走的判斷方式，不是結論，是工具。 - 判斷一項機器人或自動駕駛技術的成熟度，別聽釋出會的時間表，去看環境有沒有為它改變。軌道封閉了嗎？站臺加門了嗎？白線描黑邊了嗎？環境改造的進度條，比模型指標的進度條更能預測落地時間。 - 評估一家機器人公司的風險，先看創始人對能力的預期是否離譜，再看定價是不是客戶心裡的那個價格，最後看它有沒有能力推動使用者改變習慣。這三條裡任何一條錯了，技術再好也會死。 - 如果要做硬體產品，先把零售價定死，再倒推物料成本，然後為那個成本去找別人拆過的晶片。布魯克斯給計算留的預算只有五毛錢，這個約束反而逼出了產品。 - 做和人共處的機器人，主動把意圖提前暴露出來。Baxter用眼睛看向手臂要去的地方，工廠同事就不會被嚇到。這條比任何安全冗餘都便宜，也更有效。 - 別給機器人一張超出它能力的臉。外形是承諾，承諾兌不了，使用者的不信任會蔓延到整個產品。 - 在團隊裡當那個記住提問的人。布魯克斯最大的遺憾跟成敗無關，是當年坐在那些奠基者旁邊吃飯，沒問他們為什麼這麼做。你身邊那些老同事，現在就去問。 - 如果你打算長期做一件難事，學他做一個可核對的記錄：把預測寫下來，標上日期，定好每年複查的日子。被自己打臉，是唯一能防止自我欺騙的機制。