# 帕梅拉·麥考黛克：《會思考的機器》與人工智慧的早期歲月 > AI 史學家回憶與人工智慧先驅共事的年代，講述這門學科早期的理想、爭論與人物。 - 原標題：Pamela McCorduck: Machines Who Think and the Early Days of AI - 期數：特別節目 - 釋出日期：2019-08-23 - 嘉賓 / 主題：帕梅拉·麥考黛克與 AI 史 - 網頁版：https://lex.qiaomu.ai/tw/ep/pamela-mccorduck/ - 官方頁面：https://lexfridman.com/pamela-mccorduck/ - 精讀字數：約 6976 字（閱讀約 16 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 1979 年，《會思考的機器》（Machines Who Think）出版。作者在書的開頭寫下這樣一層意思：人工智慧始於人類鍛造神祇的古老願望。 說這話的人叫帕梅拉·麥考黛克（Pamela McCorduck）。一個英語文學出身的小說家，跑去給一個剛滿十歲的科學領域寫史。這件事本身就很奇怪，奇怪到她申請研究經費的時候，美國國家科學基金會的人直接跟她說：你只是個作家，你不是科學史家。 她的回答是：對，但科學史家早晚會把這塊地翻個底朝天，我寫的是給普通人看的東西。 對方還是沒鬆口。 最後掏錢的是 MIT 的埃德·弗雷德金（Ed Fredkin）。一個有錢人，專門喜歡他所謂的"瘋子想法"。他覺得給 AI 寫史就是個瘋子想法，值得支援。麥考黛克到今天還說，她永遠感激這個人。 ## 一個小說家決定給一個剛滿十年的領域寫史 故事的起點在斯坦福。她當時租了個房子過夏天，坐在門廊下，腦子裡冒出一個念頭：我應該寫本小說，寫寫 AI 圈裡這群怪人。 然後念頭轉了向。別寫小說了，寫歷史。採訪一圈，把材料拼起來，書就成了。 > 我當時的想法就是這麼簡單。結果比這難太多了。（麥考黛克） 難的地方在於，沒人幹過這件事。整個領域才十來歲，論文散在幾十本期刊裡，沒有網際網路，想看篇文章得跑圖書館。她之前給費根鮑姆（Ed Feigenbaum）當過助理，還參與過費根鮑姆和朱利安·費爾德曼（Julian Feldman）編的《計算機與思維》（Computers and Thought）。那是 AI 的第一本讀本，編它的原因特別樸素：他們要在伯克利開課教 AI，學生找不到教材，只能被支使去這本期刊那本期刊翻。 約翰·麥卡錫（John McCarthy）聽說她要寫史，覺得這主意很蠢。他手上有個數學問題，希望她寫那個。 她的回應後來成了名言：約翰，我不是一個找專案的女人。這就是我想做的事，希望你能配合。 麥卡錫嘟囔了幾句，說，行吧，反正是你的時間。 她的時間，用在了一群正處在學術生涯頂峰的人身上。這些人願意從忙碌裡抽出幾個小時，跟一個聲稱"我要寫本關於你們的書"的女人聊天。她後來說，這件事讓她覺得很謙卑。 ## 四位奠基人，和一次帶著能跑的程式去參會的經歷 1956 年達特茅斯那場夏季工作坊，後來被追認為 AI 這個學科的誕生儀式。到場的名字現在都是教科書上的：麥卡錫、明斯基（Marvin Minsky）、夏農（Claude Shannon）、紐厄爾（Alan Newell）、西蒙（Herb Simon）。 但麥考黛克特別強調一個細節。那間屋子裡，只有紐厄爾和西蒙帶著一個真正能跑起來的程式到場，叫"邏輯理論家"（Logic Theorist）。其他人帶的是想法。 > 所有人都有很好的想法，關於他們打算怎麼做。但他們還沒做出來。（麥考黛克） 她把紐厄爾、西蒙、明斯基、麥卡錫稱為四位奠基人。四個人走的路子完全不同。 紐厄爾和西蒙是認知心理學家。他們想要的是模擬人類智慧的各個側面，然後發現計算機能幹這事。麥卡錫 1949 年在加州理工還是學生的時候，聽了一場講座，腦子裡冒出"這個做起來應該挺好玩"的念頭，之後一路走的是數學路線。明斯基是混合體，他覺得這事酷。 麥卡錫後來有一套很完整的論證，主題是人類有了這項技術會得到多大的好處。你要是提技術上的反對意見，他就給你一個技術上的解決方案，然後繼續往下推。他最愛講的一個東西叫"文學問題"：文學有它的成規，其中一個成規是故事裡得有英雄和反派，英雄通常是人，反派通常是機器。 麥卡錫說，事情不會是這樣的。 麥考黛克聽完的反應是：他說得對。 ## 希臘人的機器人，希伯來人的禁令 如果只把 AI 看成二戰後數學和工程學的產物，會漏掉很長一段前史。 麥考黛克把這段前史歸成兩種態度。她管一種叫希臘觀點：機器人是好東西，是好幫手，它們在赫菲斯托斯（Hephaestus）的鍛爐裡幹活，人們張開雙臂歡迎它們。 另一種叫希伯來觀點，源頭是第二誡，不可為自己雕刻偶像。不要開始模仿人，那是被禁止的。 這兩種態度到今天還在打架。大量對 AI 的牴觸情緒裡，藏著一種"這事有點邪惡、有點褻瀆"的感覺。麥考黛克的態度很乾脆：確實會有壞處，但褻瀆不在其中。 前史比她最初以為的還要長。有位古典學學者跟她聊起《奧德賽》，說這部史詩裡全是機器人。她一愣。對方解釋：奧德修斯那條船是怎麼從一個地方開到另一個地方的？他根本沒有足夠的船員划槳。那是魔法，是機器人。 《伊利亞特》裡也有。赫菲斯托斯的鍛爐裡有會自己移動的三足鼎。 再往後，十九世紀末二十世紀初，真有一批科學家試圖把這事做出來，無一成功，技術條件不夠。巴貝奇（Charles Babbage）在 1850 年代就意識到，他造的那臺機器具備智慧行為的潛力。然後錢花光了，英國政府說夠了。他和洛夫萊斯夫人（Ada Lovelace）商量過用這臺機器去賭馬籌錢。他還有別的籌款點子。 ## 《弗蘭肯斯坦》裡真正的反派是誰 麥考黛克家的茶几上放著一本註釋版《弗蘭肯斯坦》。她的評價是：這是一部極其出色的小說，洞察力驚人。 有意思的地方在於誰是反派。那個被造出來的生物從頭到尾沒有名字，弗蘭肯斯坦是造他的那個人的姓。生物想要的是被愛、被接納。只有當造他的人轉過頭去、轉身跑掉，當它徹底得不到愛的時候，它才變成後來那個怪物。 麥考黛克說，反派是誰其實不清楚。真正把它逼成怪物的，是那些躲開它的人。 小說裡有一段：生物和一個盲人成了朋友，它照料這個盲人，兩人相處得很好。後來盲人家裡的明眼人回來了，一看，你這裡有個怪物。故事就此崩掉。 她提到的另一個細節，很多人不知道。瑪麗·雪萊和珀西·雪萊大量閱讀了當時美國廢奴運動的文獻，他們把那一整套論述搬進了小說裡：你們之所以把這些人造化成怪物，是因為你們不肯給他們應得的尊重和愛。 這條線一直通到今天。當我們造出稍微聰明一點的東西，人類天性裡那個虐待他者的部分會不會冒出來？麥考黛克不擔心這個。她能想象它發生，但她認為 AI 能給人類的東西太有吸引力，人最終會被說服。 ## 1974 年，AI 差點被從電腦科學的官方敘述裡刪掉 1974 年，電腦科學這個新學科被要求向國家科學基金會（也可能是國家科學院，麥考黛克記不清了）說明：你們這個領域到底是什麼、意味著什麼。 起草的人想把 AI 排除在外。 最後寫進去，是因為高德納（Don Knuth）說了一句話：這東西很重要，你不能漏掉。 > 你看，一個搞 AI 的人提這個意見，沒人會信。但高德納說了，大家就信。（麥考黛克） 她丈夫喬·特勞布（Joe Traub）不在 AI 圈，做的是演算法複雜性。特勞布反覆說過一句話：我認識的最聰明的人，都在 AI 裡。 這段歷史能解釋很多事。一個領域在學術版圖上的位置，有時候不取決於它做了什麼，取決於誰替它說話。 ## 關於"AI 寒冬"，她的用詞是"胡扯" 談到八十年代專家系統的熱潮和隨後的退潮，麥考黛克的反應很直接。 > 所謂 AI 寒冬這一整套說法，在我看來就是胡扯。（麥考黛克） 她的理由是：八十年代做的是基礎研究，那些研究非常重要，鋪下了此前沒人想過的東西。問題在於它沒法變現。所以有了寒冬。 她接著說了一句更硬的話：科學研究本來就是走走停停，不是那種漂亮的、這一步接著那一步的線性推進。它就不是那樣運作的。 不過對面追問得也很有力：寒冬往往不是研究者的錯，是有人過度承諾。麥考黛克承認，有時候確實是研究者的錯，有些研究者自己就相信"再有個幾年就成了"。 這場對話發生在 2019 年。提到馬斯克說一年內就會有自動駕駛汽車，她的反應是：一年？ 她相信自動駕駛會來，只是不相信會是一年。她還補了一句關於過度承諾的完整因果鏈：到了承諾的日期，東西沒出現，大家一算賬，花了幾十億，一分錢沒賺回來，然後整個領域在智力層面被放棄。希望死掉，只剩下少數幾個基礎研究者。 但她也提了另一面。英國當年出過一份報告，結論是英國不該再往這個方向投錢，反正走不通。那背後有一堆學術政治，愛丁堡看不上劍橋，劍橋看不上曼徹斯特。結果是英國的研究確實受了重創。後來 DeepMind 讓他們重新殺回來，但那是一個人和他身邊幾個有遠見的人撐起來的。 > 我敬佩科學，可能超過我敬佩商業。商業挺好，大家都得活著。但科學看的時間尺度比商業長得多。（麥考黛克） ## 雪莉酒、西蒙，和一場八個人的月度沙龍 寫《會思考的機器》那段時間，赫伯·西蒙和她成了很親近的朋友。西蒙每天下班走過匹茲堡的諾森伯蘭街，會路過她家。她那時正在給打字機蓋罩子，探出頭問一句：赫伯，要不要來杯雪莉酒？ 西蒙幾乎每次都要。 一聊就是一兩個鐘頭。她的日記裡寫著"今天下午我們聊了三個小時"。 聊的幾乎不是 AI。聊文學，兩個人都愛。西蒙把普魯斯特的法文原著完整讀過兩遍，她只讀過英譯本。聊語言，聊音樂，聊藝術，西蒙畫畫畫到一定程度，後來怕影響研究，硬是放下了。 有一個夏天，她跟西蒙抱怨：我的學生之間才有真正有意思的對話。她那時候在匹茲堡大學英語系教書，學生聊的是人生的意義。她自己呢，開會討論影印預算，討論浪漫主義詩歌這門課該開一學期還是兩學期。 西蒙笑了，說，我懂你的意思，但你可以做點改變。他和妻子多特在芝加哥大學的時候，每個週日晚上辦沙龍，敞開家門，來的都不是為了寒暄，是為了聊一個有深度的話題。他的建議是：提前定好題目。 於是有了那個八人小組。紐厄爾夫婦、西蒙夫婦、剛搬到城裡的作家馬克·哈里斯（Mark Harris）夫婦，加上她和喬·特勞布。哈里斯當時最有名的小說是《慢板敲鼓》（Bang the Drum Slowly），寫棒球的。八個人每月聚一次，啃硬話題。 ## 演算法怎麼從配角變成了主角 她離開 AI 圈一段時間，捲進了聖塔菲研究所的複雜性研究。等她再回來，聽一個年輕學生講自己在做什麼，她愣住了。 > 我那時候的想法是，演算法是用來服務別的東西的，它不是主戲。結果演算法成了主戲。這讓我很意外。（麥考黛克） 符號處理那條路幾乎乾涸了。深度學習的應用鋪天蓋地，但那都是演算法層面的東西。 她對這個轉向的副作用看得很清楚。用一個演算法去基於千萬人的歷史決策做判斷，那些決策裡烤著人類犯過的所有錯誤：偏見、歧視、短視，一樣不少，全部打包進去。 這裡還有一個她自己的判斷值得停一下。她說符號處理那一塊"還有很少的東西"，是一片等著勤奮研究生去開墾的地。這句話是 2019 年說的。 ## 哈羅德·科恩的 AARON，和聖塔菲那兩個月 她關於 AI 的最後一個大專案，寫的是畫家哈羅德·科恩（Harold Cohen）。 科恩先是畫家，後來深度介入 AI。他做了一輩子的專案叫 AARON，乾的事情是把他自己的認知過程反映出來。 兩人合作得並不順，摩擦不少。書寫完出版，用她自己的話說，掉進了溝裡，沒激起水花。她當時的判斷是：完了，我到頭了，該換件事做了。 轉機是丈夫的一次休假。兩個月在聖塔菲研究所，兩個月在加州理工，春天在慕尼黑。 聖塔菲那兩個月把她救回來了。研究所當時很小，擠在老聖塔菲路的一個辦公區裡，所有人門都開著。你卡在一個問題上想不通，推門進去找斯圖爾特·考夫曼（Stuart Kauffman）或者隨便誰，說我不懂這個，你給我講講。 她跟默裡·蓋爾曼（Murray Gell-Mann）聊複雜適應系統，順口講了科恩的 AARON 在做什麼，說這聽起來像個複雜適應系統。蓋爾曼說，是的，它就是。 > 我當時特別釋然。我想，行，你的直覺沒錯，你做的事是對的。我只是沒有詞彙。（麥考黛克） 她說如果那本書能重寫，她會用另一套詞彙去解釋 AARON 到底在幹什麼。書剛出，改不了。 研究所當時的所長喬治·考恩（George Cowan）問過她，要不要寫一本關於研究所的書。她當時盯著別的專案，婉拒了。多年後她說，他對我錯了，我希望我當時答應了。這是一條她沒走的路。 ## 一個會聽你講第三遍往事的機器人 她和費根鮑姆合寫《第五代》的時候，書裡塞了個小故事，叫"老年機器人"。 這個機器人做的事不只是給你擦身、餵飯、推你到太陽底下。它聽你說話。它說：再給我講講 73 年那次妙招。再講講你的孫子孫女有多糟糕，或者有多好。 它不圖你的遺產。它也不是因為找不到別的工作才待在這兒。這就是它的工作。 故事的來歷挺有意思。她需要給大學生講 AI 可能是什麼樣，就編了這麼個東西，一邊講一邊加細節，學生在下面笑成一片。寫進書裡之後，《紐約書評》把她罵了一頓：看看，這就是 AI 圈的人，多沒人性。 她的回應是：這難道不是件好事嗎？ 對面追問：你真希望它只是安靜地聽著？不想讓它偶爾頂你兩句？ 她的回答很實在。她說自己快八十了，看過太多朋友請人上門幫忙的經歷。有的人運氣好，遇到極好的幫手。有的人家裡那位整天開著電視，整天打電話。所以是的，到時候她希望它能自己滾到角落裡，閉嘴。 但被再追一句，她鬆了口：一點點，頂一點點嘴是可以的。 這個細節值得琢磨。人要的不是一個完美僕人。人跟人之間的關係裡有拉扯、有張力、有猜不透的部分，正是這些東西讓關係活著。AI 要拿捏這個度，難度極高。 另一面她也看到了。社交媒體讓人的孤獨感越來越重，年輕人尤其重。那種想被聽見的渴望，AI 能滿足一部分。 ## "男性凝視"和那批最聰明的人 關於存在性風險，她有一整套自己的說法，而且用了一個來自電影批評的詞。 男性凝視（male gaze）這個概念本來是講電影的：大多數電影是從男性的視角拍的，女性是客體，不是主體，沒有能動性。 她說，當埃隆·馬斯克、霍金這批人出來講"AI 要吃掉我們的午飯、晚飯和宵夜"的時候，她心裡的反應是：什麼？ 她跟費根鮑姆說，你注意沒有，這批人一直是街區裡最聰明的那個。現在來了個可能更聰明的，他們的第一反應是：趁它還沒接管，先把它掐死。 費根鮑姆笑了，說我沒這麼想過。她說，我想過。 > 這就是男性凝視。好，假設這些東西真的有能動性，那我們先等等看會發生什麼。我們能不能把倫理放進去，能不能把共情放進去？（麥考黛克） 她順帶說了一句：我們已經有幾個世紀的經驗，處理那種沒有共情的人。 她對庫茲韋爾（Ray Kurzweil）那版奇點也不買賬。按她的理解，那個版本講的是一臺機器比人聰明的時刻會到來，然後遊戲結束。她的反駁很樸素：機器早就有一堆本事超過人了，從加法機被髮明那天起就是。這事不會像某個十字路口，兩撥人在那兒碰頭，然後一方宣佈另一方出局。 ## 沙堆、Me Too，和四種未來 1996 年，她和南希·拉姆齊（Nancy Ramsey）寫了本書，講女性在科學與技術領域的四種可能未來。 寫這種"未來情景"的方法，是把當下的不同側面各自推到極端。裡面有倒退，有進兩步退一步，也有一個平權黃金時代。 她說最難寫的就是那個黃金時代。 寫它的時候，她用了聖塔菲研究所的一個模型：沙堆效應。沙子一粒一粒極慢地落到堆上，堆越長越高，直到某一粒落下，整堆突然崩塌。 Me Too 就是那最後一粒沙。 > 那是一個沙堆效應的完美例子。它沒有改變整個社會，但它真的叫醒了一大批人。（麥考黛克） 不過她對整體進展的評價相當嚴厲。女性在計算領域被磨損的方式令人難以置信。變化了嗎？變了，變得不夠。 被問到是否樂觀，她的回答是：我是天生的樂觀主義者，改不了。 ## 她自己的動機，幾十年後才發現 有一個晚上，哈羅德·科恩和她喝了一兩杯葡萄酒。科恩問她：到底是什麼把你吸引到 AI 來的？ 她給了一串標準答案。最聰明的人，了不起的專案，等等。 然後有句話自己冒了出來：我想要男性智力之外的東西。 > 這個念頭是潛意識裡的，我那時候根本不知道。它就這麼冒出來了。（麥考黛克） 她後來解釋：我太厭倦聽到"智力存在於男性的頭顱之內"這種說法了。如果外面有個東西，它的思考和成就不是男性的，那就能戳穿這一整套說法。 這句話放在她整個職業生涯裡看，很多事就對上了。一個英語文學出身的人闖進全是理工男的領域，幾十年後寫一本關於女性未來的書，還順手發明了一個老年機器人。 她自己給這件事下的判斷是：AI 讓所有人都謙卑，尤其是那些最需要被謙卑一下的人。 ## 她唯一擔心的事 被問到最擔心什麼，她的答案很短：擔心那些我們預料不到的東西。總會有某個從左外野飛過來的事情，逼著人說一句：這個我們沒準備好。 關於智力本身，她承認自己年輕時有個樸素得近乎天真的信念：更多智力等於更多美德。那時候的想法是，這能有什麼壞處？ 到現在她仍然部分相信這一點。但她對智力的定義變了。智力有很多種，生物學家現在可以坦然討論細胞的智力、大腦的智力，不只人類的大腦，任何大腦。章魚就非常聰明，用任何標準衡量都是。這在六十年代、七十年代是沒人會想到的。 她說，得把很多種智力都裝進機器裡去。 訪談最後，她提到自己正在寫一本回憶錄。回頭看這一整段人生，最大的感受只有一件事：她的運氣實在太好了。趕上一個將要改變世界的科學領域的開端，還拿到了第一排的座位。 順便說一句，她先生特勞布那句話，可能比任何一篇論文都更能概括這一代人的心情：我認識的最聰明的人，都在 AI 裡。 - 如果手上有正在做的研究或產品，先分清它屬於"能變現"還是"能鋪路"。寒冬凍死的是前者，凍不死後者，但前提是你自己別把兩者搞混。 - 遇到一個你打算"先砍掉再說"的新技術，先問一句：我是判斷它不行，還是它讓我不舒服？這兩個理由經常被自己搞混。 - 給自己辦一個小型沙龍。八個人，每月一次，提前定題目，不談業務，只談難題。麥考黛克靠這個撐過了職業生涯裡最難的一段。 - 當你要評價一個自己不理解的新領域時，先承認"我只是沒有詞彙"，再去學。她和蓋爾曼那次對話的全部價值就在這一句上。 - 如果你在做需要長週期的事，找一個像弗雷德金那樣願意給"瘋子想法"掏錢的人，或者，自己成為那個人。