# 朱迪亞·珀爾：因果推理、反事實、貝葉斯網路與通往 AGI 之路 > 因果推斷奠基人談貝葉斯網路與反事實思維，以及為何真正的通用智慧離不開因果推理。 - 原標題：Judea Pearl: Causal Reasoning, Counterfactuals, Bayesian Networks, and the Path to AGI - 期數：特別節目 - 釋出日期：2019-12-11 - 嘉賓 / 主題：朱迪亞·珀爾 - 網頁版：https://lex.qiaomu.ai/tw/ep/judea-pearl/ - 官方頁面：https://lexfridman.com/judea-pearl/ - 精讀字數：約 5823 字（閱讀約 13 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 一個十幾歲的男孩，連續發燒三天，起不了床。醫生查不出毛病，他自己清楚原因：前一天他剛學會用代數處理幾何問題，腦子被擊穿了。 他後來回憶，那是人生第一次被一個抽象結構放倒。幾何作圖、幾何定理、高中學過的那一整套證明，全都可以翻譯成代數符號的運算。三條中線交於一點，不用畫圖，不用輔助線，把符號挪一挪就能證出來。 這個男孩叫朱迪亞·珀爾（Judea Pearl）。幾十年後，他拿了圖靈獎，發明了貝葉斯網路，然後用後半輩子幹了一件事：給"因果"這個概念造出一套數學。 ## 同一件事的兩種語言 珀爾說，解析幾何給他的震動，核心在兩個語言之間的接通。代數和幾何，各自都是完整體系，當它們被接上的那一刻，能做的事突然翻倍。 他打過一個比方：線性方程在代數里是一串符號，在幾何裡是一條直線。同一樣東西的兩副面孔。要給圓作切線，可以用尺規，也可以解方程。哪條路好走，取決於你站在哪一邊。 這種翻譯能力後來成了他做事的方式。本科讀工程，研究生做物理，博士論文寫超導，之後轉軟體，最後落到統計學和人工智慧。他自嘲說自己在工程和數學之間隨意散步，其實每一步都踩在兩條語言的介面上。 他把這份底子歸功於中學老師。那批人是 1930 年代從德國逃出來的猶太人，原本在柏林、海德堡有教職，被希特勒趕走，跑到英國教中學。這些人教數學有一套：每個定理都連著提出它的人，連著那個人當時在幹什麼，連著他為什麼會在澡盆裡喊"找到了"。 > 數學不是一堆練習，它是一連串人的困惑。（朱迪亞·珀爾） 他做超導研究時，發現過一種磁通渦旋的行為，後來物理學界把這種結構命名為 "Pearl vortex"。他自己十五年前才知道這回事。他說，這算一種永生的投資。 ## 機率描述的是人的知識狀態 話題轉到機率。珀爾給的定義很短：機率是一個主體對世界的不確定程度。 這裡有個容易被跳過的重點。有人說"這件事有 90% 的機率"，這句話描述的是說話人的知識狀態，並非世界本身的樣子。換成 10%，同樣是知識，只是內容不同。 "吸菸五年後讓你得肺癌的機率是 90%"和"10%"，這兩個數字都是有用的知識，也都不等於確定性。珀爾說，人類本來就泡在不確定性裡，機率是讓人能活著過馬路的工具。缺了預測能力，連過個街都會心驚膽戰。 他順手補了一刀：這種預測能力，本質上還是在找因果。如果不假設事物之間存在某種穩定聯絡，為什麼會變、為什麼一起變，就沒有任何理由可言。 ## 兩個硬幣和一聲鈴響 這裡有個例子，第一次聽的人常常會愣一下。 手裡有兩枚硬幣，完全獨立，互不影響。拋一百次，正反面各半，兩者之間毫無相關。現在加一條規則：每次拋完，如果至少有一枚是反面，鈴就響。只記錄鈴響的那幾次。 在這批資料裡，兩枚硬幣突然高度相關了。 物理上它們毫無關係，但因為你選擇"只看鈴響的樣本"，相關性憑空出現了。珀爾說，這算不上資料造假，這是用自己的無知和任性，在世界上創造了一個不存在的相關。 他特意強調，他不認為這是觀測本身的缺陷。世界本來就這麼運作。真正的麻煩出現在下一步：當人試圖把因果邏輯強行套到相關性上，就會翻車。 而人類絕大部分時間就在幹這件事。看到兩個東西一起變，就預設其中一個推動了另一個。因為除了因果，沒有別的邏輯框架可以抓。 ## 切掉所有指向 X 的箭頭 貝葉斯網路是珀爾最出名的工作之一。它的結構看起來很像因果圖：一個節點指向另一個節點，像 A 導致 B。但珀爾講得很清楚，貝葉斯網路本身並不表示因果，它表示的是一堆條件機率的聯合分佈。方向是人為選的，換個方向照樣能算。 要把貝葉斯網路變成因果網路，缺的那一步是什麼？ 是提問的方式。得先問自己：哪些因素決定了 X 的取值？X 是血壓，那可能涉及年齡、飲食、遺傳、用藥。這些假設從哪來？從人的頭腦裡來。 珀爾說，因果推斷的起點永遠是一個定性模型，一張"誰聽誰的"的草圖。潮汐聽月亮的，不聽公雞打鳴的。這張草圖不需要精確，甚至可以非常粗糙，但它必須先存在。 他的口號是：**表示第一，發現第二**。先把知識表示出來，才有資格問"能不能從中推出某個結論"。連表示都沒有，討論推斷就是空談。 那怎麼表達"我做了某件事"？珀爾引入了一個符號：do。do(X) 的意思是，直接干預 X。 它的語義非常物理：把模型裡所有指向 X 的箭頭全部切斷，然後在這個被動過手術的模型裡，問 Y 的機率。原因是，當你親手設定 X 的時候，就把它從過去所有影響裡解放出來了，從此它只服從你的肌肉。 他拿血壓舉例。沒人能鑽進別人的血管裡把血壓調高調低，但這個問題可以問。只要有一個身體的模型，就可以在模型上動手術，把血壓那個節點切開，改個數，再看死亡率怎麼變。 這就是模型存在的意義。物理上做不到的事，可以在模型裡做。 ## 阿司匹林和那聲槍響 比干預更高一層的，是反事實。 珀爾說，"吃藥能降低死亡率"這種話，其實什麼都沒解釋。真正算解釋的，是另一種問法：是我吃的這片阿司匹林治好了頭痛嗎？ 這個問題裡藏著一個邏輯衝突。事實是：我吃了藥，頭痛好了。反事實是：如果我沒吃，頭痛還在。這兩句話不能同時為真，它們互相排斥。珀爾說，正是這種衝突，構成了人類關於責任、後悔、自由意志的全部直覺。 他接著講了個更狠的例子。有人被槍殺了。如果兇手沒開槍，他會活著嗎？答案是會。所以槍是原因。 物理學家天天在做這種事，只是沒意識到。給彈簧掛一公斤，它伸長一米。人會自然地說：如果掛兩公斤，它會伸兩米。這個推理在物理方程裡找不到對應物，因為 F=kx 是對稱的等式，兩邊可以互換。可每個物理學家腦子裡都在做單向的反事實運算，然後把結果塞回方程裡解出來。 機器人做不到這一點。它沒有那個模型，也沒有"如果當時不是這樣"的表達能力。 ## 嬰兒、隱喻和一隻烏龜殼 那模型從哪來？珀爾把話題拐到了嬰兒身上。 嬰兒在嬰兒床裡玩球，看一個球撞上另一個球，另一個滾開。他們不是在收集資料，他們在做玩耍式的操縱：推一下，看會怎樣；再推一下，看會不會一樣。加上父母在旁邊說"這個不能拿""那個會燙"，幾種資訊源合起來，一個粗糙的因果模型就成型了。 珀爾認為，人類智慧的核心機制是隱喻：把一個不熟悉的領域，對映到一個熟悉的領域。 他舉了古希臘人的例子。希臘人相信天空是一個不透明的殼，星星是殼上戳出來的洞，洞外是永恆的光。這個想法是錯的，但它極其有用。因為"在殼上戳洞"這件事，希臘人熟悉。 有了這個隱喻，亞里士多德就能算地球半徑。他的推理是：如果人站在一個球殼上，不同地點看到的星光入射角應該不同。知道兩地距離，量出兩個角度，就能反推球的半徑。他算出來的數字和今天的測量值相差不大，大約六千多公里。 巴比倫的天文學家算不出來。他們的天文預測比希臘人準得多，能精確預報月食，因為他們擅長擬合曲線。珀爾說，巴比倫人就是那個時代的機器學習專家。他們手上有最好的資料、最好的擬合，但他們沒有那個殼的隱喻，所以永遠問不出地球有多大這個問題。 這句話放在今天，味道很足。 ## 一場審判和三個變數 珀爾用一個思想實驗把機器學習的侷限擺到桌面上。 行刑隊。三個士兵舉槍，一聲令下，同時開火，犯人死亡。給機器學習系統看幾百場這樣的審判記錄，資料裡有：命令下達與否、每個士兵開火與否、犯人死亡與否。機器能學得很完美：有命令，就有開槍，就有死亡。 現在問它：如果士兵 A 當時拒絕開槍，犯人會死嗎？ 機器答不上來。因為資料裡從來沒出現過"有命令但 A 沒開槍"的樣本。它看到的全是事實，看不到事實背後的機制。它不知道 A 和 B 之間是並聯關係，只要有一個開槍，人就死。它也不知道 A 之所以開槍，是因為他服從命令，而不是因為他和 B 商量好了。 人類能答，因為頭腦裡有那個結構。命令指向每一個士兵，每個士兵指向那顆子彈，子彈指向死亡，而士兵之間沒有箭頭。 珀爾說，這就是為什麼因果模型必須先由人給出一個定性骨架。機器可以接手後面的定量推導，可以算出非常複雜的跨人群遷移：拿全世界一百家醫院的研究結果，推斷一個和它們都不像的新人群的因果效應。這件事人類算不動，機器能算。但骨架得人來搭。 他也沒把話說死。如果能在系統裡注入隨機擾動，士兵今天生病了、嘔吐了、偶然沒開槍，這種意外的噪聲就相當於一次隨機實驗，觀測資料裡就能透出背後的結構。這條路走得通，只是有限。 ## 假裝有自由意志，就等於有 話題轉向意識和自由意志。 珀爾的說法很乾脆：自由意志是一種錯覺，但這個錯覺有解。解法就是造一臺機器，它表現得像有自由意志，它和其他機器交流時也把對方當成有自由意志的，而你分不出它和"真有"的區別。 他說，能假裝，就等於擁有。因為假裝非常難。圖靈測試的全部要義就在這裡：只有真的具備，才裝得出來。 那意識是什麼？珀爾的定義是：**擁有自己軟體的一份藍圖**。 把"我"也當成環境的一部分，為它建一個模型。這個模型不需要精確到每一行程式碼，因為自己也解不出自己的停機問題，但需要一個能改動的高層結構。人照鏡子的時候會說：如果把這個習慣改掉，行為會不一樣。這個能回頭看自己並修改的能力，就是自由意志和意識所指的東西。 同情心在他看來也是同一套機制。不需要為對方從頭建一個模型，把自己已有的模型對映過去就行：他有痛，我也有痛，那把"痛"這一塊複製過去。這一步極其省力，也極其有效。機器要建倫理，繞不開這一步。 ## 一個新物種 問到 AI 的風險，珀爾的語氣變了。 他說他擔憂，理由很直接：人類正在造一個新物種，這個物種的能力可能超過我們，能自我繁殖，能接管世界。而對"控制"這件事本身都還沒有清晰的定義。這不是歷史上發生過的事。 他承認自己在這裡使不上勁。他說他對這個問題知道得太少，想象力有限，而且清楚自己不知道的有多少。這種坦白從一個八十多歲的圖靈獎得主嘴裡說出來，分量不太一樣。 有人安慰他說，人類至少有一個樣本可以參考。他回了一句：不止一個樣本，還有理論。樣本量為一不等於知識貧乏，因為人還有猜想、有推演、有關於"可能會怎樣"的理論。這是他和純統計學思維分道揚鑣的地方。 ## 兩個奇蹟 珀爾生在以色列，1950 年代在 IDF 服役，同時在一個基布茲（kibbutz）做農業勞動。他年輕時真心想一輩子當基布茲社員，過集體生活。 他回憶那段日子，用了奇蹟這個詞，而且用了兩次。 第一個奇蹟是 1948 年的獨立戰爭。他說當時離第二次種族滅絕非常近，那件事是有計劃的，最後靠奇蹟活了下來。 第二個奇蹟很少有人提。建國初期實行緊縮政策，全國人口從 60 萬漲到 100 多萬，翻了三倍多。按他的說法，那時候想在餐館吃個煎蛋，得自己帶雞蛋。從鄉下往城裡運食品是要被抓的。但沒有人捱餓。而且高等教育沒有削減預算，國家還在往他和妻子這一代人身上投錢，讓他們受最好的教育。 他說自己一直在試圖回報這件事。 ## 丹尼爾 採訪者問能不能聊聊他的兒子。珀爾說可以。 丹尼爾·珀爾是《華爾街日報》的記者，2002 年在巴基斯坦被基地組織綁架，最後被斬首，錄影被公開。珀爾說，那些綁架者最初提出的要求，什麼送飛機、什麼交換，全是編的，是假的。 他說，那件事的核心是仇恨和不寬容。而這種仇恨的深度，是多數人沒有真正理解的東西。他提到最近聽到摩加迪沙的學校裡教的內容，說人們不知道那意味著什麼。水龍頭不出水的時候，那些孩子知道是誰幹的，知道是"那些猶太人"，不知道為什麼，但知道是誰。這種教育持續得足夠久、足夠深，人就會變得能做出 ISIS 做的事，能做出納粹做的事。 他反問：每個人都有作惡的能力嗎？他的回答是：有。教育和環境決定了這份能力會不會被啟用。 兒子去世六七年之後，他在《華爾街日報》寫了一篇文章，標題叫《丹尼爾·珀爾：邪惡的正常化》。文章的意思很直接：人們把恐怖主義當成了一個可以討價還價的工具，好像誰有委屈就可以去炸餐館，這很正常。昨天是恐怖分子，今天是自由戰士，明天又變回恐怖分子，標籤可以互換。這個正常化是人自己一手造成的。 採訪者問他，心裡是憤怒、悲傷，還是希望。他沒有直接回答，而是說：他見過從巴基斯坦來的很好的人，也見過邪惡在這個國家以另一種方式蔓延，那些民粹口號能俘獲最優秀的知識分子的心。 那天是父親節。他講了一件小事。有一次他和丹尼爾去伯克利，一個流浪漢從暗巷裡出來，說"哥們，能給一毛錢嗎"。珀爾下意識往後縮了一下。丹尼爾直接上去抱了那個人，說，這一毛給你，你要不要點錢坐公交。 他說丹尼爾有一種他沒有的平衡感。丹尼爾在每個人身上都能看到美，不像他那麼情緒化，看事情更有縱深。 > 他覺得陌生人是好奇心的理由，並非恐懼的理由。（朱迪亞·珀爾） ## 給年輕人的話 採訪者最後問他，對今天想做智慧系統的年輕人有什麼建議。 他說：跟著自己的問題走。問題永遠不蠢。用自己的方式把它做紮實，不要接受"不行"這個答案。如果你的問題真的很蠢，你很快就會自己發現，因為你加一條箭頭，會發現它無處可放。但只要你還在往前推，就繼續推，按你自己的理解去搞明白。 他補了一句，說他寫《為什麼》（The Book of Why）這本書，目的是讓常識民主化，在學生心裡種下一點叛逆，讓他們不必等到教授點頭才敢把一件事想對。 有人問他，希望留下什麼。 他說，墓碑已經刻好了，就是反事實的那條基本定律。一個關於模型手術的簡單公式，別的都從它推出來。有了它，他就能安心地走，學生可以用數學手段把他所有的知識推下去。 採訪結束時，他留給聽眾一句話：**你無法回答一個你問不出的問題，而你也無法問出一個你沒有詞彙去描述的問題。** 這句話和他一輩子在做的事扣得很緊。因果推斷在他之前不是沒人想，是沒人有詞彙。相關、迴歸、條件機率，這些詞都在，唯獨沒有一個詞能表達"如果我動手改了它"。他花了三十年造出這個詞，叫 do。 詞彙一到，問題就能問了。 ## 想把因果這一塊補上，可以這麼動手 - 讀《The Book of Why》。這是珀爾唯一一本寫給非專業讀者的書，不需要統計背景也能進，前三章把"相關不等於因果"講透了。 - 檢查手上的每一張圖。每條箭頭都問一句：這條邊是資料告訴我的，還是我的假設？如果是假設，寫下來，標明它可能錯。 - 分清三種問題：看（P(y|x)）、做（P(y|do(x)））、反事實（如果當時不是這樣）。很多分析出錯，問題出在把第一種當成第二種在問，並非演算法有毛病。 - 做因果推斷之前，先把圖畫出來。哪怕只有五六個變數，哪怕全憑經驗拍。圖一畫出來，就會發現自己到底缺哪些資料。 - 跨資料來源的時候，別急著合併。先找出各來源之間什麼不同、什麼相同，用 do 演算做遷移，比把資料堆在一起跑回歸有效得多。 - 看到相關性時，先找那聲鈴。有沒有一個隱藏的篩選機制，讓這批樣本本身就不隨機？ - 聽到"這個問題沒有數學形式"，先別放棄。珀爾用了三十年給因果造數學，很多問題只是還沒人造出那個詞彙。