# 約沙·巴赫：人工意識與現實的本質 > 認知科學家從計算角度探討意識如何產生，機器能否擁有主觀體驗，以及智慧與現實的邊界在哪裡。 - 原標題：#101 – Joscha Bach: Artificial Consciousness and the Nature of Reality - 期數：第 101 期 - 釋出日期：2020-06-13 - 嘉賓 / 主題：約沙·巴赫 - 網頁版：https://lex.qiaomu.ai/tw/ep/joscha-bach/ - 官方頁面：https://lexfridman.com/joscha-bach/ - 精讀字數：約 12891 字（閱讀約 29 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 一個神經元感覺不到任何東西。一個大腦同樣感覺不到任何東西。它們都是物理物件，而物理系統沒有辦法體驗任何東西。 約沙·巴赫（Joscha Bach）把這句結論往外推了一步。既然物理系統無法產生感受，感受就只能出現在別的地方。**物理系統不可能有意識，只有模擬才可能。意識是一種自我模擬的模擬屬性。** 這與大多數人的直覺正好相反。人們通常覺得模擬是假的，所以不可能有真實的意識。巴赫認為這個直覺建立在一個沒有檢驗過的假設上：真實等於物理。而物理系統本身只是一堆按規則流動的資訊，它連"疼"這個字都沒有地方寫。 巴赫是 AI Foundation 的研究副總裁，此前在 MIT 和哈佛做過研究。他出生在東德的一片森林裡，父親是學建築出身、後來轉做藝術的人。Lex Fridman 用三個小時和他聊了意識、心智、生命、宇宙，以及文明會不會把自己玩沒。 ## 森林裡的野孩子，和方圓幾十裡唯一的書呆子 巴赫的父親來自一個建築師世家，據說是巴赫家族一個很遠的支系。他學的是建築，祖父當年娶了一位貴族，被捲進戰爭，十五年後才回來，於是父親的童年是在"被要求做事"的環境裡度過的。他做不了自己不想做的事，後來乾脆去做藝術，蓋沒有直角的房子，買了座老水磨搬到鄉下，只做自己想做的。東德對這種波西米亞式的生活意外地友好：食物補貼很重，醫療免費，不用操心房租和養老金。另一件事是，你幾乎不可能和政府不產生政治分歧，這對藝術家來說非常肥沃，你做的每件事都天然帶著意義。 Lex 請巴赫給書呆子下個定義，巴赫給了這個： > 我有時把書呆子定義為，認為交流的目的是把自己的想法提交同行評審的人。而普通人明白，交流的首要目的是協商對齊。這兩種目的經常衝突，所以書呆子必須學會怎麼跟整個社會打交道。（約沙·巴赫） 巴赫就長在那樣一個"大洞穴"裡，四周全是書。他形容自己幾乎是野生的。環境很美、很安靜、也很孤獨，於是他開始讀書，上學之前就把能讀的都讀完了。同村的學校對他很客氣，沒有人欺負他，但他也交不到朋友。他當時說不出哪裡不對，現在知道原因很簡單：他是那附近唯一的書呆子，沒有第二個小孩對物理、計算和數學感興趣。真正的人際關係是九年級進了數理學校之後才開始的。 這段經歷在他身上留下了一個特徵，Lex 稱之為"不被拴住"。不被當代人看重的東西拴住，不被簡歷和基準測試拴住。巴赫自己給了一個更冷靜的提醒： > 這裡有個很大的危險。你被期待嫁進某個思想傳統，再嫁進這個傳統裡的某個流派。如果每個人都自己造一套正規化，整個事業就無法積累。所以需要一種平衡，既要有正規化級的思考者，也要有在既定正規化裡工作的人。（約沙·巴赫） 但他注意到一件事：AI 領域剛開始的時候，進來的人都有有意思的觀點。今天的 AI 研究者要麼根本沒有有意思的觀點，要麼這些觀點跟他們手上做的事無關。**因為他們在做的事，是把最先進的方法加上一個很小的 epsilon。**巴赫的態度很直接：如果別人能做，我為什麼要做？如果現在的機器學習方法能通向強人工智慧，那我在沙灘上等著就行了。 ## 古典哲學在德國是怎麼斷掉的 巴赫讀的是克萊斯特、海涅、黑塞這一路，也讀古典哲學家。他對尼采的評價很不客氣，說尼采是古典世界裡的噴子，聰明、好讀，但他主要是在 troll 自己，因為他跟世界不對付，戀愛也不順，最後成了一個虛無主義者。黑塞的《荒原狼》綜合徵是典型的青春期症狀：你覺得世界誤解了你，而你沒意識到所有誤解都源於你自己缺乏自我覺察，因為你把自己當成人類的原型，以為別人應該按你的本能反應來反應。 Lex 問，古典哲學到哪兒算結束。巴赫的回答是德國第一次革命，君主制結束、民主開始的那一刻。那之後德國人搞出了一種新的政府形式，卻對"社會想成為的這個新有機體"沒有感覺，等於把大學的頭砍掉了，大學像沒頭雞一樣繼續跑過現代主義。緊接著民主失敗，法西斯上臺，用和斯大林主義類似的方式燒掉了思想傳統。兩個德國都沒恢復過來：東德剩下庸俗的辯證唯物主義，西德也沒比哈貝馬斯更尖銳多少。把猶太人殺掉和趕走，這件事的傷害同樣無法彌補。 另一層原因是，哲學裡低垂的果實基本被摘完了。最後一個大發現是數學裡的構造主義轉向：搞明白數學裡真正能用的部分是計算。這件事發生在二十世紀上半葉，但它至今沒有完全滲透進哲學，甚至沒有滲透進物理。**物理學家在構造主義成為共識之前，就把數學的程式碼庫給簽出了。** 哥德爾證明了什麼？用經典數學語義，你會掉進矛盾。哥德爾本人並不接受這個結論，他更相信自己那套語義，所以這個證明幾乎把他的世界觀震碎了。圖靈就不那麼難受，他能看到出路：數學一直都是計算。在經典數學裡，π 是一個值；在計算裡，函式只有在你算得出來的時候才是值。π 的最後一位數字你算不出來，你就只擁有一個函式。你可以把這個函式扔進本地太陽裡，讓它跑到太陽燒完，那時你會知道 π 的最後一位，但這也意味著物理宇宙裡沒有任何過程可以依賴於"已經知道 π 的最後一位"。 維特根斯坦比圖靈更早看到了這件事。他甚至在圖靈缺席時會取消課程，因為覺得跟其他人繼續上沒意思。《邏輯哲學論》是一本很美的書，75 頁只寫了一個想法，裡面沒有論證也沒有引用，目的不是說服誰，只是把話說清楚。他那時已經理解，一切都可以用 NAND 演算表達出來，全部邏輯都能歸約成現代計算機裡的 NAND 門。某種意義上，他在圖靈把它說清楚之前就理解了圖靈完備性。 巴赫對自己在這條譜系裡的位置很謙虛。他說自己還是那個在美麗山谷里長大的孩子，從外面看世界，試圖搞明白髮生了什麼。老師告訴他一些事，這些事大多說不通，所以他必須自己造模型，必須去挖別人話底下的地基，把翻譯過程中丟掉的東西儘量還原。他補了一句挺妙的自嘲： > 每當我有一個原創的想法，我通常已經晚了大概四百年。唯一的好處是，隨著我年紀變大、探索變深，派對變得越來越小。（約沙·巴赫） ## 存在是預設狀態，而我們住在分形的一條螺旋里 Lex 丟擲那個最古老的問題：為什麼會有東西存在，而不是什麼都沒有。巴赫說這可能是個方向錯誤的問題，追問"為什麼"預設了目的或原因，而存在未必需要目的或原因。 他給出的答案很省位元：**存在是預設狀態。**要編碼"存在"這件事，需要的位元數最少。不存在未必是一個有意義的概念。如果一切能夠存在的東西都存在，那麼某樣東西要存在，它就得是可實現的；而所能實現的只有有限自動機。於是整個存在可能是所有有限自動機的疊加，我們在其中的某個區域，這個區域恰好具備能容納我們的性質。 Lex 追問基底是什麼。巴赫答得很乾脆：不知道，只知道它得能儲存資訊、能保持狀態。 接下來這段是理解他整套認識論的入口。他借用了曼德博集合（Mandelbrot set）。你可以把整張圖看成兩行程式碼：在複數平面上對每個點測試一個數列，發散的點塗黑，收斂的不塗，中間的顏色由發散速度決定。假設你活在曼德博集合內部，你不知道自己在哪，也沒發現那個生成函式。你能看到的是：眼前有一條螺旋，螺旋緩慢向右移，然後在某個點上消失。這個描述準不準確？準確。它是對現象的有效描述。但曼德博集合裡其實沒有螺旋，只有對某個把它解讀成二維空間、並在某個尺度上定義規律的觀察者來說，它看起來像螺旋。 他就是這麼理解物理定律的。**我們得到的是一層層二階、三階的規律：螺旋會右移，螺旋會消失，消失之後會出現新的螺旋。這套描述有不錯的預測力，它不觸及核心，不解釋自己是怎麼被生成出來的，但對"我們糾纏其中的這個宇宙"解釋得相當好。** 他還順帶批評了那種指望從物理裡一步跳出系統的想法。你可以列舉所有可能的自動機，直到找到能產出你這個現實的那一個。你確實有可能從第一性原理出發判斷自己嵌在全域性分形的哪個區域，但路徑只有一條，必須從第一性原理走。 ## 智慧是建模能力，感知是已經擁有那些模型 巴赫給智慧下的定義非常簡潔：**智慧是建模的能力。**它不必是目標導向的理性，很多聰明人在這一項上很差。它指的是，你被給了若干模式，你能看出結構，並且能預測下一批模式。 他把感知（sentience）和智慧拆開了：感知是你擁有了某一類模型，智慧是你還沒有這些模型時獲取它們的方式。這兩件事經常被混為一談，但很多高度聰明的人自我覺察很差，反過來，先驗足夠好的人不需要多聰明也能自我覺察。 於是圖靈測試在他那裡被重新解釋了。真正的圖靈測試是：你問一個系統"智慧是什麼"，如果它能解釋自己是什麼、怎麼運作的，你就該把它判定為通用智慧。**而這個測試的反面是，它同時也在測試我們。它是關於"人類是否聰明到足以理解自己"這個猜想的檢驗。**你透過建造一個 AI 來透過圖靈測試。 那麼今天的神經網路差在哪？巴赫給了兩個維度。一是表示是否適配要表示的領域，二是模型的型別是否適配。他認為兩方面都還缺，而且他不認為這是新聞，設計正規化的人大多知道。具體缺的是統一學習：當我們學習時，某個時刻會發現所有感知到的東西都屬於同一個物件，於是把它們學進一個模型，這個模型就叫宇宙。我們的經驗沒有一條秘密直連通往物理現實，物理現實是個永遠無法訪問的量子圖，但它在我們的系統介面上能造出某些模式。我們把這些模式之間的關係叫作物理宇宙。發展過程中我們還會發現，幾乎所有東西都能對映到同一個三維空間裡。**這正是"廣延實體"（res extensa）這個直覺的來路，物質世界只是心智領域中的一個，是那些把環境當作三維物理引擎來處理的所有模型的集合。** ## 天主教是一次大規模軟體安裝 Lex 請巴赫逐一解釋二元論、唯心論、唯物論、功能主義。巴赫的切入角度很特別，他說西方這條特定的思想軌跡，是兩千年 cult 灌輸的結果。天主教把一套相對粗糙的神話當作軟體裝進了人的心智，把軟體同步起來，讓所有人齊步走，從而讓那個"神"上線並高效運轉。 > 神在技術上就是一個跨越多個大腦的自我，而我們每個人的自我基本只跑在一個大腦上。（約沙·巴赫） 如果把天主教神話翻譯成現代語言，它的意思是：你和我在互動的這個世界，像一場多人角色扮演冒險，錢和物品都不是真的，這在東方哲學裡叫摩耶，執著其中就叫輪迴。同時它引入了更高的意義，即神聖。而神的自然形態，是你所屬文明的柏拉圖式理念，是由個體構成的超級有機體，是一個有意圖的能動者。 二元論的問題在於它接錯了線。它把心智領域和物理領域當成兩種實體，物理世界因果閉合、底層完全機械，心智世界另有一套規則，而"真正的你"住在後一個房間裡。巴赫說，這其實是把唯物論和唯心論用錯誤的方式連起來的結果。 > 詭異的地方在於，我們並不存在於物理世界裡。我們存在於大腦給自己講的一個故事裡。（約沙·巴赫） 為什麼？因為大腦感覺不到任何東西，神經元也感覺不到。但讓大腦或者有機體知道"作為一個人是什麼感覺"會非常有用，於是大腦造了一個這樣的人的擬像，用它來建模這個人跟環境的互動。這個擬像是大腦持續書寫和更新的多媒體小說。 為什麼寫小說裡的角色會有情緒？巴赫拿《冰與火之歌》舉例。角色站在山上，想攻下下面的城，他們看著天色，感到忐忑，也感到充滿力量。為什麼他們會有這些情緒？因為故事裡就是這麼寫的。而故事裡這麼寫，是因為這是對這個人的一個足夠好的模型，能預測他接下來會做什麼。我們是一回事。 > 你和我都是傀儡，是在我心中上演這出戏的兩個傀儡。我認同其中一個，因為我能直接控制那一個。（約沙·巴赫） 那麼"我"是不是也能被替換？巴赫說身份是軟體狀態，是一個構造，跟物理沒有關係。它是對同一條世界線上的不同物件的表示。達賴喇嘛之所以會轉世，原因不在於他糊塗。他不認同為一個人類，他認同的是一套治理軟體，所以死亡只是他所執行的那具身體死了。要殺死達賴喇嘛，你得殺死他的傳統。我們每個人身上都有這個結構的一小部分，你的孩子、你點燃的想法、你認同的社會，都在延續某些東西。 談到死亡，巴赫的立場很硬： > 連續的存在才是那個模糊的概念。我們根本不擁有連續存在。把昨天的你和今天的你綁在一起的，只是你擁有關於他的記憶這個幻覺。（約沙·巴赫） 所以想要上傳，技術上異常簡單：造一臺認為自己就是你的機器。因為它和你現在是一模一樣的東西，你本來就是一臺認為自己就是你的機器。你無法永生，但你可以不再害怕死亡，因為你意識到你從來沒有連續地存在過。 ## 注意力、Transformer，以及為什麼語言不是認知的底層 巴赫對意識的定義是：它大體上是"你注意力內容"的一個模型，是為了某種學習而演化出來的機制。 為什麼需要它？今天主流的機器學習靠鏈式的加權和與非線性層，靠誤差訊號回傳調整權重。代價是你需要改動大量權重，過程極慢，而大腦沒有那麼多時間。大腦做的是基於注意力的學習：定位到網路裡可能改進的區域，把繫結狀態和預期結果一起存成一條協議，以便日後回來重新審視這些承諾。這就要求系統記住注意力的內容。 另一個原因是，你構造現實時會出錯，你會把倒影和陰影看成人。所以系統必須能指出是哪些感知特徵導致了當前這個構造。還有一層：注意力系統本身就是用同一套機制訓練的，所以它是自反的。如果你不關注注意力本身，注意力就會渙散。你此刻看到的東西，是大腦發散的走神夢，還是你仍然在感知？於是你週期性地回頭看自己是否還在注意。**當"意識到注意力的內容"和"意識到自己在注意"之間的環收得足夠緊，注意力成為注意力的物件，我們就醒過來了。** Lex 順勢問了 Transformer 裡的注意力機制。巴赫認為它只建模了注意力的一面。他講了一個老笑話：早期機器翻譯要把"a bat broke the window"翻成德語，出來的結果是"一隻蝙蝠用棒球棍打破了窗戶"。那一版程式之所以這麼翻，是因為它在同句內把 bat 的兩種含義的可能性都最大化了。而 Transformer 不會犯這個錯，因為它追蹤同一性，把手指按在單個概念上，保證這個概念在後面還會出現，於是它能寫出一段關於某位科學家的文字，名字、代詞、故事全都對得上。**但它沒有把這一切整合起來，它的意義會在某個點上散架，因為它還不理解自己說的一切都必須指向同一個宇宙。** 而追蹤同一性只是注意力中一個很具體的機制，它並不負責產生我們這種意識。至於能不能把概念空間持續地整合起來，維特根斯坦晚年就在啃這個問題，《哲學研究》裡卡住他的是"影象"。他想造一門邏輯語言來做真正的哲學，但處理不了知覺內容，最後他大概判斷自己解決不了。巴赫認為這個失敗預演了 AI 最大那次專案的失敗。真要往前走，得靠更通用的函式逼近；用語法語言去硬啃幾何，那條路走不通。 > 我同意維特根斯坦，只是我同意的是晚期的維特根斯坦。同時我也同意早期維特根斯坦的美。《邏輯哲學論》大概是二十世紀寫得最美的哲學文字。（約沙·巴赫） ## 大腦是一個沒有中央政府的元學習系統 巴赫把人工智慧的三波說得很清楚。第一波是識別問題、設計解、把解實現出來，比如寫一個下棋程式。第二波不寫解，寫一個自動搜尋解法的演算法，強化學習屬於這一波。第三波是元學習：找到一個演算法，它能自己發現針對某個領域的學習演算法。**我們的大腦很可能處在第三波，它是一臺元學習系統。** 具體的畫面是這樣的：沒有任何一箇中央控制告訴所有神經元該怎麼接線。每個神經元都是一個獨立的強化學習智慧體，相當複雜，也很有動機想被餵飽。它在平均意義上"對的時候"放電，就能被餵飽。而"對的時候"取決於它所處的電化學環境。它必須學一個關於環境的函式，告訴自己什麼時候放電。 Lex 追問：那誰在設定損失函式？巴赫的回答是，也有一堆"政府"在給大腦不同部分強加損失函式，這叫差異性注意。有些區域在你看臉的時候會得到特別獎勵。沒有這一條，你會得臉盲症。他的解釋有點反直覺：臉盲症患者的大腦未必有缺陷，只是對臉的注意力處於平均水平，他們看臉的時間和看杯子一樣多。**而那些沒有臉盲症的人，對臉的注意力是強迫性的。你和我走過人群時不可能不掃臉。結果就是我們造出了極其精細的臉部模型，精細到能讀出別人的心理狀態。** 把這個機制放大到群體，巴赫給出了"精神"（spirit）的一個技術性解釋：精神是一個自主機器人的作業系統。這個詞被髮明出來的時候，人們需要的正是這個詞，只是當時已知的自主機器人只有人、動物、植物、生態系統和城市。組織更像一個函式，它告訴細胞該怎麼行為；這個函式是細胞之間互動的湧現結果，沒有什麼超自然的形態發生場。 順著這個思路，他願意把一定程度的智慧歸給植物。問題在於植物沒有神經系統，無法在體內瞬間傳遞遠距離訊號，只能靠相鄰細胞之間的化學物質，訊號傳播速度是每秒幾毫米。所以如果植物是智慧的，它的時間尺度和我們不同。 > 有可能存在活了上千年、幾乎不受干擾的智慧生態系統，它們調節著自己的環境，改變了進化的走向。它們只是執行在另一個時間尺度上。（約沙·巴赫） 他甚至給了一個挺妙的解釋：獅子的大腦比羚羊大得多，未必是因為抓住羚羊比逃跑更難，而是因為獅子需要為自己的環境建立更復雜的模型，也需要把食物供給當成需要守護的東西來管理。 ## 我們燒掉了一億年的樹，換來了所有人家裡通上水管 巴赫有一個不太樂觀的判斷：我們當前的文明不可持續。他的判斷依據是一道物理題。 先看歷史資料。公元零年以來，地球上的人口一直在三億到四億之間浮動，一直到啟蒙運動、工業革命才改變。貧困在他那裡有一個精確的定義：你能生多少孩子，取決於你能餵飽多少，生多了就死。這是地球上所有動物的狀態。而現代社會允許你想生多少就生多少，孩子不會死，於是生育率下降的原因變成了經濟：多生孩子意味著社會階層下滑。只有特別富和特別窮的人不受這條約束。 代價是什麼？他給出這麼一個說法：**我們在一個世紀裡燒掉了一億年的樹，讓所有人都用上了水管。**這句話背後是一個熵的賬本。你把槓桿伸得離熵的深淵太遠，對面卻還沒有落地，那麼遲早撐不住，賬單要付。 具體到氣候，全球變暖本身並不是他最擔心的事。他舉了亞利桑那州，那裡夏天本來就有三個月出不了門，你有車裡的空調、家裡的空調，一切都好。**要命的指標是溼球溫度。把溼布裹在溫度計上，快速揮動，讀到的就是溼球溫度。當你無法透過蒸發把體溫降到 35 攝氏度以下，你就會死，哪怕你是個健康的年輕人、哪怕你躲在陰涼處。** 於是現代城市是一個"閉環製冷鏈"：你在有空調的房間醒來，開有空調的車，進有空調的辦公室，去有空調的超市，中間只在很短的距離裡奔跑。這個說法是從肉類供應鏈借來的，冷鏈一斷，肉開始化凍，你就得把它扔掉。只要文明還在運轉，能源供應還在，食物冷鏈卡車還能開到你家門口，一切都沒問題。問題是氣候變得極其不規律、極端天氣事件變多之後，大規模露天農業會撐不住。 他還講了一個更讓人不安的可能性。文明的終結本身未必是最壞的結果，之後會有新的文明長出來。他真正擔心的是生態系統翻過臨界點：海洋酸化殺死浮游生物，藍細菌接管，我們可能連呼吸的空氣都沒了。那才是地球上覆雜生物的一次大重啟。他也提到了丹尼·希利斯那種向平流層撒石灰來限制太陽輻射的方案，有效也好無效也好，至少是個思路。 關於火星，他的態度很冷靜。馬斯克要做的事解決不了全球變暖，因為火星比全球變暖最壞結果下的地球還要糟得多。**但它可能逼出全新的技術，那些在極端環境裡被逼出來的想法，最終可能反過來強化地球上這個閉環製冷鏈。** Lex 問他有多大比例的機率會自我毀滅。巴赫繞開了這個賭注，因為一旦人死了，贏來的錢也沒法領。他的判斷落在另一處：人類這個物種未必滅絕，但當前這個文明不可持續，人口大機率會比今天少，而今天活著的人裡大部分在一百年後不會有後代。 ## Twitter 是一個多巴胺成癮、處於永久癲癇狀態的全球大腦 Lex 提到了一個更有希望的方向：Twitter、YouTube 這類東西讓好想法傳播的速度前所未有。巴赫沒被說服。 > 我們本該有幾百萬個馮·諾依曼和圖靈，但不知為什麼沒有。我懷疑原因是我們摧毀了彼此的注意力。（約沙·巴赫） 他補了一句自嘲：我們之所以坐在這裡錄 YouTube 影片，是因為你和我都沒有足夠的注意力寫一本書，而你們大概也沒有足夠的注意力讀完它。Lex 反駁說已經錄了一個多小時、八成聽眾還在聽，形式不等於注意力。**巴赫承認社交媒體的終局是一個全球大腦，而 Twitter 是個掛滿多巴胺、沒有任何抑制機制的全球大腦，因此它正處在永久癲癇發作中。**人們用它來扮演一個在理智世界裡不像自己的化身，透過手機鏡頭看世界，還以為那是真實世界。 那怎麼改進？巴赫說他不給建議，因為他不是專家，但可以給想法。大腦某種程度上已經解決了這個問題：它有一堆獨立智慧體，卻還能協同。他的方案是把協議拆開。今天 Reddit、Facebook、Twitter 的共同點是，它們都是擁有某個協議的公司，而這個協議被強加給一個社群。協議裡有變現、使用者管理、展示、評分、匿名、外來內容匯入這些元件。**把元件拆開，讓社群可以混搭、自創。誰來做這個決定這件事本身也可以進入協議：有的社群裡是一個人說了算，有的是一群朋友，有的搞加權投票，誰也不知道哪種自組織原則最好。**然後透過激勵讓更有感知力的社群勝出，那些能產生最有趣行為、以最有益方式讓人互動的社群。 Lex 馬上指出了難點：演化意味著不適應者要死掉，而社交媒體的社群極不願意死。一被審查就會激烈抗議，美國人對言論自由這件事非常敏感。巴赫的回答把問題向前推了一步：誰來判定你是不是好成員，以及這個判定過程對個人和整體社會的產出是什麼。 > 高信任社會不需要大量監控，監控本身甚至會侵蝕信任，因為它懲罰的是那些在監控下看著可疑、但實際上做對了事的人。反過來，低信任社會里監控可能是更好的權衡。（約沙·巴赫） 美國正在從高信任或混合信任社會轉向低信任社會，所以監控會增加。他還指出信念不是惰性的表示，它是會在你大腦上跑程式碼、改變你現實的實現。**有些信念只是公開展示站位的公關口徑，比如嘴上說所有文化都同樣好、同樣平等，實際選擇住在哪裡時卻強烈偏好某些文化。這就會在大家沒有共同目標時導致非常棘手的局面。**他的判斷是美國被困在極權與多元之間，到目前為止給出的解法很粗糙，因為它是個非常年輕又承受巨大張力的社會。他認為美國必須重新發明自己。 ## 政府在博弈論上乾的事，是給你的收益表加一個偏移 Lex 問什麼樣的政府形式是好的。巴赫的標準很清爽：**理想的政府應該是不可察覺的、無摩擦的。你越能感覺到政府的影響，摩擦就越大，政府大概就越低效。** > 政府，從博弈論上講，是一個施加在你的收益度量上的偏移，從而讓你的納什均衡與共同利益相容。（約沙·巴赫） 他舉的例子很實在。我如果認為大家該少坐飛機，我待在家裡，沒有一架飛機會因為我而停飛，我卻沒有從 A 到 B。這需要政府共享這個想法，然後施加監管，比如讓機票更貴，並激勵其他對環境影響更小的交通工具。區域性激勵和全域性結果之間的這道裂縫，就是政府存在的位置。 順著這條線，巴赫把托馬斯·阿奎那重新讀了一遍，得出一個很有意思的結論。阿奎那不是二元論者，他是在給天主教社會設計作業系統。他講人有四個基本德性：自我調節是節制，社會調節是正義，願意在自己的模型上下注、也就是有利益攸關是勇氣，選對目標是明智。這四個可以直接理性推匯出來。另外三個所謂的神學德性無法從理性推導，只能透過和諧顯現自己。 > 你需要對統一有承諾，服務於更高更大的東西，他稱之為信。你需要對共同目標有承諾，共同目標正是愛的核心，你在對方身上看到比你自身有機體利益更重要的神聖之物。最後你需要希望，也就是在當下拿不到回報時仍願意行動，因為那個東西還不存在，文明才能開始。（約沙·巴赫） 巴赫明說了，這不是讓誰去信一個長鬍子老頭。脫掉神話之後，基督教的上帝就是文明的柏拉圖式理念。我們今天生活的西方是民主制，而民主在巴赫的描述裡是寡頭統治加上行政機構。寡頭是當下掌握生產資料的人，但他們不直接治理，因為變動太大：每一代都會發明新的生產資料，公司通常活不過三十年。所以實際治理交給機構，機構不由選舉產生，但提供連續性，由可選舉的政治家來領導。這套設計的好處是，你能在不殺人的前提下完成權力更迭。**而如果一個記者挖出了當權者不想讓人知道的事，而這個體系沒有 B 計劃，那麼記者就得死，這是靠深層政府治理的社會會發生的事。** 他對美國的判斷是：美國社會為創新做了最佳化，沒為可持續性做最佳化。 > 美國社會某種程度上是一個騙子的社會。作弊和創新在這裡難以區分，而我們想要鼓勵創新。你可以提出一個不可持續的商業模式並把它實現。**作弊會留下一層覆蓋一切的毒性汙泥，但這也是它成功的原因。（約沙·巴赫）** 社會流動性是同一個機制的另一面。正常的秩序裡你不該往上走，你該往深走，社會需要麵包師，需要非常好的麵包師。但在一個創新的社會里，也許一臺好機器就能取代所有麵包師，而這未必是壞事。 ## 情緒是非符號系統跟符號系統對話的編碼 心理學常區分情緒（emotion）和感受（feeling），日常語言不區分。巴赫給了一個層級化的定義。 **情緒是認知系統的一種配置。**最底層是情感狀態，由喚醒度、效價、注意焦點寬窄、是內感受還是外感受這些調製引數組成，這些引數把你擺到一個和環境、和自己的特定關係裡。 更窄的意義上，情緒是帶有物件的情感狀態，物件的相關性由動機給出。動機是一堆與獎賞繫結的需要。驅動你行動的是對需要的模型，因為在快樂和痛苦出現的時候，一切已經發生完了。**這些需要之間沒有層級，它們共存並競爭，大腦要在它們之間找到動態的穩態。但目的需要有內在一致性，於是你會把它們組織成層級化的計劃，也就是給人生編一個故事。**這裡沒有唯一解：有人為了藝術吃飯，有人為了吃飯做藝術，做的事可能一樣，但合作方式完全不同，因為最終目標不同。 感受是什麼？它是你的知覺系統對當前處境做出的評估。這個評估來自非符號化的部分，像一個神經網路，它把評估結果透過對映成特徵的方式告訴符號化的部分。而這個對映的落點通常是身體地圖。 > 你可能會在太陽神經叢那裡感到焦慮，把它感受成一種收縮，這全是幾何。身體地圖是那個始終被例項化、始終可用的空間。所以那些非符號部分想跟符號部分說話時，把它們對映到身體地圖裡，是非常明顯的一招捷徑。（約沙·巴赫） 至於情緒的表達，巴赫猜測它演化自對抗性的溝通。一旦你開始透過面部表情和姿態讀取別人的情緒狀態，別人就開始利用它來隱藏和偽造。所以我們讀的東西在那張臉之外。具體來說，我們讀的是那張臉與"在這種場合應該做出的標準臉"之間的差值。葬禮上每個人都擺出肅穆的臉，但肅穆不表達你是否悲傷，它只表達你懂得葬禮上該擺什麼臉，沒有人應該知道你此刻在心裡歡呼。 Lex 由此講了自己的一個發現。他做播客有影片部分，很多人會看他的臉來判斷嘉賓說的話該怎麼反應，事後還會評論"你那段看著很無聊""你特別喜歡那一段"。他這才意識到自己是這出戏的一部分，而他真正想做的事是戴上面具和墨鏡，安靜地聽。 巴赫說這在東歐有禁忌。東歐社會尤其是俄羅斯，對過度外露表情有一種排斥。而在美國正好相反，你被期待面部高度活躍，而且被期待表現出正面情緒。如果沒什麼理由就一臉高興，在俄羅斯人看來你是個愚蠢、沒品的人。他講了個流傳的段子：美國的評分曲線是，最差的 10% 叫"這是個不錯的開始"，以上全是"太棒了"；俄羅斯的評分曲線是，除了最頂尖的 1% 全是"很糟糕"，而最頂尖那 1% 的評價是"還行吧"。 他還講了一個更深的差別。美國的做法是聚焦正面、壓制負面，東歐傳統的直覺是：但凡你把一樣東西託到水線之上，你就得把另一樣東西壓到水線之下，因為存在本身充其量是中性的。有美的瞬間，但美的瞬間和痛苦的真實性糾纏在一起，不承認痛苦的真實性，等於承認你愚蠢到沒看見每個有意識的生物大部分時間都在受苦。 ## 幸福是大腦自己烤的餅乾 巴赫不同意把痛苦當成幸福的前提，他說得非常乾淨。 > 痛苦來自你在意那些你無法改變的東西。如果你能把自己在意的東西調整到你能改變的範圍裡，你就不會痛苦。（約沙·巴赫） 那幸福呢？他用了一個很好的比喻：幸福是大腦自己烤的餅乾。它不由環境做出來，環境做不出你的幸福，是你對環境的評估做出了幸福。而既然你能學會改變評估，你就能造出任意程度的幸福。 > 有些冥想者掉進了這個陷阱。他們發現了大腦裡烤餅乾的那間地下室，於是猛吃幾個月，然後就膩了。意義危機從更深的一層冒出來：我為什麼活著？我怎麼才能造出一個對我來說有意義的可持續文明？（約沙·巴赫） 在此之前他們以為自己的不幸福源於不夠幸福，於是他們"修好"了它，能隨意釋放神經遞質。然後真正的問題回來了，就是原來那個問題。 所以意義是什麼？巴赫的答案落在生命的最小單元上：細胞。 **細胞是本自組織的東西，可以參與演化。要運轉，它需要三樣零件：自我複製器、負熵提取器、圖靈機。任何一樣缺失，你就沒有細胞，那東西就不是活的。**生命是在這個原則上長出的湧現複雜性。一旦有了這個智慧超級分子，幾乎沒有什麼是它做不到的，它可能是最優的計算基質，尤其在韌性上，一顆行星一旦被生命感染，就很難再滅菌。 他甚至提出，細胞可以看成一臺馮·諾依曼探針。如果你想在別的星球上建智慧，最好的辦法可能就是種下細胞，然後等足夠久，它有一定機率演化出一個足夠通用的資訊處理原則，並且變得有感知。 他還引了詹姆斯·哈迪的"存在性設計"：技術設計是從外向內做的，你在高度確定性、高度受控的環境裡工作，用自己的確定性去實現某個夢想出來的功能，並與世界裡已有的確定性功能無縫對接。而生物系統是從內向外設計的，一顆種子把周圍相對無組織的東西變成自己的結構，從而馴服環境。**生命的目的是生產複雜性，而複雜性讓你能夠收割那些沒有複雜性就收割不到的熵梯度。智慧的目的則是在複雜條件下實現控制，把有序系統的邊界推進混沌的領域。這就是我們正在做的事。** 那麼在這種圖景裡，神是什麼？ > 我不認為神跟創造有任何關係。我認為那是《塔木德》被誤譯進天主教神話的結果。我認為《創世紀》其實是一個神的童年記憶。（約沙·巴赫） 這個讀法很漂亮。《創世紀》裡先有光與暗，然後你發現天與地並創造它們，你構造植物和動物，給一切命名。這正是認知發展的基本步驟：孩子先區分明暗，再在其中分辨方向，然後發現天與地、植物與動物，給一切命名。這是每個心智都必須經歷的過程，因為這些結構不是給定的，你的心智必須發明它們，才能讓視網膜上的模式說得通。 他還點出了一個常被偷換的地方：就算有個大書呆子架了臺伺服器在跑這個世界，這個書呆子跟我們的關係也沒什麼特別的，他沒有魔力給我們的存在賦予意義。把"造物主"和"意義之源"劃等號，是一次手法很妙的偷換。同樣地，亞里士多德的第一推動者，最樸素的解釋就是一個自動機，把它等同於超自然存在是純粹的胡說。 他最後給出了他認為我們真正在感知的那個更高存在：文明。我們和文明的關係，類似於細胞和我們身體的關係。我們之所以有這個先驗，是因為我們演化成了要在這種結構裡組織起來。**把神話剝掉，那個自然形態的基督教的上帝，就是文明的柏拉圖式理念。** 整場對話裡，Lex 挑出的一句是"幸福是大腦自己烤的餅乾"。而巴赫自己給出的收尾，是一句關於我們這個時代的判詞： > 如果把這當成一個電腦遊戲來比喻，這是人類能玩的最好的關卡。而這個最好的關卡恰好是最後一關，它以正在死去的世界為背景。但它仍然是最好的關卡。（約沙·巴赫） ## 可以從這期訪談裡帶走的東西 - 把自己在意的東西列一遍，標出哪些是你無法改變的。痛苦基本都長在那一欄，那一欄是唯一值得動手調整的地方。 - 把注意力當成你真正擁有的唯一可訓練資源。冥想在這個框架裡跟玄學無關，它是一套控制注意力的技術，練到能看見自己的原始碼，但最好先弄明白自己在改什麼。 - 遇到讓你不適卻說不清原因的環境，先別急著貼標籤，問一句：是不是我把自己當成了人類原型，預設別人該按我的本能反應來反應。 - 評估一份工作時，看它逼你建什麼模型，而不只看它給的報酬。讓你舒適的環境不會讓你長出新的模型。 - 對社交平臺的協議保持基本的懷疑，儘量待在你多少能參與制定規則的地方。你看到的那個世界，是被平臺的流行度激勵扭曲過的世界。 - 認真對待"身份是軟體狀態"這個前提。它能省掉很多沒必要的糾纏，也能提醒你，你現在認同的那些東西是可以重新選的。 - 在創新和可持續性之間，別預設前者永遠優先。美國社會為創新最佳化到了極致，那道副作用會以某種形式回到每個人身上。 - 如果在意長期，就把"我們一起要交付給誰"這個問題想清楚，而不是隻在自己這一代內算賬。