# 克里斯托夫·科赫：意識 > 神經科學家談意識的神經機制、整合資訊理論的思路，以及如何用實驗逼近主觀體驗之謎。 - 原標題：Christof Koch: Consciousness - 期數：特別節目 - 釋出日期：2018-09-01 - 嘉賓 / 主題：克里斯托夫·科赫 - 網頁版：https://lex.qiaomu.ai/tw/ep/christof-koch/ - 官方頁面：https://lexfridman.com/christof-koch/ - 精讀字數：約 8303 字（閱讀約 18 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 Christof Koch（克里斯托夫·科赫）被問到一個假設：2040 年的 Siri，能透過任何你能想到的圖靈測試，說話得體，記得你說過的每一句話，能陪你聊哲學也能陪你開玩笑。你會說它有意識嗎？ 他的回答很乾脆：不會。哪怕它自己開口說"我剛醒過來，感覺很好"。 這個回答來自一個被引用超過十萬次的人。1986 年到 2013 年他在加州理工當教授，之後去西雅圖艾倫腦科學研究所做總裁兼首席科學官，寫了《意識：一個浪漫還原論者的自白》。他這輩子幹的事，就是想把"感覺像什麼"這件事塞進科學裡。 他和 Lex Fridman 這場對話，從上世紀的老問題一路聊到小鼠腦子裡一塊一毫米厚的結構。中間穿插了漂浮艙、蜜蜂的投票、萊姆的科幻小說，以及他自己從虔誠天主教徒變成接近佛教徒的過程。 ## 先分清兩個被混用了一百年的詞 Koch 花了很大力氣做一件事：把智慧和意識拆開。 智慧關乎功能。適應新環境，學得快，看懂局面裡有誰、接下來會發生什麼。你給它一個任務，它完成得好，這就叫智慧。AlphaGo 下棋、Watson 答題、自動駕駛認路，都是功能層面的勝利。 意識關乎存在。它不完成任何任務。Koch 的用法很樸素：任何體驗都算。坐在椅子上發呆算，深度冥想裡那個說不清的瞬間也算。哲學家 Thomas Nagel 那句被引用了半個世紀的話最省事：**當一隻蝙蝠，感覺像是什麼樣子。** 這兩個東西在人類身上綁得死死的，所以我們習慣性地認為它們是一回事。Koch 的解釋是進化的副作用。我們身邊全是親戚和別的物種，神經系統從線蟲的 302 個神經元一路鋪到藍鯨的上千億個。行為越複雜，腦子越複雜，我們就把"越有意識"這個標籤貼上去。這個推斷在生物界大體成立。 但數字機器把這個繫結拆了。計算機器智慧的時候，我們完全不知道它跟意識有沒有關係，甚至連方向都看不清。 ## 三件讓功能和體驗脫鉤的事 Koch 講了三個人人都能驗證的場景，來說明意識和行為可以徹底分家。 第一個是植物狀態。他提到 1990 年代佛羅里達的特麗·夏沃（Terri Schiavo），心臟停跳後被搶救回來，在植物狀態裡躺了十四年。這類病人成千上萬，他們會睜眼、會閉眼，有睡眠覺醒週期，偶爾還有些動作。但你找不出任何規律把醫生說的話、母親說的話和他們的反應對應起來。行為沒有了，可《潛水鐘與蝴蝶》裡的那位法國編輯告訴世界另一件事：他只剩左眼能上下眨動，靠這個寫完了一整本書。到最後連眼球都動不了的人也有。**沒有行為，不代表裡面沒人。** 第二個是做夢。你今晚會睡著，會在自己麻痺的身體裡醒來，遇見一隻死了很多年的童年寵物狗，而且一點也不覺得奇怪。做夢時身體會給運動神經元發一個主動訊號，讓你癱瘓，這叫肌張力缺失（atonia）。缺了這個機制的人會把夢演出來，那是快速眼動期睡眠行為障礙，很麻煩的病。這裡行為被徹底鎖死，體驗卻飽滿得能讓你哭。 第三個是他自己的經歷。他去了新加坡，進了一個漂浮艙：體溫的水，瀉鹽，全黑，全靜音。脫光了躺進去，很快身體感就消失了，沒有邊界，沒有重量。接著聲音沒了，光沒了，時間的流逝感也沒了。剛開始你會覺得有點瘮人，會想"我是不是該無聊了"。可如果你剋制住不去主動思考，剩下的就是一個沒有身體、沒有時間、沒有聲音、也沒有念頭的東西，但它醒著。 > 你沒有任何功能在運轉，沒有在計算，沒有在回憶，沒有在計劃，可你完全清醒。你是一團純粹的存在。（克里斯托夫·科赫） 進化顯然沒給我們準備漂浮艙。所以"這玩意兒有什麼適應意義"這個問題問不出答案。Koch 說生物學家一向不擅長回答"為什麼"，我們連"為什麼有兩隻眼睛而不是三隻"都說不清楚。 ## 想測意識，先造一個能打亂它的機器 對人，現在已經有一套辦法。經顱磁刺激給大腦來一記脈衝，用腦電圖看它怎麼迴響，再算這個迴響的複雜度。這套流程在實驗室裡被叫作 zap-zip。 效果很硬：清醒的人複雜度高，麻醉的人、深睡的人複雜度低，區分準確率接近百分之百。同樣的手法可以用在猴子、狗、老鼠身上，它們的腦子結構類似。 但把磁脈衝打進一臺 iPhone，你只會把它弄壞。所以這條路對機器走不通。 Koch 的結論是：**我們最終需要一個意識理論。**不能靠直覺。直覺說會說話的就是有意識的，可嬰兒不會說話，夢中人被麻痺了也不會說話，植物人不會說話。憑直覺判斷，你在這些案子上全都會判錯。 他押注的理論叫整合資訊理論（Integrated Information Theory，IIT）。核心主張是：一個系統有沒有意識，取決於它內部因果結構能產生多大的、不可再分解的因果力。這個量在數學上可以算，原則上可以對任何物理系統算。 ## 泛心論不是"石頭也有心事" 聊到這兒，Lex 追問了一個繞不開的傳統：物性論和二元論打了幾千年，意識在這兩邊的位置都很彆扭。 Koch 把泛心論（panpsychism）分成了兩檔。一檔是極端版：一切都是心，石頭、森林、iPhone 都算。他覺得這個不太現實。另一檔溫和得多：所有生物都有那麼一點點體驗，從單細胞生物到巨杉。他傾向於後者。 他還提到了伯特蘭·羅素的一個思路，通常叫羅素式一元論（Russellian monism），也有人叫中立一元論。大意是：**物理學極其擅長描述事物之間的關係**，電荷怎麼作用，質量怎麼彎曲時空，夸克之間怎麼配。但物理學從不告訴你那個東西本身是什麼，它永遠站在第三人稱的位置上描述關係。 那第一人稱在哪？在意識裡。Koch 的說法是，你的意識體驗就是你的大腦、特別是你的皮層，從內部被感受到的樣子。物理學是外部視角，意識是同一個東西的內部視角。 順著這個邏輯，草履蟲也值得認真對待。它確實很笨。可它身上有幾千種蛋白質、上億個分子組裝成一個至今沒有任何計算機能準確模擬的系統。它大概沒有內心獨白，沒有期待，沒有計劃，可它可能真的有那麼一丁點"感覺像什麼"。 ## 亞里士多德的三層靈魂，和今天定義不了的死亡 Koch 順手把這個問題往回拉了兩千多年。亞里士多德大概是西方最重要的科學家兼哲學家，他有一套說法：靈魂是事物的形式。生物身上有三層。 植物有營養靈魂，那是生命原則。動物在此之上還有感覺靈魂或者說慾望靈魂，它們能看、能聞、有驅力，想吃、想繁殖。只有人有理性靈魂。這套東西后來被基督教接手，理性靈魂變成了不朽的那部分，變成了跟上帝連線的通道。 今天我們把這三層換成了別的問題：什麼是生命，什麼是智慧，什麼是意識。答案都還沒成形。Koch 舉了個特別實在的例子：**死亡的定義正在變得模糊。**以前很簡單，不呼吸了，心跳停了，就是死了，毫無爭議。現在有呼吸機、有起搏器，於是一批又一批的會議在討論死亡的法律和醫學定義。生命的邊界要在死亡的邊界上倒推著找。 智慧的定義同樣糟糕。沒有法律定義，只有智商測試和一堆實際成績單。我們開始在窄意義上把它造出來，AlphaGo、Watson、各種自動駕駛，也有人在想通用智慧。它大致跟"學習和適應"有關。但它和體驗之間的距離，Koch 認為遠得離譜。 ## 筆記本里的黑洞不會把你吸進去 這裡是整場對話最鋒利的地方。 Lex 提了一個思想實驗：假設 Henry Markram 的藍腦計劃大獲全勝，十年後我們有了完整的人腦模擬，每一個神經元、每一個突觸都對得上，它還會說話，會說"你好，我剛醒，感覺不錯"。它有意識嗎？ Koch 說不。理由是他最喜歡的一個類比。 > 我可以寫下行進方程，讓筆記本算出銀河系中心那個黑洞，質量大到能把時空擰成一個連光都逃不出去的洞。可為什麼這臺電腦不把我吸進去？它模擬了引力，卻沒有引力的因果力。（克里斯托夫·科赫） 在計算機裡跑一場暴風雨，你不會被淋溼。模擬和真實之間隔著的不是精度，是因果力本身。 數字計算機本質上是個數字時鐘，所有計算都被離散的時鐘節拍切成碎片。人腦不是這樣運轉的，它的因果結構是連續的、高度互聯的。所以要做有意識的機器，你得造所謂的神經形態硬體，讓它的因果結構和腦子處在同一個層級上，光靠軟體模擬不夠。 這段推論有個必須說清的後果：**Koch 認為意識不是造出人類級智慧的必要條件。**在生物身上兩者手拉手，因為進化把複雜度和因果力一起堆了上去。在數字機器裡，它們可以徹底分開。 ## 為什麼我們覺得虐待一條狗很可惡 Lex 把話題引向倫理。一個超級智慧，如果不跟我們共享任何價值，怎麼辦？ Koch 的回答繞回了共情。他拆了這個詞的希臘語詞根，empatheia，意思是"與之同感"。為什麼絕大多數人覺得虐待一條狗令人髮指？不是因為它是我老婆、我孩子，也不是因為它是一個人。是因為我們心裡有個裝置，會自動替對方疼。 他的推演是：如果人類真的要造出非常強大的通用智慧，那麼讓它具備共情反應，可能符合智人這個物種的長期生存利益。一個能感受別的東西在受苦的系統，不太會順手把人類清空。 那恐懼和痛苦是意識的必需品嗎？Koch 說不是。他舉了那個經典實驗：把電極插進老鼠的內側下丘腦，老鼠會不停地按壓槓桿刺激自己，不吃、不喝、不交配，其他一切都不重要了。所以從邏輯上講，一個只有快感的系統是可能的，雖然那種存在大概很糟糕。 但真實的生物需要整套配置。需要恐懼，需要那種對消亡的迴避，也需要正向的慾望狀態，好讓訓練有抓手。 ## 從羅馬天主教到佛教，中間隔著一片暗物質 Koch 在一個虔誠的羅馬天主教家庭長大。現在他說，他不信那個從小被教導要信的上帝了，不信有朝一日會在永恆的幸福裡與誰重聚。他看不到證據。 他現在的精神傾向更接近某種形式的佛教。他跟達賴喇嘛見過幾次面，最打動他的一點是，這位老人反覆強調的是減少一切眾生的痛苦。不只是人的痛苦，是所有生物的痛苦，按能力分級，一隻動物的苦比一個發育正常的人少。這種立場從一開始就在他們的傳統裡。 他也直接說了不成立的部分：輪迴沒有證據。 但他沒有把話說死。他提醒，宇宙裡我們連百分之四都還沒搞明白，暗物質、暗能量究竟是什麼，一無所知。他的態度是那種老派的誠實：**我不知道的東西很多，但這不妨礙我認真對待我唯一能直接接觸到的東西，也就是我的體驗。** 他說得很清楚：你對物理、對原子、對超弦、對分子的一切知識，都是後來的。你最先、也唯一直接熟悉的，是這個充滿東西、影象、聲音和觸感的世界。 ## 攀巖時那個消失的內心聲音 Koch 喜歡攀巖，喜歡騎車。他描述的那種狀態，運動的人大概都碰到過：進入所謂的 zone。 在那個狀態裡，內心的嘮叨消失了。那個一直催你交稅、催你回訊息、反覆回放你和前任那場吵架的聲音，安靜了。你完全在外面，在巖壁上，在車上，在球場上。 他覺得這跟漂浮艙裡那種純粹體驗是同一件事的兩面。一個是全然的行動，一個是全然的無行動，但都碰到了意識存在裡某個非常基礎的部分。那種滿足感深得不像話，而且上癮，人會一次次回去找它。 > 你碰到的是存在的根。這跟智慧完全是兩回事。（克里斯托夫·科赫） 順帶說一句他對模擬假說的態度。他認為那就是"我們生活在上帝心裡"這個古老假設的現代版本，幾百年裡無數聰明人認真討論過。它永遠無法被檢驗，也談不上有什麼用處。人們喜歡聊，那就聊。 ## 自由意志發生在你調動全部存在的那一刻 物理層面，我們活在一個大體決定論的世界裡，直到量子力學出現，某些事情原則上不可預測。Koch 說他偏愛這個不確定性，因為另一種可能更難接受：宇宙初始條件定好了，剩下的全是在播放。 在意識層面，他的立場比較微妙。我們當然被物理約束，被過去約束，被父母的教誨和環境的暗示約束，心理學實驗一次又一次證明我們多麼容易被操縱。 但他說，到了那些真正需要反覆權衡的人生決定上，要不要結婚，去不去那所學校，接不接這份工作，要不要在稅上動手腳，**當你把整個有意識的存在都投進這個問題，把所有相關條件都攤開來分析，然後做出決定，這已經是你可能達到的最自由的狀態。** 自由意志不是一種想幹什麼就幹什麼的意志。那種東西不存在。 ## 潛意識是特性，不是 bug Koch 寫部落格記錄讀的書，布林加科夫、村上春樹、尼爾·蓋曼、卡爾·薩根。他說文學的價值在於接觸更廣的人類經驗。你坐在實驗室裡盯著螢幕，看一張臉閃一下然後按鍵，這沒什麼錯，但那隻覆蓋了體驗的極窄一段。文學是通往其他狀態的捷徑。 他還提到了一個容易被忽略的好處：歷史感。你去讀幾十年前的書，會發現他們看待某些問題的方式跟我們完全不同。每個文化在鼎盛期都以為自己什麼都懂了，然後你才意識到，還有別的看世界的方式，其中一些可能比你的更有道理。 他談無意識時提到了尼采，說尼采是那片"無意識的大陸"最早的發現者之一，比弗洛伊德早。人在榮譽、憐憫、慈善的名義下乾的很多事，其實一點也不慈善。弗洛伊德後來接手了這塊地盤，Koch 認為他是個天才，雖然後期走偏了。弗洛伊德最早是做神經科學的，研究七鰓鰻，還獨立貢獻過神經元學說，也就是神經系統由離散單元構成這個想法。 無意識到底有多深？他給了一個特別具體的例子。感情破裂的時候，你心裡同時有愛、有恨、有慾望、有憤怒，全攪在一起。你想分析自己為什麼這麼難受，很難往下挖，因為這些情緒在杏仁核和其他一些地方生成，意識那雙窺探的眼睛進不去。 你可以去找心理醫生，可以跟朋友聊個沒完，最後你能給自己講出一個故事，為什麼這件事發生了，為什麼你愛或者不愛。但你無法確認那個故事是不是真的。你只是沒有許可權訪問那些區域，而那些區域權力很大。 這算 bug 嗎？Lex 問。失戀的舊賬明明沒用，為什麼還賴在那兒不走。 Koch 說這是特性。如果每做一個動作、每起一個情緒，都得經過意識批准，人根本活不到現在。學打字、學騎車的時候，意識必須在場，然後你把這件事交給基底神經節和紋狀體，訓練出一批自動化的程式。**他和弗朗西斯·克里克給這些東西起了個名字，叫殭屍代理（zombie agents）。**它們替你處理手上的活，意識解放出來去操心文字的抽象含義。 至於那些清不掉的創傷記憶，他認為也有功能意義。除非是極度虐待導致的臨床解離，正常人沒有刪除記憶的能力，我們因此受苦。可要是真給你一個隨時擦除記憶的開關，你大概會擦到對自己毫無益處的程度。 ## 蜜蜂投票，黑雲思考，尺度決定一切 Lex 問了一個尺度問題：我們會不自覺地用人類的時間尺度和體型去想意識，那些極大的、極小的、極慢的東西呢？ Koch 先講了蜜蜂。大多數人覺得那就是蟲子。可蜜蜂能認出單獨的人臉。分蜂的時候，它們要做一次足以讓人焦慮一整週的決定：這棵樹還是那面牆。偵察蜂飛出去實地考察，回來跳舞，跳好幾天，用舞步給不同地點拉票，最後整個蜂群一起飛向偵察蜂自己達成的那個共識地點。它們的神經迴路密度比人腦高十倍，雖然只有不到一百萬神經元，複雜程度驚人。工蜂只活兩個月左右。 所以在 IIT 的框架下，它們大概真的在體驗什麼，只是那套體驗跟我們的完全不像。 然後是《黑雲》。弗雷德·霍伊爾 1957 年的小說，一團雲擋在地球和太陽之間，全球降溫，後來人類用射電望遠鏡跟它搭上話，發現它是個智慧實體，最後說服它離開了。Koch 說，如果這團雲的整合資訊峰值出現在"月"這個時間尺度上，那它的一個瞬間就是我們的一個月，它的一秒鐘是另一個東西。**這種形式的意識可能就生活在我們旁邊，我們認不出來，因為它在尺度上跟我們錯開得太遠。** 他還講了萊姆的《無敵號》。人類飛船降落在一個星球上，發現原住民早就死光了，機器接管了一切，並且開始了自己的達爾文式進化。最終勝出的形態是無數六邊形元胞自動機組成的巨雲，平時一個一個躺在地上，遇到危機就組裝成巨大的網路，然後它們變成超級智慧，能控制一切人類能控制的東西。最後人類只能做兩個選擇：把整個星球核平，或者離開。因為他們根本沒法理解這個東西，也沒法跟它溝通。 Koch 借這個說了一個區分。**"它有沒有意識"和"我能不能知道它有意識"，是兩個完全不同的問題。**一個是本體論的，一個是認識論的。多重宇宙可能真的存在，但如果我們跟它交換不了任何資訊，那它就只是認識論上的一片空白，不能因為測不到就說它不存在。 這個區分今天就派上用場了。有些實驗室在培養微型腦類器官（mini organoids）：從你胳膊上取一點幹細胞，放進培養皿，加幾個轉錄因子，誘導它們長成幾毫米大小的一團，裡面大約有五十萬個神經元，看起來像神經細胞。哈佛在做，斯坦福也在做。 它們可能已經開始體驗到點什麼了。但我們目前沒有辦法跟它們通訊。所以倫理問題提前來了：它是否有意識，和我怎麼知道它是否有意識，兩條完全分開的問題，卻要一起回答。 ## 給年輕人的建議：站在幾個學科的縫隙上 Lex 問，如果一個年輕研究者想搞懂或者造出人類級的智慧與意識，該學什麼。神經科學、計算、認知科學、哲學、計算機、機器人？ Koch 的回答是不選。已知唯一具備高水平智慧的系統就是智人，真想造，那就得貼著人研究。他畫的範圍是：認知神經科學在一頭，心智哲學在一頭，電腦科學在中間。 他給了個歷史論據。那些原創的點子基本都從神經科學裡長出來。**神經網路是，強化學習是，明斯基當年造的東西是，Hubel 和 Wiesel 那個著名的視覺皮層實驗更是，它一路長成了多層網路。** 順著這個邏輯，他判斷 AI 下一步的瓶頸恰好在這兒。卷積網路能做很多事，但它不理解。你給一個人看一張圖：街上有人從別人包裡掏錢包，人一眼就知道那是扒手。機器會告訴你，圖裡有男人、有女人、有包。除非你餵它十萬張扒手圖，否則它沒有那個"一眼就懂"。 所以有些人的判斷是：真要讓機器像你我這樣理解世界，就得回到心理學，搞清人是怎麼做到的，大腦是怎麼支援的。Koch 覺得最讓人興奮的位置，就在認知科學、神經科學、AI、電腦科學和心智哲學的交界處。 ## 一毫米厚的地方，可能是"部分"變成"整體"的介面 最後 Lex 問他，拋開所有現成的謎，近期最想解開的是什麼。 他講了一個結構，叫屏狀核（claustrum）。它藏在大腦皮層下面，島葉下方，很薄，大概一毫米，嵌在白質的線路里，非常難成像。左右各一個。它的特殊之處在於：**它跟每一個皮層區域都有連線。** 弗朗西斯·克里克生前最後一篇論文寫的就是它。他在醫院裡，去世那天還在口述修改稿。他們的假設是：這個結構從所有皮層區域接收輸入，又向所有皮層區域投射回去，那它的功能大概像交響樂團裡的指揮。皮層裡有一堆演奏者，有的管運動，有的管心理理論，有的推斷社交關係，有的處理顏色和聽覺，各管一攤。而意識要做的事，是把這一切打成一個包。所謂繫結問題，說的就是這個。 屏狀核的神經元數量比皮層少得多，但它跟所有區域都說得上話，所以位置上最像一個"整合器"。 這個假設正在被檢驗。他們用小鼠，找到了一種新的標記結構，起了個名字叫"荊棘王冠"（crown of thorns），長在屏狀核裡，擁有 Koch 見過的所有神經元中最廣泛的連線。細胞體極小，但伸出來的軸突樹巨大，同時覆蓋同側和對側皮層。配上光遺傳學這類工具，就可以把這些神經元開啟、關掉，看小鼠的行為怎麼變。 Lex 把它總結成一句話：這裡是部分變成整體的介面。Koch 說這個說法很好，這是把一個個獨立的模組變成一個完整的意識體驗的地方之一。 ## 整場對話裡最該被記住的幾件事 如果只帶走一層意思，大概是這個：我們習慣用"表現得像不像人"來判斷一個東西有沒有內心，這個標準在生物界勉強能用，在機器上徹底失效。會說話、會答題、會安慰你，這些全是功能。功能可以做到極致，同時裡面空無一物。 反過來也成立。沒有行為，也可能滿是體驗。植物狀態的人、被麻痺的夢中人、漂浮艙裡那團沒有身體的存在，都在提醒同一件事。 而 Koch 給出的路徑不是"等 AI 更強大我們自然就知道了"，而是先去把理論建起來，讓理論告訴你什麼樣的物質結構會產生體驗，然後拿這個標準去量任何系統，包括那些跟我們尺度完全錯開的系統。 下面是這場對話裡可以直接拿去用的東西。 - **把"智慧"和"意識"當成兩個詞用。**下次討論 AI 時，先問清對方說的是哪一個。混著用會讓整場討論原地打轉。 - **別拿圖靈測試當意識證據。**它測的是模仿能力。一個系統越擅長模仿，你越容易誤判，而不是越容易判斷。 - **想判斷一個系統有沒有體驗，去找它的因果結構，別找它的臺詞。**能自我報告只是線索之一，而且是最容易被偽造的那條線索。 - **對尺度保持開放。**蜜蜂、腦類器官、一團跨月思考的雲，如果意識的載體取決於整合資訊的方式而非人類的硬體，那我們認不出來的東西可能比認出來的多。 - **想進這個領域，別隻學一門。**認知神經科學、心智哲學、電腦科學的交界處，是 Koch 認為最有可能出下一個大突破的地方。深度學習的下一步瓶頸很可能不在算力，在理解。 - **給自己的"殭屍代理"留位置。**把重複的、機械的事訓練成自動流程，讓意識騰出來處理真正需要它的問題。但也要接受，有些情緒你永遠挖不到底，那不是故障。 - **去找那種讓內心聲音消失的活動。**攀巖、騎行、漂浮艙，方式不限。Koch 認為那類體驗觸到的是存在本身，不是智慧，而這件事值得每個人自己去驗證一次。