# 丹尼爾·卡尼曼：思考，快與慢、深度學習與 AI > 諾獎心理學家談雙系統思維與認知偏差，並討論這些洞見與深度學習及 AI 之間的關聯。 - 原標題：Daniel Kahneman: Thinking Fast and Slow, Deep Learning, and AI - 期數：特別節目 - 釋出日期：2020-01-14 - 嘉賓 / 主題：丹尼爾·卡尼曼 - 網頁版：https://lex.qiaomu.ai/tw/ep/daniel-kahneman/ - 官方頁面：https://lexfridman.com/daniel-kahneman/ - 精讀字數：約 9562 字（閱讀約 21 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 1942 年的巴黎，一個猶太男孩在街上被一名德軍士兵叫住。士兵把他抱起來，從口袋裡掏出一張照片給他看，照片上是另一個男孩，他大概是想讓眼前這個孩子看看自己的兒子。他並不知道懷裡抱著的孩子是猶太人。 幾十年後，這個男孩成了心理學家丹尼爾·卡尼曼。他在 Lex Fridman 的播客裡講完這個故事，接著補了一句：那個士兵是個好人，他完全有能力殺很多人，而且我確信他殺過。 同一個人，可以彎腰抱起一個孩子，也可以參與屠殺。這兩件事之間的距離，比我們願意承認的近得多。 ## 去人性化不需要理由，只需要位置 卡尼曼談二戰時，把驚訝集中在一個點上：德國人竟然把系統性滅絕變成了一項國策。他驚訝於它真的發生了，也驚訝於有足夠多的人自願參與。艾希曼審判給他的教訓是，這件事能發生在德國，就能發生在任何地方。德國人並不特殊。 他自己不願意用“惡”這個字。他給出的機制更樸素：你可以把一群人從“人”的類別裡挪出去，挪到“動物”的類別裡。宰殺動物的時候，人不會有什麼感覺。再加上對另一群人的絕對權力，這兩樣東西湊在一起，不會激發出人性裡最慷慨的部分。 內群體與外群體的區分是基礎配置。對內群體的忠誠和 affection，對外群體的去人性化能力，這兩樣東西是配套寫進人性裡的。不需要奧斯維辛來教我們這件事，奧斯維辛只是把課程上得極其鋒利。 他還提到了一個更冷的細節：周圍所有人都在做，這件事就變得被允許了。共謀不需要每個人都是惡人，只需要每個人都看見別人也在做。 同一場戰爭也帶出了另一面。士兵之間的忠誠，男性之間的聯結，共同承擔風險時那種近乎快感的友誼。這些同樣是真實的。人會為同伴擋子彈，也會朝手無寸鐵的人開槍，這兩套反應共用同一副神經系統。 ## “系統”這個詞是誤導的，但它是目前最好的詞 卡尼曼自己先說清楚了這件事：用“系統”來描述系統一和系統二是有誤導性的。這個詞暗示大腦裡有兩個獨立的模組，實際上沒有。它只是一個方便的說話方式。 他更願意把系統一理解成一個活動家族，核心區別在於念頭抵達意識的方式。有些念頭自己就來了，比如 2 加 2。有些念頭得自己去掙，比如 27 乘 14。後者需要在大腦裡執行一套演算法，會佔用短期記憶，會呼叫執行功能，佔用之後你就沒辦法同時幹別的事。 系統二的標誌是心理努力，而心理努力的容量極其有限。系統一的標誌是不費力。這就是全部區別。 關於進化，他的態度很隨意：這類推測成本很低，怎麼做都說得通。他粗線條的看法是，動物早就有知覺系統，能在無法解釋任何事情的前提下預測接下來會發生什麼。預測本身就是一種理解世界的方式。系統二從這套東西上長出來，靠的是語言、大得多的腦容量，以及操縱念頭、設想未來、設想沒有發生過的反事實、做條件推理的能力。這些能力離開語言和這個尺寸的大腦就不可能存在。 系統一也能說話。他特別強調這一點：他說出的每一個詞都不是深思熟慮的產物，詞自己就出來了，不費力氣。語言對系統一來說，是一項已經學會的技能，和開車、和象棋高手的直覺屬於同一類東西。 系統一不等於本能。開車這事沒有天生就會的，你必須在某個階段費力地學它，學到它變成自動為止。所謂啟發式，就是這套自動化之後形成的模式：把新的經驗跟舊的模式做匹配。匹配得不好的時候，偏差就出現了。大部分時候匹配得相當好，所以大部分時候我們對下一步會發生什麼的預期是對的，對該怎麼做的計劃也是對的。 更妙的地方在於，系統一在它擅長的領域裡，做得比系統二好得多。一個高水平的棋手，所有浮現在腦子裡的棋步都是強手。這背後是極其複雜的計算，全在無意識裡完成，快到無法測量。系統二的作用只剩下驗證。 沿著這條線往下推，人類可以被描述成一臺非常擅長構建系統一的機器。而這正好是當下人工智慧的樣子。 ## 深度學習是純粹的系統一，它不知道自己在說什麼 卡尼曼對這個類比很痛快：深度學習做的事更接近系統一的產物，它做模式匹配，預測接下來會發生什麼，在預測這件事上強得驚人。 它缺什麼？很多人會說缺推理能力，缺一個系統二。卡尼曼把更關鍵的東西放在前面：它沒有因果性，沒有任何表徵意義的方式，沒有表徵真實互動的方式。這幾樣東西沒有解決之前，能做成的事很精彩，但邊界清晰。 他被震撼的地方在速度上。從攻克國際象棋到攻克圍棋，從 AlphaGo 到 AlphaZero，轉變快得讓人發懵。這件事推進的速度超出了所有人的預期。 他也引用了 Gary Marcus 的批評，並認為這個批評有道理：孩子學一樣東西不需要一百萬條樣本，兩三條就夠。這中間的差距是根本性的。要讓機器學得快，你得預先往機器裡裝進某些期待或結構，讓它“準備好”快速學習。這個問題目前沒解。卡尼曼的說法很實在：我猜有人在攻它，但如果已經攻下來了，我還沒聽說。 Lex 提到了 Yann LeCun 的比喻：我們只能看見前面一兩個山峰，後面可能還有兩座，也可能還有幾千座。卡尼曼喜歡這個說法，比 Ray Kurzweil 那套預測靠譜得多。他自己站在多數派這一邊，認為神經網路會在能力上撞到上限。但他也承認，模式匹配佔了智慧的太大比例，神經網路幾乎必然會是大答案裡的一部分。 然後是那個最要命的問題。現在的翻譯系統做得極好，但它們真的不知道自己在說什麼。要讓詞句有真正的意義，就得讓它接上感知、接上行動、接上對世界的某種覺察。Lex 把這個問題叫作 grounding，落地到物理空間。 卡尼曼對“必須有身體”這件事存疑。他提出一個更好的判據：一個完全癱瘓的人，大腦仍然能學到大量關於這個世界的東西。所以身體未必是必要條件，感知系統才是。只要能透過感知積累關於世界的知識，就夠了。要是有臺機器能做到這個，那就是件大事。 嬰兒學東西的方式是最好的註腳。他們用手去抓、去推、去扔，把手的動作和世界上發生的事連起來。裝上假肢的人能在很短時間內學會操作假肢，速度快得讓人吃驚。大腦是一套隨時準備透過行動學習世界的系統。 至於這套系統造起來有多難，卡尼曼把球踢回給了 LeCun 的比喻：我們不知道前面有幾座山，這就是目前最誠實的答案。 ## 過馬路是一場博弈，機器還沒上桌 說到自動駕駛和行人預測，卡尼曼罕見地表達了樂觀。他給出的理由在規模上：每輛車都帶著大量感測器，任何一輛車學到的東西都會進入整個系統的知識庫。這種系統級的乘法效應能做成很多事。 但他緊接著指出，現在的自動駕駛系統把行人當成“不能撞的東西”來處理，並沒有把行人當成博弈中的對手。人跟車之間其實有一場談判。 他自己描述過這套談判流程。過馬路時看到有車過來，他會盯著司機的眼睛看，那是一個訊號。他走上馬路之前會看車，走上馬路之後反而把頭轉開。Lex 說這是他看過幾百小時錄影後總結出來的規律：轉頭意味著我下注了，我把自己交給你了，你必須停。 這是一局膽小鬼博弈。承諾必須可見，否則承諾不算數。 於是問題變成了：機器需要理解必死性嗎？卡尼曼的第一反應是不需要，只要會預測就行。下棋和打撲克的時候，大量預測在發生，理解是零。隨即他意識到 Lex 的追問戳到了痛處：如果只靠預測，行人的這套訊號體系能不能被學到？他的回答變得謹慎，說這比他原本設想的難得多。 這裡埋著一個更普遍的洞察。幾乎所有的人機協作系統，都比人們以為的難得多。 卡尼曼給出了一個悲觀但清晰的判斷：在任何人與機器互動的系統裡，只要機器足夠強，人類在很短時間內就會變成多餘的那一方。國際象棋是現成的例子。曾經有人說人機組合能打敗所有純機器，後來 Stockfish 不需要人，AlphaZero 更不需要人。 唯一的例外是：存在某些機器解決不了、而人能解決的問題。這種情況下，機器必須有能力識別出“我正處在一個我搞不定的情境裡”，然後呼叫人類。而這件事極難，因為要識別出問題的邊界，你幾乎得聰明到能解決所有那些問題。 每個問題最終都會變成國際象棋。真正的問題是過渡期有多長，以及過渡期里人機怎麼分工。 ## 所有人都在用自己的難度感評估 AI 的難度 Lex 提出了一個卡尼曼研究之外的現象：AI 圈外的人評估一個任務難不難，依據是這件事對自己有多難。開車對自己很容易，所以開車簡單；解偏微分方程對自己很難，所以那才是真本事。 結果就是幾十年來人們對“什麼難”的判斷整體是反的。視覺和感知難到爆，定理證明反而相對直接。這件事在研究者內部已經被接受，公眾的直覺基本沒動。 卡尼曼老實承認，他自己的研究對理解情境的結構和問題的複雜度沒什麼貢獻。他能確定的只有一點：圍棋複雜到沒有盡頭，但它的約束極其嚴格。真實世界約束少得多，意外也多得多。 這套錯位的直覺有現實後果。公眾直覺催生媒體炒作，炒作帶來投資，投資等不到回報就變成 AI 寒冬。指望靠科普把公眾的系統一直覺糾正過來，卡尼曼的答案很乾脆：不行。這需要很長很長時間。 ## 人類自己都解釋不了自己，憑什麼要求機器能 卡尼曼認為，一臺不能解釋自己的裝置，是一個重大的、繞不過去的困難。這件事已經在發生了。 司法系統裡，預測假釋期間再犯的模型已經比法官更準。問題是它說不清自己的推理過程，於是人們不願意信任它。 有意思的地方在於，人不願意信任它的理由是“它不能解釋自己”，而人類法官同樣不能解釋自己。卡尼曼的看法是，人給出的理由，絕大多數跟人真正相信某件事的原因關係很小。理由是你在被要求解釋的那一刻才臨時生成的一個故事。 但人類社會的運轉恰恰建立在這些故事上。人際互動依賴這些共享的虛構，依賴人們對自己講的那些故事。 順著這個邏輯，Lex 得出了一個有點刺人的推論：可解釋 AI 這個方向真正要交付的東西，也許只是一套讓人信服的故事，至於它是否反映真相，反倒排在後頭。卡尼曼回答得很直接：絕對是這樣。故事不必反映真相，只需要令人信服。而要做到穩定地令人信服，就得摻進一點真實成分。 他把這件事稱為一個輝煌的目標。讓人接受一個說法，這是極其精湛的工程。 ## 假期結束時的失憶藥 卡尼曼區分了兩個自我。體驗自我一直在活著，有好的時刻也有壞的時刻，大部分內容轉頭就被忘掉。記憶自我偶爾啟動，在某個段落結束時回望過去，把這段經歷重建成一個故事。記憶是一張示意圖，一卷可以回放的膠片並不存在。 悖論在這裡：只有一個自我在真正地活，但我們最終能留下的只有記憶自我。而所有的決策、所有我們做的事，都由記憶支配，不由實際發生過的事支配。 他研究了故事的結構，發現其中一條特別扎人：故事裡時間不重要。故事裡有開頭、有高潮、有結尾，有“從此幸福地生活在一起”，然後“三年後”，時間軸塌縮了。事件重要，時長不重要。 可時間恰恰是我們唯一擁有的東西，是生命的貨幣。而在評價記憶的時候，時間基本上沒有被表徵。這裡堆著一串悖論。 他做過一個思想實驗，用來暴露這兩個自我的分裂。假設你計劃一次度假，有人告訴你，假期結束時你會吃一片失憶藥，什麼都記不住，所有照片也會被銷燬。你還會去同樣的地方、用同樣的方式度假嗎？ 答案是不會。人們去度假，很大程度上是為了製造記憶，不只是為了經歷。知道自己會忘記之後想要的那個假期，和知道自己會記得時想要的那個假期，不是同一個假期。 這個思想實驗沒有解。卡尼曼說他就是因為解不下去，才離開了幸福研究。 Lex 追問了一個當代版本：社交媒體把記憶自我放大到了極端。很多人是為了那張照片而活，拍下來、發出去，然後被幾千人甚至幾百萬人看到，可以反覆回看，遠遠超過當時那幾分鐘。 卡尼曼笑著承認自己太老了，沒看過 Instagram，說不了什麼。但他順著往下推了一層：裝置在替代功能。電話號碼不用記了，事實性知識也沒那麼重要了，聊天裡越來越常出現的一句話是“查一下”。知道事情本身，從必需品變成了可選項。 他還提到一個已經消失的東西：過去人們預設朋友讀過同樣的書，看過同樣的影評，三個電影片道里你看的很可能就是我看了的那個。共享一直存在，只是形態變了。而他覺得，這種由分享帶來的記憶放大，心理學上還沒有被描述過，因為它是新的。 ## 不打分的生活，可能是更好的生活 Lex 提到了存在主義，也提到了佛教。卡尼曼承認自己哲學讀得不夠，但他看得出這兩條路和體驗自我是同一個方向：只去經歷，不評價，不打分，不記賬。 他說，如果能想象一種人們不給自己打分的生活，那似乎會是更好的生活。“我做得怎麼樣”這個問題本身就不太讓人快樂。 然後他給出了自己退場的原因，這一段值得反覆讀。他的直覺是體驗自我才是真實。但他發現人們想要的不是體驗，人們想要記憶，想要一個關於自己人生的好故事。你不可能提出一套跟人們自己所求相悖的幸福理論。當他看清事情會往這個方向走，他就離開了這個領域。 關於 Viktor Frankl 那本《活出意義來》，卡尼曼的回答近乎殘酷的誠實。他能理解一個人靠著使命感和意義感撐過集中營，但他自己不是那種人。他說得很直白：如果我在集中營裡，我會放棄，然後死掉。 接著他提出了一個倖存者偏差的版本。那些人活下來了，於是他們講故事。聽起來像是他們因為所做的事而活了下來，實際上我們根本不知道。可能是他們本來就是那類能活下來的人，而這類人恰好會講出那樣一種故事。 他由此推出一個結論：追求意義並不是人類行為的重要驅動力。人們被問到“人生有沒有意義重不重要”時會說極其重要，但被問到“你昨天過得怎麼樣、記得哪些時刻”時，答案裡幾乎沒有意義，有的是社交、是具體的事。 照顧自己的孩子和照顧別人的孩子，體驗上差別巨大。卡尼曼承認這個差別完全真實，但他把原因歸到故事上：我們講給自己聽的那個故事，在照顧自己孩子時是完全不同的一個。 ## 53 項研究，0 成功 談到心理學 replication crisis，Lex 用詞客氣，卡尼曼直接糾正：你太禮貌了，實際情況比這更糟。 他有一套自己的解釋，核心是被試內與被試間的區別。被試內設計是讓同一個人在兩種條件下都經歷一遍，被試間設計是不同的人各自待在不同的世界裡。出問題的是後者。 原因很微妙：研究者本人永遠處在被試內的位置上。他在腦子裡同時想象兩種條件，能“看見”因果，能“感覺”到效應。而被試間的受試者只活在一個條件裡，另一個條件對他而言根本不存在。所以研究者對被試間實驗的直覺極其不可靠。 更糟的是效應量。同一個操縱，在兩種條件下同時呈現時，力量遠大於只呈現一種條件時。研究者系統性地高估了自己操縱的威力。 他還有一句更狠的判斷：幾乎所有的心理學假設都是真的。方向大體沒錯，A 確實會推動 B，只是推動得遠比你以為的微弱。 他舉的例子是 53 項行為改變研究，20 個團隊，目標精確到“增加人們去健身房的次數”。這些都是領域裡最好的人。結果 53 項裡只有 1 項起作用。 解釋這個結果的概念叫聚焦錯覺。你在想某件事的時候，它就顯得很重要，比它實際的重要性更高。你盯著自己的操縱看，它當然顯得有力。而這批最優秀的研究者在這個錯覺裡，事先毫無察覺。 出路是把直覺的權重調低，把實驗預註冊，把該跑的樣本量跑夠，並且公開。這些事正在發生。另一個變數是 Amazon Mechanical Turk 這類平臺，讓實驗變得又便宜又快。卡尼曼說，心理學每次引入重要的新方法，領域就會被改寫，網際網路就是一個方法。 樣本量的問題他答得很具體。視覺和顏色知覺的經典結果，三四個被試就夠用，其中一個可能還是色盲。到了被試間的弱效應，30 到 40 人的標準配置根本不夠，可能需要幾百人，差一個數量級。 ## 資訊被接收得比傳送得更多的那些年 卡尼曼與 Amos Tversky 的合作持續了十幾年。他寫過這樣一段話： > 那是人際與智力的極樂歲月。幾乎一切都很有趣，幾乎一切都好笑，看著一個想法成形時有一種當下的快樂。那些年裡我們多次共享一種神奇的經驗：一個人說出某句話，另一個人理解得比說話者本人更深。與舊的資訊理論定律相反，我們常常發現收到的資訊多於發出的資訊。（丹尼爾·卡尼曼） 他說，這種經驗他幾乎沒在別人身上遇到過。沒遇到過的人，不會知道協作可以有多好。 Lex 問，怎麼找到這樣的合作者，這個問題像在問怎麼找到愛情。卡尼曼的回答分成兩半。一半是運氣。另一半是性格：你得有那個本事。他自認在這件事上有本事，但不是所有人都擅長。真正的合作是非常私人的事，你必須喜歡那個人，喜歡讓對方思考，喜歡對方回應你念頭的那種方式。市場上那種“你給我這個，我給你那個”的交換式合作，跟這個不是一回事。 就在這場對話裡，這個過程當場發生了一次。Lex 講起自己在做的行人預測問題，卡尼曼的好奇心立刻被點著，追問、拆解、給出自己的判斷，新的東西開始冒出來。他說這沒什麼技巧，就是跟著好奇心走，他對 AI 和機器人相關的任何東西都好奇，知道 Lex 在做這個，於是就問了。 ## 科學家也不改主意 卡尼曼被問到有沒有什麼事讓他智識上一直糾結。他把話題引向了一個更普遍的觀察：人改變想法極其困難。一旦投入，人在任何重要的事情上都不會改主意。科學家也一樣。 他自己有一段持續三十多年的爭議，對方是德國心理學家 Gigerenzer。他的判斷是這場爭議永遠不會被解決。你建起一套體系，然後住在裡面，別的體系看起來就是外來的，接觸很少，互相影響幾乎為零。 那有沒有辦法讓人改變想法？在真正重要的事情上，比如政治、宗教，答案是基本沒有。能起作用的是領袖改變想法。 他舉了氣候變化的例子。美國公眾並不真的把氣候當回事。但如果某位宗教領袖站出來說這是對人類的大威脅，效果會完全不同。人持有某種觀點，跟證據的關係很小，跟信任誰、不信任誰的關係很大。起作用的是故事，不是證據。 這條推理給了一個不太 intuition 的結論：改變群體想法的槓桿落在領袖身上，個體層面的說服基本無效。 ## 幽默和新隱喻，比事實更能說明智慧 關於怎麼測試智慧，卡尼曼先給了標準答案：通用人工智慧的定義是能做人類能做的任何事，而且做得更好。現狀是大量領域專用的系統在特定任務上輕鬆贏人，但離通用能力還非常遠。AlphaZero 比 AlphaGo 通用得多，但它能做的事依然窄得驚人。 圖靈測試被批評得很多，自然語言對話太容易被糊弄。Lex 問，什麼樣的對話會讓你真正印象深刻？ 卡尼曼的回答很具體。純事實性的對話容易，他不會被震到。幽默會讓他印象深刻。典故會有意思。隱喻會有意思，前提是當場新造的那種，背下來的不算。 這個標準其實很高。幽默和新隱喻都要求在兩個遙遠的語義空間之間建立對映，而且要求這個對映是當下生成的、貼合語境的。這正是當前系統最不擅長的事。 至於人類級別甚至超人類級別的智慧出現時他是什麼感受，他給了兩個詞：興奮，以及恐懼。然後加了一句：我看不到了。他對正在發生的事好奇，但他很清楚關於三十年後的預測都是瞎猜。原話是：我們真的毫無概念。 ## “為什麼”這件事沒有希望 訪談最後，Lex 問了意義問題。 卡尼曼的回答沒有繞。沒有他能理解的答案，他也不在主動找。他不認為自己有資格談論我們無法理解的東西。但他補了一句很重要的區分：我們可以不理解實在，同時仍然能做很多事。引力波的探測是人類的大時刻，一隻猿能回溯到大爆炸，這件事本身就夠驚人了。至於“為什麼”，那是超出我們能力的問題。 他把“是什麼”和“為什麼”徹底分開了。前者人類做得越來越好，後者沒有希望。 節目結尾，Lex 引了卡尼曼的一句話作為收束：智力除了推理能力，還包括從記憶裡找到相關材料的能力，以及在需要的時候調動注意力的能力。這句話把整場對話串了起來。系統二負責推理，系統一負責檢索和注意力的投放，而後者才是智力的大頭。 ## 這場對話裡能帶走的東西 一個研究了一輩子人類判斷偏差的人，在八十多歲時給出的建議，方向出奇地一致：對自己的直覺保持低信任度，尤其是關於別人會怎麼反應這件事。 他說得最透的一層在這裡：我們評估一個任務難不難，用的是自己動手時的感受。這個習慣在 AI 時代代價極高，因為它會系統性地壓低我們對感知的估值、抬高對推理的估值，壓低真實世界、抬高棋類遊戲。 還有那個關於記憶的觀察。人們為了故事而活，為了能講出來而活，為了被打分而活。卡尼曼沒能解決這個悖論，但他把它描述得非常清楚。看清這件事本身，也許就已經改變了一點什麼。 - **評估任何 AI 任務的難度時，先問一句“這個判斷是從哪來的”。**如果答案是“我覺得這事我幹起來挺輕鬆”，那這個判斷基本不可信。開車、認臉、聽懂帶口音的話，人做起來毫不費力，恰恰說明底下壓著極複雜的系統一運算。反過來，解方程、下棋讓人覺得難，是因為系統二會累，而累不等於複雜。 - **把預註冊和足量樣本當成習慣，不要當成審稿要求。**卡尼曼那套解釋裡最有用的部分是：你在設計實驗時，腦子裡同時裝著兩個條件，所以你“看見”了因果；但受試者只活在一個條件裡。你感受到的效應強度，天生就比真實效應大。想繞開這個陷阱沒有別的辦法，只能先把假設和樣本量釘死，再跑實驗。 - **對“我們團隊都覺得很有效”這類共識保持警惕。**53 項行為改變研究，20 個頂尖團隊，目標精確到增加健身次數，成功了 1 項。原因在聚焦錯覺上，跟能力無關：你盯著自己的操縱看，它當然顯得有力。判斷一個干預措施是否有效，唯一可靠的依據是別人在別處復現了它。 - **想知道一個系統有沒有接近通用智慧，別測它答得對不對，去測它笑不笑、能不能造新隱喻。**事實性問答早就不構成挑戰，幽默和當場生成的隱喻要求在兩個遙遠的語義空間之間建立對映，並且貼合語境。這是目前系統最薄弱的地方，也是最難偽造的地方。 - **設計人機協作流程時，不要假設機器知道自己什麼時候不行。**要它識別出“我在一個搞不定的情境裡”，前提是它對問題空間有足夠完整的理解，而這幾乎等於要求它能解決那些問題。凡是需要機器主動求助的場景，都要在流程上預設它會犯錯、並且犯得悄無聲息。 - **如果你在做需要人類解釋的產品，把目標從“說清真相”調成“講出可信的因果鏈”。**卡尼曼的判斷很直接：人對自身理由的訪問許可權非常有限，理由是事後臨時生成的故事。人對機器的要求也一樣。故事得足夠穩定地可信，而穩定可信離不開摻進一點真實成分。做不到這一點的解釋介面，會被使用者直接跳過。 - **給自己留出不被計分的時間。**卡尼曼沒能解決體驗自我與記憶自我的悖論，但他承認，一種不打分的生活看起來是更好的生活。“我最近做得怎麼樣”這個問題本身就不太讓人快樂，而它服務於記憶自我。反過來說，如果你想讓一段時間真正屬於體驗，就不要給它安排一個要被講述、被展示、被評價的結尾。 - **尋找合作者時，把“能不能互相把對方想得更深”當成篩選標準，超過履歷和資源。**卡尼曼描述的那種經驗，一個人說出某句話，另一個人理解得比說話者本人更深，收到的資訊多於發出的資訊，這與分工明確的專案協作是兩種東西。它需要運氣，也需要性格：你得真的喜歡看對方思考，而不是隻喜歡對方給出的結論。 - **在重要議題上想改變別人的看法，別在個體層面做說服工作，去找那個群體信任的人。**卡尼曼觀察到的機制是，人的立場跟著信任的人走，跟證據的強弱關係很小。這個判斷有點冷，但它能省下大量無效努力：與其反覆擺資料，不如弄清楚這個群體聽誰的話，然後讓那個人的講故事版本發生變化。 卡尼曼在這場對話裡反覆做同一件事：把人們以為已經想清楚的概念拆開，露出底下的東西。系統一和系統二被拆成“念頭抵達的方式”和“心理努力的成本”，兩個自我被拆成“活著的那個”和“能留下的那個”，解釋被拆成“真相”和“可信的故事”。 拆完之後他沒有重建一套更漂亮的理論。他好幾次直接說：這個問題我解不下去，所以我離開了這個領域。幸福研究是這樣，意義問題也是這樣。一個研究了半輩子人類判斷的人，最終的姿態落在標註上，精確地標出哪些問題他不知道、以及為什麼不知道。 這大概是這場對話最實用的部分。在一個所有人都急著下判斷的環境裡，能清楚說出“我不知道，而且我知道我為什麼不知道”，本身就是一種被嚴重低估的能力。 還有一句他隨口說的話，值得留在最後。《思考，快與慢》裡那兩個系統的劃分，本質上是一個方便說話的工具，它幫人看清了一些東西，也遮蔽了一些東西。卡尼曼自己承認了這一點，然後繼續用這個工具把話說完。會用一個不完美的工具把話說清楚，同時知道這個工具哪裡不牢靠，這大概是所有清晰的思考共同的形狀。