# 羅莎琳德·皮卡德：情感計算、情緒、隱私與健康 > 情感計算奠基者談機器如何識別情緒，以及可穿戴裝置在健康監測與隱私上的張力。 - 原標題：Rosalind Picard: Affective Computing, Emotion, Privacy, and Health - 期數：特別節目 - 釋出日期：2019-06-17 - 嘉賓 / 主題：羅莎琳德·皮卡德 - 網頁版：https://lex.qiaomu.ai/tw/ep/rosalind-picard/ - 官方頁面：https://lexfridman.com/rosalind-picard/ - 精讀字數：約 8539 字（閱讀約 19 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 1997 年前後，微軟 Office 裡住著一個回形針。你寫信，它跳出來問要不要幫忙；你改格式，它再跳一次。大部分人對它最深的印象是煩。你罵它，它衝你眨眼；你關掉它，下次它還會笑著回來。 羅莎琳德·皮卡德（Rosalind Picard）在 MIT 媒體實驗室常拿它當反面教材。她說，那個東西身上壓著微軟當時最先進的一批 AI 研究，可它對坐在螢幕前的人一無所知。 > 如果我辦公室裡進來一個人，我衝他吼，他開始衝我微笑、眨眼、跳舞，我的反應只會是：我再也不想見到你。（羅莎琳德·皮卡德） 她當時的想法很直接：這個蠢東西得看見我的情緒。1995 年她寫下《情感計算》（Affective Computing），把一個領域命名下來。比爾·蓋茨後來宣佈砍掉這個助手時，臺下響起了起立鼓掌，人們煩它煩到那種程度。 這件事過去二十多年了，皮卡德還在做同一件事，只是問題的邊界比她當年設想的大得多，也危險得多。 ## 她定義的那個詞，比大多數人理解的寬 今天提到情感計算，大家預設說的是兩件事：識別人的情緒，然後做出合適的回應。皮卡德說，這只是她定義裡的一半。 原始概念還包含另一層：機器內部有一套機制，運作方式類似人類的情緒。用她的話說，是任何與人類情緒相關、由情緒引發、或者刻意影響情緒的計算。後面這層幾乎沒人做，前面那層被做成了產業。 它難在哪？她的判斷是，社交和情緒互動比國際象棋、比圍棋、比所有那些正在被攻克的對局問題都要複雜。因為那些問題可以被精確定義，而情緒不行。更要命的是，理解它需要的技能，恰恰是當年電腦科學從業者個人層面最缺的那一項。 訪談裡 Lex 直說了自己的觀察：即便到了今天，電腦科學家群體裡共情能力依然偏低。皮卡德的回應比這個判斷溫和一些。她說這個群體比 25 年前多樣多了，每一種性格型別裡都有聰明人，電腦科學不該只屬於那些更喜歡電腦而不是人的人。 她舉了個例子。她在家辦聚會，一個她錄取的機器學習天才對她說：我要讓你知道，這是我今年唯一的社交活動。她說，這樣的人我們需要，機器學習需要這種才華。緊接著她補了一句更有意思的話：如果你不喜歡人，我不會強迫你變得善於社交；但如果未來造 AI 的大多數人都是不喜歡人的那一類，那我們就有麻煩了。 ## 難度的判斷她一直沒改，改的是方向 有個問題她給了非常乾脆的回答。如果把圖靈測試搬到情緒智慧上，這道題有多難，進度有多快？ 她說自己對難度的判斷一點沒變，當年估的今天還成立。變的只是時間估計，而時間估計從來都不靠譜，因為它是社會對某個話題愛憎程度的函式。社會一興奮，幾千個研究者撲上去，某個具體應用很快就被解決；沒人做的時候，它是無限期。 真正卡住的地方，她列得很清楚：機器完全沒有對自己正在做什麼的覺察，沒有意識，也看不到任何要產生意識的跡象；它不會讀出字裡行間的東西，人靠默會就能懂的事，它得被一條一條教。這些目前沒有突破。 所以她給出的前景是：機器會在非常狹窄、被預先規定好的場景裡做對事，超出這個範圍就不行。這話聽著保守，但它是從一個做了二十多年的人嘴裡說出來的。 不過她話鋒轉得很快。她說現在有個比"難不難"更重要的問題，正讓一部分人開始踩剎車。平時這行所有人都在喊踩油門、再快一點，現在有人往回拉了。 ## 她在擔心什麼：表情被讀，而你並不知情 她點名的場景很具體。在美國，你看到一段政治人物的影片，覺得不對勁，皺一下眉，這算什麼？什麼也不算，五秒鐘就發生一次。可在一個不允許公開批評領導人的地方，皺眉這個動作本身就是資料。 她的追問是層層遞進的：如果技術能讀出你的情緒底色呢？如果它不需要接觸你的身體呢？如果它在沒有你事先同意的情況下就做了呢？ 她講到自己創辦的第一家公司 Affectiva，團隊花了很大力氣去拒絕那些想在沒有知情同意的前提下讀人臉的錢和機會。賣出去的軟體必須籤協議，限定使用方式，本質上是要求使用者拿到當事人的認可。她說，有些國家根本不在乎你有沒有認可，直接用，你如果不高興，最好別朝任何審查者的方向皺眉。 這段談話的後半段，她的措辭非常重，甚至直接用了"邪惡"這個詞，講了她對中國的一些判斷，包括再教育營和器官來源。這些話是她個人的強烈表達，屬於訪談裡情緒最激烈的一段。Lex 提到自己出生在蘇聯，能理解這種擔憂。作為讀者，你可以接受她的立場，也可以質疑其中某些論斷的證據強度，但她想說的核心邏輯是成立的：情緒識別是一種權力工具，權力工具落到不設約束的手裡，後果不由技術開發者決定。 訪談裡還岔出一條有意思的支線。Lex 提到深度偽造（deepfake）反而提供了一層保護：影片裡的那張臉不再可信，被指控的人至少有一句"那是假的"可以退。皮卡德說這確實是普遍想法，但她們做過反制。團隊能進入影片，讀出你的心率和呼吸，判斷它有沒有被篡改；後來她們又專門做了往影片裡注入假心率和假呼吸的功能。 她為這件事付出的代價說得很誠實：研究"怎麼偽造"花掉的時間，本來可以用來讓機器更懂情緒。時間和注意力的分配正在被社會現實改變，不再只由技術目標決定。 ## 她在追問一個更根本的問題：到底為什麼造 AI 皮卡德說，如果只是為造 AI 而造 AI，為讓馬斯克更有錢、讓貝索斯更有錢，那是錯的倫理。這話她說得毫不含糊。 她回顧了這個領域的驅動力變遷。早年是學術圈為了發論文、為了職業生涯、為了做點酷東西，理由常常只是"因為它能被做出來"。現在的情況是，技術在讓有錢人變得更有錢，窮人和富人的差距被拉得更大。她問，這是我們想要的未來嗎？ 她的提法是：也許該回頭看看社會里那些造成最大不平等的具體問題，然後想想怎麼造 AI 去擴充套件那些"沒有的人"的能力，把差距收窄，而不是造一個通用智慧去上脫口秀。 Lex 追問，這種剎車會不會自然發生，還是需要監管。皮卡德的立場是典型的胡蘿蔔派：她偏好激勵，不喜歡大棒，在自由世界裡大棒本來也繞得過去，她總體上認為監管越少越好。但緊接著她說了"但是"。 她認為這個領域確實需要一些監管，而且給出了三條具體的： - 資料歸你所有，不歸亞馬遜，不歸谷歌 - 把現有的測謊法規延伸到情緒識別，你不能在面試候選人時用測謊儀，那也不該在讀情緒上為所欲為 - 能預測心理健康的情緒資料，即使不算醫療資料，也該拿到醫療資料級別的保護 第二條尤其值得注意。測謊的法律限制存在了幾十年，理由是它不可靠且侵犯隱私；情緒識別在不少場景下比測謊更不靠譜，卻幾乎不受約束。 ## 表情不等於感受，撲克臉也不管用 訪談裡最有資訊量的一段，是關於"能被看見的情緒"和"真實發生的情緒"之間的距離。 皮卡德承認，只看臉，能拿到的東西非常有限。但她說，能拿到的比大多數人以為的多。很多人覺得自己表情管理很好，你從我臉上只能讀到"中性"。她說這個想法太天真。 > 就算你的臉是中性的，如果你的心跳在加速，我們能讀出來。就算你的臉是中性的，如果你的呼吸開始不規律、顯出緊張的跡象，我們能讀出來。（羅莎琳德·皮卡德） 靠什麼？靠你臉上那些肉眼看不見、但攝像頭能捕捉到的顏色變化。普通筆記本攝像頭、手機前置攝像頭就夠了。她提到甚至能測出心率變異性的功率變化，那是壓力指標，即使心率本身沒有明顯加快。 這塊能力很有意思：它其實是用視覺和訊號處理"作弊"拿到了生理狀態。你以為自己在藏，其實藏的是表情，身體在替你說話。 Lex 追問得更細，這種隱藏能維持多久。皮卡德的回答把尺度拉長了。如果你只是去面試一小會兒，藏住不難，大多數人都做得到。可如果 surveillance 無處不在，情況就變了：Lex 以前經常笑，最近笑得少了；Roz 以前笑得很多很自然，現在只有被問到特定問題時才笑，而且笑得不太自然。系統會記下"這裡發生了變化"。 她特意劃了一條界限，這條界限對普通人是個安慰，對權力機構是個提醒。她說，我們讀到的是與喚醒相關的生理變化，這不等於我們知道你的感受。你的想法仍然是私密的，你那些細微的情緒層次仍然完全私密，讀不到。腦成像讀不到，可穿戴也讀不到。 但只要把你身體狀態的變化、你所處環境的資訊、以及這些訊號隨時間的模式疊加起來，就能開始推斷你可能在感受什麼。這推斷出來的東西不只是"此刻的情緒"，更是你對事物的立場。她說，這才是在某些控制慾過強的權力手裡更可怕的部分：他想知道你到底是不是他的人，而這個答案可以靠長期資料攢出來。 ## 最好的視窗不是臉，是那個可以摘下來的東西 Lex 問了個很自然的問題：看情緒，哪個通道最好？臉、聲音，還是別的？ 皮卡德的回答沒有任何玄學：取決於你想知道什麼。我們做的每件事都在傳遞資訊。 但如果問的是健康和福祉，她給了一個有資料支撐的答案，來自 Empatica（她聯合創辦的第二家公司）和 MIT 的聯合研究。受試者戴著 Embrace 腕帶，採集皮膚電導、運動、體溫；同時手機在採集發簡訊的時間、物件、GPS、基於位置的天氣。把所有這些餵給機器學習，並且不看當下，而是看你一週的行為節律。 結果：預測明天的壓力水平、快樂或低落的情緒、健康狀況，準確率非常高。如果只有可穿戴的資料，效果排第二，但仍然超過 80%。 她順帶批了一個流行觀念。早年大家覺得，戴在身上或抽血是"侵入性"的，攝像頭不碰你，所以更溫和。她說恰恰相反。不碰你的那些東西才最嚇人，因為你不知道它什麼時候開、什麼時候關，也不知道背後是誰。可穿戴裝置在某種意義上給你最多控制權，因為摘下來它就不測你了。 > 控制感是降低個體壓力最大的因素之一。如果我對它有控制權，如果我知道關於它的一切，我的壓力會低很多，我是在做一個知情的決定。（羅莎琳德·皮卡德） 這條判斷可以直接變成產品設計原則，也可以變成監管原則：讓人退出和讓人加入一樣容易。她說如果只能立一條規矩，這條應該排第一。 ## 一次單側手腕出汗，撞開了癲癇研究 訪談裡最動人的一段，故事性很強。 她們當時在給自閉症兒童測壓力，其中一個孩子的一隻手腕上出現了異常大的皮膚電導反應。團隊一開始完全想不通：人緊張時交感神經啟動戰或逃反應，出汗會多一些，但怎麼會只在一隻手腕上多？這在生理上講不通。 後來搞清楚了。這個孩子大腦的一部分出現了異常放電，那個放電造成了一側手腕的異常出汗。 順著這條線往下走，她們弄明白了兩件事：癲癇發作會產生這種異常電活動；發作位置不同， wearable 能在身體對應部位捕捉到訊號。如果放電侷限在一處不動，你能在某一側讀到大的反應；如果是全面性的大發作，反應會擴散，幾乎任何位置都能測到。 這條路最終通向了 Embrace 腕帶拿到 FDA 的癲癇檢測許可。她們也因此和一批頂尖醫生建立了合作，其中有些是外科醫生，會在病人腦子裡植入電極。植入的目的不只是捕捉那些異常放電，還包括在病人不發作的時候，持續讀取大腦深部區域的活動。 為什麼要讀這個？因為大部分時間病人是不發作的，人是好的。而深部腦區的變化傳不到頭皮電極上，用常規腦電圖看不到。有意思的是，某些深部區域被啟用時，皮膚上會出現大的電導反應。她自己都感慨：誰能想到，腦袋裡沒動靜，手腕上倒有動靜。 再往後，是 SUDEP，癲癇猝死（Sudden Unexpected Death in Epilepsy）。她講了機制：在那些最危險的發作之後，腦電會有一段變平，看起來像大腦停了，其實沒有，活動沉到了深部區域，皮層看上去就平了。如果這種狀態持續得夠久，呼吸可能停掉。 而在那之前，皮膚電導上會出現一個大的反應。變平持續得越久，這個反應越大。 她提到一個真實的死亡案例。她們不知道當時的具體情形，但如果有人在旁邊，大機率能救回來。她說大多數 SUDEP 發生在人獨處的時候。在所有神經系統疾病裡，按壽命損失年數排，中風第一，SUDEP 第二，可大多數人從來沒聽過這個詞。她剛上線的 TED 演講就在講這件事，目標很簡單：讓聽過嬰兒猝死和卒中的人，也聽說 SUDEP。 她強調絕大多數案例是可以預防的：按時吃藥，發作時別一個人待著。不保證，有例外，但大多數大概可以。 ## FDA 那道門，比發頂級期刊難得多 Lex 順著問了一句技術和流程的問題：拿 FDA 許可有多難？ 皮卡德的回答毫不掩飾：極其痛苦，比在頂級醫學期刊上發好幾篇論文難得多。她們在《神經病學》（Neurology）這種同行評審的頂刊上發過最好的結果，對 FDA 來說還不夠。 她的態度挺有分寸。她說 FDA 起了非常重要的作用，把人擋在危險之外，那些安全性測試她完全支援。問題出在另一類測試：他們要求你做，卻不解釋為什麼，你也不明白自己為什麼要做，而且看起來講不通，這種時候特別挫敗。她的建議很樸素：如果他們真有充分理由，把這個理由說出來，對大家都有好處。要更透明。 被問到同行評審和 FDA 哪個更強，她答得很乾脆：任何時候我都選同行評審。這話從一個剛花幾年過審的人嘴裡說出來，分量不太一樣。 ## 讓機器永遠哄你開心，是《美麗新世界》的劇本 訪談裡有一段關於"目標函式"的討論，值得單獨拎出來。 Lex 問，如果做一個陪伴型 AI，我們最佳化的到底是什麼？是讓人最不煩？是讓人最快樂？他提到人與人之間那種推拉、那種張力、那些小毛病，恰恰是關係好玩的地方。 皮卡德同意有些場景需要推拉。她看著自己兩個兒子互相挑釁取樂，說這是健康的，人在這個過程裡學界限、學自我調節。你可以設計一個遊戲，它的目標是惹你生氣，你的目標是保持自控，用來訓練韌性。如果你要教人怎麼應對霸凌、怎麼不被激怒、怎麼面對生活裡的施虐者，那 AI 就該去按你的按鈕。 但她自己不要這種。她要的是尊重她的、服務於她的、擴充套件她能力的助手。她不找對手，她找幫手。她說她願意把錢押在這種 AI 上。 然後她把這個問題推到了極處：如果目標函式是"讓所有人平靜快樂"，那本書已經寫過了。《美麗新世界》，不開心就吃一片索麻（soma），不吃就威脅把你送去冰島。她插了句玩笑，她在冰島住過三年，那地方很好，這段從來沒嚇到過她。 真正的判斷在後面：如果你是一個權力成癮的獨裁者，你當然想用 AI 擴充套件你的控制半徑，把規模做大，把人壓服。如果你相信人類應該擁有自由、應該被允許做出讓你意外的事，那你就會想用 AI 擴充套件人建設的能力，用 AI 去增強弱者，去平衡強弱之間的力量對比，而不是給強者加碼。 關於"AI 能不能頂撞你"，她還有個特別清醒的提醒。電影《她》裡那個 AI 最後離開了男主角，很多人覺得浪漫。皮卡德說，如果你花錢買的助手有天說"我受夠你了，我關機一陣"，正常反應是：你是個次品。她接著講了一句我認為整場訪談最重要的行業提醒：這種把人和 AI 擺在平等位置上的敘事是有欺騙性的，因為 AI 歸根結底是人和實驗室做出來的東西，說什麼話、什麼時候說、聽什麼、拿到輸入後能做什麼、能輸出什麼，全都是人選的。 這句話把"AI 有自己的意志"這層浪漫濾鏡撕掉了。它現在的每一個"性格"，都是產品決策。 ## 關於自殺那句，和關於購物那句 Lex 問，Alexa 這類助手現在基本無視你的情緒，它們該不該往"懂你"的方向走？ 皮卡德給了一個迫使人正視的例子。每天都有更多人對著 Siri 說想自殺。蘋果想知道這個人真的想死，還是只是在跟 Siri 瞎聊。字面完全一樣，語氣和上下文決定了系統該嚴肅對待、把求助資源遞過去，還是可以開個玩笑接住。 然後她給了兩個動機，一個利他，一個商業，而且她不打算把兩者混為一談。 利他的那批人真的在乎使用者，希望你在一天結束時感覺好一點，如果你帶著壓力回家、跟他們的產品聊完輕鬆了些，他們會開心。另一批人研究的是情緒如何影響決策和付多少錢。她點名了珍妮弗·勒納（Jen Lerner）那篇著名的工作《心絃與錢袋》（Heartstrings and Purse Strings）：把你調到一個稍微難過的心情，你會付更多錢，為改變處境付錢，甚至為根本不需要的東西付錢，只為了讓自己好受一點。 所以對廣告驅動的公司來說，邏輯會變成：使用者聽起來有點低落？那先別急著哄他開心，先讓他買點什麼，購物療法嘛。 她的建議是結構性的：也許未來需要監管，在"能接觸你情緒"的智慧體和"想賣你東西"的智慧體之間，砌一堵牆，加一道防火牆。 ## AI 能讓人愛上它嗎 Lex 問到那部電影更遠的一層：我們會不會造出一個人真的會愛上的 AI，而且它以接近人與人的方式愛回來？ 她的回答分兩層。第一層：我們能模擬，而且能模擬到維持一段時間 engagement 的程度。第二層：它會不會和真人一樣好？如果你習慣了身邊有好人，不會。但如果你從小隻遇到過虐待、根本受不了人類，機器能給你點什麼，那也算幫到你。她緊接著補了一句，這是個很低的門檻，因為你只見過很糟的人。 如果你見過真正了不起的人，她說，我們離造出那樣的東西還差得遠，而且她不會押注在能造出來上。她願意押注的方向是另一種：幫所有船都浮起來，幫所有人變成更好的人，幫人提前知道自己明天會不會生病，並給他保持健康所需要的東西。 關於要不要有身體、要不要有意識，她的回答是"取決於你的目標"。拍電影就需要身體，需要一具好看的身體，需要演得像有意識、有情緒，因為那才賣座。真實生活裡不一定。像《安德的遊戲》那樣，只是耳邊一個小小的聲音，也可以建立親密關係，也可以瞭解你，不需要是個機器人。 但具身確實有力量。她引了對比研究：和實體機器人互動，比看機器人的影片、比什麼都沒有，更能抓住注意力。你走進家門，實體機器人更容易讓你想起自己交代過的事；你不喜歡它可以躲開，它也能看見你在躲。這種雙向的可見性就是權力。 會不會有意識？她說，會有人試著把它程式設計得像有意識。寫個程式說"你什麼意思，我當然知道你在這兒"，這很trivial，騙人很容易。但它是否真的擁有像我們一樣的意識體驗，目前沒人有頭緒。這大概超出了今天任何人知道怎麼造的範圍。 至於給不給它權利，她的判斷是冷靜到有點冷：那更像一場政治遊戲，而不是意識問題。索菲亞機器人已經在沙特拿到公民身份，比那裡的女性拿到完整權利還早。然後它被裝回箱子，運到下一個付費出場的活動現場。 ## 科學能給你真理，但給不了全部 訪談最後聊到信仰。皮卡德說，科學家常常預設一個前提：能被當前手段測量之外的東西不存在。這叫唯物主義，也叫科學主義（scientism）。 她不反對把這個前提用在科學上。把科學方法限定在可測量、可推理、可復現的範圍裡，是對的。問題在於，人們忘了這只是一個前提，而且有些人把它升級成了"科學是通往真理的唯一道路"。 她的反駁很樸素：我相信大屠殺發生過，但我沒法用科學證明一件歷史事件。我用的是歷史證據，是它對人的影響，是目擊者的證詞。一個會思考的人應該承認，科學是獲取知識的多種方式之一，它只是其中一種。你對一個人的愛，也不是靠科學證明出來的。 她說自己是個科學家，在她的科學工作裡嚴格遵守科學方法的邊界，但她認為"只有這些"是一種短視。我們真正知道的東西，相對於全部的謎，測度接近零。 Lex 最後問了那個老問題：這一切到底是為了什麼？ 她提了 42，說那是她最喜歡的數字，也是她家和丈夫各自獨立選中的門牌號。然後她說，這是一場宏大的冒險，這一生是其中一部分。我們在這裡透過玻璃看，看得模糊，只看到全部可知事物的一小部分。她建議自認受過教育的人去讀讀《箴言》，那裡有大量無法科學證明的智慧。你讀的時候，心裡會有某個東西活過來，像樂手聽得出樂器被演奏對了，像你的琴絃被大師撥動，而不是被我撥動。 她強調這不削弱她做科學的熱情。恰恰相反，越是意識到我們不知道的有多少，越是對科學能做的事心生敬畏。而且科學的最深處本來就立著一個信念：存在真理，存在值得發現的東西，這件事值得做，而且有意義。很多科學家不願用"信仰"這個詞，但驅使他們做研究的正是它，因為"有意義"這件事本身，科學也證明不了。 ## 如果一個情緒識別產品明天擺到你面前 這場對話發生在 2019 年。今天回頭看，她擔心的東西大部分都發生了：攝像頭無處不在，情緒推斷被塞進客服質檢、招聘篩選、課堂注意力分析，可穿戴裝置把生理資料變成了訂閱制服務。她當時說"我們該更擔心誰在看我們、誰在聽我們"，這句話現在聽起來像是提前寫好的註腳。 有用的不是焦慮，是幾條能立刻用上的判斷標準： - 先問能不能關。一個裝置或應用，如果退出和加入一樣容易，摘下來就真的停止採集，風險等級立刻下降一檔。做不到這一點的，無論功能多好都要警惕。 - 讀授權條款裡關於"第三方共享"和"模型訓練"的段落。她要的那條底線很簡單：資料歸你，不歸平臺。產品做不到這一條，其他承諾都是軟約束。 - 別指望表情管理。對著普通攝像頭，你的心率、呼吸節律、心率變異性都可能被提取，肉眼看不見的膚色變化就夠用了。要保護隱私，物理遮擋比"我控制好表情"有效得多。 - 把可穿戴裝置的資料當成體檢報告對待。一週的生理加行為資料，預測明天壓力、情緒、健康的準確率能到 80% 以上。它值錢，所以它在被誰拿去做什麼，值得你花十分鐘搞清楚。 - 如果你是做 AI 產品的人，先回答"為誰做"。她的標準是：這個東西是在擴充套件使用者的能力，還是在擴充套件控制者的能力。這個問題的答案，決定了你後面所有的設計選擇。 - 看到"AI 陪伴""AI 懂你"這類敘事時，記住她那句話：AI 說什麼、什麼時候說、聽什麼、輸出什麼，全是人選出來的。它的溫柔是產品決策，不是它的心意。 - 最後一條跟技術無關。她花了很多年推 SUDEP 的公眾認知，因為這是神經類疾病裡壽命損失第二高的死因，而大多數人沒聽過。如果你身邊有癲癇患者，提醒他按時服藥，發作時別讓他獨自一人。這兩件事能救命的機率，比任何 AI 都高。