# 達芙妮·科勒：生物醫學與機器學習 > 計算生物學家講如何用機器學習理解基因與疾病，資料驅動的醫學研究面臨哪些機遇與難題。 - 原標題：#93 – Daphne Koller: Biomedicine and Machine Learning - 期數：第 93 期 - 釋出日期：2020-05-05 - 嘉賓 / 主題：達芙妮·科勒 - 網頁版：https://lex.qiaomu.ai/tw/ep/daphne-koller/ - 官方頁面：https://lexfridman.com/daphne-koller/ - 精讀字數：約 9499 字（閱讀約 21 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 12 年前，達芙妮·科勒（Daphne Koller）的父親得了一種自身免疫性疾病，病灶落在肺裡。醫生給出的方案只有一個：潑尼松。她問，能不能做個肺活檢，搞清楚到底是哪一種自身免疫病。醫生說，搞清楚了也沒用，我們只有潑尼松。 她身邊做風溼免疫科的朋友告訴她，潑尼鬆放到今天，FDA 根本不會批。副作用和收益的比例，撐不住。 科勒是斯坦福計算機系教授，和吳恩達一起創辦了 Coursera，2018 年又創辦了 insitro，一家把機器學習用在藥物研發上的公司。她講這個故事，是在解釋 2016 年 8 月那篇宣佈離開 Coursera 的部落格背後發生了什麼。當時她寫：是時候轉向另一個關鍵挑戰了。答案很樸素，**她親眼看到，在一個具體的病房裡，人類可用的工具少得可憐。** 這期訪談錄製於 COVID-19 爆發之前。疫情之後回看，她談到的那些方法論問題，顯得更要緊。 ## 人類真正治癒過的病，非常少 主持人一上來就問了兩個很大的問題：會不會有一天治癒所有已知的重大疾病？會不會找到延長壽命甚至永生的辦法？ 科勒的回答很謹慎。她說"有一天"是很長的時間，她不喜歡做"人類永遠做不到某件事"這類預測，那種斷言帶著傲慢。 但她指出一個常被忽略的事實：**疾病被發現的時候，損傷往往已經造成了。**要在那個階段實現治癒，等於要求人類能把身體的某些部分重新長回原初狀態。這是極其困難的問題。 她還給了一個數量感：人類真正治癒過的病非常少。能提供治療手段的病在不斷增加，但夠得上"治癒"這個定義的，數量並不多。 然後是關於長壽。她說自己未必想追求永生，但所有人大概都想要更長的健康跨度（health span），也就是健康、有活力、感覺像 20 歲的那段時間能更長一些。現實是，人的身體和精神會隨時間衰退，這件事很令人難過。她認為值得追求的目標是：所有人都健康地活到《聖經》裡說的 120 歲。 主持人追問，120 歲、100 歲還是 150 歲才是對的數字。她說這可以爭論，健康跨度延長本身足夠值得。她還補了一句：放到宇宙的尺度上看，這點時間怎麼都算短。 關於衰老與疾病的關係，她的判斷是兩者高度重疊，但不完全等同。有一個眾所周知的現象：除了兒童期疾病，絕大多數疾病的風險從 40 歲左右開始逐年指數上升。這條曲線說明了衰老和疾病之間的關聯。同時，有些衰老過程並不對應任何特定疾病，也有些疾病機制與衰老無關。 細胞層面的"磨損"她已經能列出一串：細胞分裂過程中累積的 DNA 損傷，修復機制沒能完全糾正；錯誤摺疊的蛋白質堆積，形成聚集體；這些又會引發炎症。她相信還有大量機制沒被發現。 主持人拋了一個哲學性的問題：事物會變老、會死亡，恰恰是新事物生長的機制，像一種學習機制，既悲傷又美麗。她回應得很剋制：她不會把永生當作追求，健康跨度才是。 ## 大多數疾病，人類對機制的理解接近零分 科勒給了一個 0 到 100 的刻度，用來說明人類對重大疾病基本機制的理解到了哪一步。她的回答按病種分開。少數疾病，分數可能到了 70 到 80。生物學太複雜，總有新東西冒出來，所以很難給滿分。大多數疾病，分數接近 0。 阿爾茨海默症更靠近 0。有假說，但假說至今沒被充分驗證。而且越來越多人開始懷疑，傳統假說可能沒解釋清楚到底發生了什麼。 精神分裂症，幾乎肯定靠近 0。 2 型糖尿病是個混合體。胰島素抵抗這條線清楚，也被驗證過。但同樣幾乎可以肯定，有大量機制還沒被搞明白。 接著她給了更根本的一層判斷：**阿爾茨海默症、精神分裂症、2 型糖尿病，很可能都不是"一種病"。**它們幾乎肯定是異質的機制集合，只是在臨床上表現成相似的樣子。 乳腺癌就是這樣被重新理解的。過去大家說"你得了乳腺癌"，現在知道那是多種細胞機制，最終都通向失控增殖，但它們並不是同一種病。 這個區分很關鍵。如果一種病實際上是十種病，針對其中一種機制開發出來的藥，在另外九種病人身上當然會失敗。而臨床試驗按臨床表型招募病人，不按分子機制招募。藥未必無效，更可能的情況是，把對 A 有效的藥餵給了 B、C、D 的病人，然後把結果平均掉，宣佈失敗。 她強調，這種"先搞清它其實是幾種病"的理解，必須先於對具體機制的探索。順序不能反。 ## 老鼠不會得阿爾茨海默症 藥物研發裡有一個長期做法，叫動物模型。讓老鼠得上某種病，然後把它治好，再希望這個療法在人身上也管用。 科勒指出這裡的問題：**我們讓老鼠得病的方式，往往和人真正得病的方式毫無關係。**那只是複製了表型，複製了臨床結果，機制完全不同。老鼠不會自然得阿爾茨海默症，不會得糖尿病，不會得動脈粥樣硬化，不會得自閉症或精神分裂症。所以在老鼠身上治好的病，到了人身上就不靈。大部分藥物失敗就失敗在這一步。 她要做的另一種東西叫"培養皿裡的疾病模型"（disease in a dish）。這套方法依賴的技術，出現還不到五到十年。 具體做法是：從任何一個人身上取一個細胞，比如皮膚細胞，把它倒回幹細胞狀態，也就是誘導多能幹細胞（iPS 細胞）。這個細胞帶著你的基因組，然後可以被分化成你需要的細胞型別。你的神經元，你的心肌細胞，你的肝細胞。細胞型別對了，遺傳背景也對了。 如果某種遺傳性的疾病負擔會在那種細胞裡表現出來，你就能直接觀察。這是生病細胞的樣子，那是健康細胞的樣子。然後去試各種干預，看能不能把病態的細胞拉回健康狀態。 把細胞倒回幹細胞這步，靠的是山中因子（Yamanaka factors）。科勒說，在這個發現被做出來之前，幾乎沒有人會預測到它可行。現在這件事已經工業化了，有專門的合同研究組織，你給他們一個人體樣本，他們幫你逆轉成幹細胞，成功率很高。 爭議當然有。有人問，這真的是幹細胞嗎，還是它記得自己原來是什麼細胞，記得曾經接觸過什麼環境因素？科勒承認，這些細胞並非總是完美，有時候會殘留一點記憶，但總體質量相當不錯。 她也留了一個誠實的邊界：治好細胞，不等於治好病人。可轉化性（translatability）的鴻溝依然存在。但對那些由人類遺傳驅動、遺傳驅動細胞表型的疾病，存在一種希望：如果你把疾病起始的那個細胞、那個由遺傳驅動的細胞拉回健康狀態，也許更宏觀的臨床表型也會跟著好轉。 ## 全世界只有五千到一萬個 iPS 細胞 科勒說，據她當時看到的統計，全世界 iPS 細胞的總數大概在 5000 到 10000 之間。算上各學術中心零散的存量可能再多一些，但量級就是這個量級。 這個數字對做機器學習的人是個衝擊。深度學習的經驗是資料規模決定一切。而這裡，最基礎原材料的全球總存量是萬級。你沒法從一百萬人身上生成 iPS 細胞。 科勒認為未必需要。有了 iPS 細胞這個起點之後，還可以用別的工具去擾動它。比如 CRISPR。取一個健康人的細胞，用基因編輯引入一個已知致病的突變，然後把健康細胞和帶突變的細胞一對一對比。其他條件全部固定，只差這一個變數，你就能精確知道這個突變在細胞層面做了什麼。 於是她把策略重點放在更聰明的擾動方式上，而沒有去一味堆高病人樣本的數量。**在一個固定背景上做精確擾動，比在無數個不同背景上做粗略觀察，資訊量更高。** 真要談人與人之間的差異，主要來自基因組本身。你的幹細胞和我的幹細胞不同，因為基因組不同。還有些人的幹細胞就是比別人的更容易分化，原因還不完全清楚。真正有價值的差異，是基因組差異帶來的疾病負擔差異。 疾病負擔可以量化。有個指標叫多基因風險評分（polygenic risk score），把一個人基因組裡所有與某疾病相關的變異加總，算出風險值。對一些研究得比較透的病，風險最高十分位和最低十分位的人之間，風險差可以達到 10 到 12 倍。 10 倍以上的差距，說明遺傳對疾病風險的貢獻是實實在在的，儘管它遠不足以解釋全部。 從機器學習角度看，基因裡有訊號。她認為細胞裡的訊號更強。道理很簡單：原則上你可以說所有訊號都在基因層面，不用看細胞。但當下人類對生物學的理解太有限，直接觀察細胞層面發生的事，比直接看基因序列離真實臨床結果近得多，能學到的東西也多得多。 ## 把軟塌塌的東西變成數字 細胞是軟的、溼的、會動的。機器怎麼讀它。 這十年發生的變化，是測量細胞的能力大幅提升。科勒回憶，她 90 年代末、2000 年代初開始碰生物學的時候，正好是量化測量起步的年代，用微陣列一次測出樣本里全基因組每個基因的表達水平。正是這個能力，讓人類第一次看清癌症有分子亞型。在此之前，大家只知道"你得了乳腺癌"。 現在能力更強，叫單細胞 RNA 測序，可以逐個細胞地測每個基因的表達水平。**本質上你在數轉錄本的數量，這件事把軟塌塌的細胞變成了數字。** 另一個資料來源是顯微鏡，特別是超解析度成像。透過複雜的數字重建，能看到亞細胞結構，甚至看到低於光的衍射極限的東西。 這些資料拿過來之後，機器學習能幹三件事，科勒分得很清楚。 第一種是往回推：看到細胞層面的某種表型，反推哪些基因、哪些通路可能導致它。這是分析式的，依賴已有的生物學知識。 第二種是往前推：如果擾動某個基因，會不會出現類似病人身上看到的表型？如果是，這個基因可能是致病原因。 第三種是她自己做的：把大規模資料整個餵給機器學習，讓它自己找模式。哪些亞型在臨床上相似，在分子層面截然不同？找到之後施加干預，藥物或者 CRISPR，看能不能把病態拉回健康狀態。 第三種路徑的特別之處在於**不那麼依賴假說驅動**。傳統藥物研發先有一個關於機制的猜想，再設計實驗去驗證。這條路先有資料，讓資料告訴你哪裡可能有東西。好處是它有可能找到所有人都在盯著的那幾個靶點之外的東西。 她提到一個讓她自己都覺得酷的東西：類器官（organoid）。用幹細胞培養出來的微型器官模型，有腦類器官、肝類器官、腎類器官。她說這可能是她見過最酷的東西。下一步是把不同類器官連起來，做成多器官系統。現在還很難，但她相信幾年之後會有今天做不出來的疾病模型。 > 五年前，這些幹細胞衍生的模型根本不存在。那時候大家主要在癌細胞上做研究，而癌細胞是絕大多數人類生物學非常糟糕的模型。它本來就是癌，而且在培養皿裡傳代增殖之後，基因組不穩定，會離人類生物學更遠。（達芙妮·科勒） ## 機器學習在這個領域其實還沒起多大作用 科勒對"用機器學習做藥"這件事的描述格外剋制。她說，迄今為止，資料和機器學習在這個領域起的作用並不大。真正需要的那類大規模資料集，一直都不存在，只有零星的碎片。 過去的順序是反的：生物學家用技術手段生產資料，目的是推動科學發現，機器學習是順手用上的第二道工序。有了資料集，那就跑個機器學習，比簡單統計分析強一點。 insitro 把順序倒過來。先問一個問題：要讓機器學習做出強大的預測模型，需要什麼樣的資料？然後反向設計實驗，用生物和化學的手段造出那種資料集。 訪談裡主持人追問，你們是不是把資料當成了首要目標。科勒糾正得乾脆：資料只是手段，終點是解決人類健康的問題。之所以從資料這一頭入手，是因為她相信，越強大的模型越需要足夠規模、足夠質量的資料，否則機器學習根本發揮不出來。 這也是她說為什麼很多優秀的人願意來 insitro。這些做機器學習的人完全可以去賣廣告、做電商、做自動駕駛，錢不會少。他們來是因為想做更有抱負、更能讓人類受益的事。 關於承諾，她的態度很明確：**先交付，再承諾，順序不能反。**她不預測具體能治哪個病。她只列出這類方法更可能奏效的疾病特徵：遺傳基礎強，細胞模型可重複且穩定，疾病相對集中在一種或少數幾種細胞型別裡。如果一個病是全身性的、涉及身體遠端多個細胞型別，把它塞進培養皿就太難了。 她還留了餘地：今天的生物工程師正在不斷做出更好的系統，今天做不了的病，三年後可能就做得了。 ## 十萬人，幾周之內 訪談中途轉到了 Coursera。 起點是 2000 年代末斯坦福內部的一些嘗試。吳恩達搞了 Stanford Engineering Everywhere，把十門斯坦福課程錄下來放到網上。科勒自己主導了另一條路，把課程拆成更小的單元，中間嵌入互動。校方支援這件事，因為覺得這可能提高斯坦福自身的教學質量，走向後來所說的翻轉課堂（flipped classroom）。 所謂翻轉課堂，是把線上內容當作面對面教學的補充：學生課前看影片、做練習，到了課堂上做更深的、常常是小組形式的解題。任何超越"站在講臺上念 75 分鐘"的教學法，準備成本都高出一大截。 2011 年秋天，第一批斯坦福 MOOC 上線。沒做推廣，只有一篇《紐約時報》的報道病毒式傳播。幾周之內，每門課湧進來十萬人以上。 科勒記得她和吳恩達的那次對話。兩個人都覺得，這裡有真實的需求。他們已經是功成名就的學者，可以回實驗室繼續寫論文。如果那樣做，這件事就不會發生。而這件事太重要了，不能不發生。 於是他們花了不少時間討論：做成斯坦福的專案，還是做成營利公司，還是做成非營利。最後選擇了 Coursera 這條路。2012 年初正式開始以公司形式運作。 MOOC 這個縮寫不是他們發明的。科勒說她不太喜歡這個縮寫，但也就這樣了。她順手開了個玩笑：Big Bang 這個名字也沒能準確描述宇宙起源，可也只能這樣了。 ## 短一點，再短一點，五到七分鐘 線上教育這些年，她學到了什麼。 第一條，短就是好。最早的線上教育是 MIT 的 OpenCourseWare，把課堂講座錄下來，一個半小時一節。一個有工作、有三個孩子、還要跑腿辦事的人，根本塞不進這種課程。十五週的學期塞不進去，一個半小時的影片更塞不進去。 所以影片要短。他們一開始做短模組，後來發現 15 分鐘還是太長，最後落到 5 到 7 分鐘。**如果一個人是在等孩子看醫生的隊伍裡，5 到 7 分鐘才是能塞進生活縫隙的長度。** 課程也要短。十五週的課拆成更小的單元，每個單元有一個自然的完成點，讓人有"我快完成一件有意義的事"的感覺。沒做完可以回來接著做第二部分、第三部分。 第二條，壓縮內容有效。講得快，需要的人可以暫停重看，不需要的人不必浪費時間。靈活性和簡短性同樣重要。 第三條，內容中間要有互動。反饋來得越快，人越容易投入。所以在講座裡嵌小測驗、用自動評分，都基於這個直覺。科勒說，這個直覺後來被資料驗證了。 第四條更有意思：他們做過關於性別偏見的實驗。講師是女性時，STEM 課程裡男女學員的比例會發生變化。這類實驗線上做 AB 測試很容易，在校園裡幾乎沒法做。 主持人追問，那是不是意味著大部分課程都能壓到原來的五分之一。科勒的回答很謹慎：不一定。面對面教學裡，人需要時間吸收，需要停頓、反思、練習。MOOC 的做法是先給一小塊內容，然後立刻讓你動手。兩種方式都比"站在講臺上念 75 分鐘"難得多。**講得更好，其實更難。** 她也不認為 MOOC 會取代面對面教學。學習在很多情況下是社會性的。Coursera 上有人自發組成學習小組，即使完全沒必要。資料顯示，有學習小組的人成功率更高。她的類比是：錄製的音樂沒有取代現場音樂會。 繼續教育是另一回事。世界變了。五十年前，讀完大學找份工作，大學學的東西基本能撐一輩子。今天，很多崗位需要的技能在你上大學時還不存在，而你上大學時存在的很多崗位今天已經消失或正在消失。讓大多數人回學校脫產讀書，不現實。所以這塊會越來越多地轉移到線上。 對想入門機器學習的人，她的建議是先開始，別猶豫。基礎數學、統計、程式設計的線上內容足夠多。然後她不建議跳過基礎直接上模型。她見過不少人這樣做，結果是隻能照搬現成模型，既沒法針對手頭問題做調整，也沒法創新；更糟的是，有時候他們的應用根本就是錯的，而他們自己看不出來哪裡有偏差。 再往後，一定要找真實問題動手。工作裡有合適的問題最好，沒有就去 Kaggle。最好找個人一起做，互相挑錯比一個人悶頭學快得多。 ## 我們離一個人類幼兒還差多遠 訪談後半段聊到通用人工智慧。 科勒的判斷很直接：今天的機器學習演算法，在特定問題域裡、在訓練資料足夠多的情況下，是非常出色的模式識別器。把同一個問題稍微變個樣子，它就會徹底卡住。 > 我們離一個人類幼兒的靈活性和適應力還差得很遠。一個幼兒能用同一個大腦、同一套知識庫，在不同情境之間切換，解決不同的問題。（達芙妮·科勒） 她說自己並不特別擔心機器接管宇宙、為了權力開始殺人。她要表達的意思裡，有一部分是懷疑這件事本身是否可能。更主要的理由是，連超級智慧的骨架都還看不見，就著手設計防範措施，太投機了。 但她明確說，我們完全可以被笨得多的系統害死，而且已經被害過。 她舉的例子壓根不是 AI。電網極其複雜，跑金融市場的軟體極其複雜，那些反饋迴路帶來的連鎖反應，已經造成過金融危機這個級別的後果。AI 會讓這個問題更嚴重，可問題的根源在於系統的複雜度和不可理解性，這一點在 AI 之前就存在。 她認為該做兩件事。**一是提高系統的可解釋性。二是設計更好的泛化測試。**你不可能把一輛自動駕駛汽車在每一個城市、每一個村莊、每一種天氣下都測一遍。但如果你在一批條件上訓練，在另外 50 到 100 個差異很大的條件上測試，它都過了，那你才有理由相信，沒測過的那 50 個也許也能過。 另一件該操心的事是技術濫用。她提到，基因編輯和 CRISPR 一旦被用壞，危險程度至少不低於機器學習。用它造出非常惡劣的病毒，完全是可能的。 聊到人類整體趨勢，她的態度是審慎樂觀。資料上看，戰爭在減少，暴力在減少，人權在改善。她也認為大多數人是善意的，善意不等於利他主義，但大多數人不打算害人。她還強調一件事：社會規範可以被設計壞。有心理學實驗，也有現實中的事件，證明人可以在"同輩認可"和"種族滅絕式的暴行"之間建立起正相關。所以社會必須持續維護一套規範，讓做好事和被同輩認可這兩件事綁在一起。她擔心有些社會正在往反方向走。 ## 一個過度自信的神經網路可能殺人 訪談裡有一段關於不確定性的討論，聊的全是工程細節。 科勒說，很多機器學習模型的問題是，它給你一個答案，你不知道這個答案有多可信。這些答案的置信度還往往校準得很差。神經網路最後輸出的 0.8 和 0.9，並不真的對應"前者正確的可能性是後者的多少倍"。 更糟的情況是，**你離訓練資料越遠，網路不只是更容易錯，它還更容易在錯的時候特別自信。** 她給的場景是醫療診斷。你用某一群病人訓練了一個網路。現在來了一個離群病人，訓練集裡找不到相似的人。網路不僅給出完全錯誤的診斷，而且信心爆棚。這會出人命。 自動駕駛同理。你希望網路在看到路中間一坨它不認識的東西時，能說出"我不知道這是什麼"，然後停下來。它自信地碾過去，代價無法承受。 有沒有辦法。有，但都還在研究中。貝葉斯深度學習，結合高斯過程的深度學習，用不同資料子集或不同隨機初始化訓練出來的網路整合。她提到，整合方法在估計置信度這件事上，效果好得出人意料。整個方向仍然開放。 主持人在這裡引了斯圖爾特·羅素（Stuart Russell）的觀點：隨著系統越來越強，讓它們充滿自我懷疑很重要，這是人類保持控制的方式。科勒的回應是，這個方向成立，在人命關天的應用裡尤其成立。她說得具體：你得讓系統能說出"這個資料例項我給不出判斷，因為我從沒見過足夠像它的東西"。 ## 端到端和遷移學習，是她眼裡最漂亮的兩件事 被問到機器學習裡什麼想法最漂亮，她給了兩個。 第一個是端到端訓練。從原始資料出發，一直訓練到最終目標。她補充說，中間當然可以引入為其他任務訓練過的模組，不必是一整塊不可拆的東西，但關鍵是整條鏈路能打通。 第二個是表徵學習。一個為了任務 A 訓練出來的表徵，可以作為一個更快的起點，去解決任務 B。她說，這很像人成為好的學習者的方式。這個想法在機器學習裡相對新，即使用今天的能力來衡量，也仍然被低估了。 她說自己當年其實很驚訝，在資料量足夠大的時候，在一個維度極高的空間裡居然能找到有意義的表徵。早期做機器學習時資料集都很小，那時候她相信，必須有一個約束很強、知識注入很多的搜尋空間，才能得到有意義的結果。在那個年代，這個判斷是對的。 今天仍然開放的問題是：**一個完全不注入先驗知識的方法，能不能成為最終的答案？** 她的觀察是不能。用在影象上的卷積網路結構，和用在語言上的結構不同，和用在語音、用在生物學上的也不同。總有一些洞察要注入到網路結構裡，效能才出得來。會不會有一天出現一臺通用的學習機器，她說不知道。她在意的是那個更具體的問題：總得有一處注入洞察，還是說這件事最終能收斂掉。 ## 在宇宙裡留下一個凹痕 訪談尾聲，主持人問了一個很大的問題：什麼給你的生命意義。 科勒說起 2011 年秋天創辦 Coursera 的時候，正好是喬布斯去世。媒體上到處是他的名言。有一句她一直記得，也和她自己多年的感受對上了：我們人生的目標，應該是在宇宙裡留下一個凹痕。 她說，她希望自己躺在臨終的病床上回看一生時，能指出哪些地方，她讓這個世界比她來的時候好了一點。 她常跟孩子講這件事。她還講了一層：**這個責任，對那些出生在優越環境裡的人更重。**她說自己不算出身鉅富，但成長在一個有教養的家庭，父母愛她、照顧她，她有好的教育機會，從來沒餓過肚子。相對人類中的絕大多數，她屬於受益於先天條件的那一小部分。她的孩子比她更甚。正因如此，把人生用來讓世界變好，才格外重要。 這個目標和她的工作方式之間有一種張力。宏大願景容易滑向對規模的執念，而她選的做法是先交付再承諾，是在一個具體問題上做出真實的結果，把口號留到結果出來之後。她沒在訪談裡專門解釋這層張力，但從她拒絕預測能治哪個病、拒絕說"資料是終點"這兩件事上，看得出來她怎麼處理。 ## 這期訪談裡可以帶走的東西 科勒的路徑有一個清晰的模式。她在每個階段做的，都是反過來問一個問題：**要讓這個方法真正發揮作用，缺的是什麼？** Coursera 時期，缺的是能塞進成年人生活縫隙裡的學習單元，所以她把課拆短、壓縮、加互動。insitro 時期，缺的是能支撐強大預測模型的資料集，所以她反過來設計生物實驗去造資料。兩次的起點都是先找瓶頸，再改造瓶頸所在的那一端，而不是先取一套現成方法，再找地方套上去。 這個思路可以直接遷移。如果你手上的模型效果不好，先別急著換模型，先問資料是不是根本不夠格。如果你覺得某個領域 AI 進展慢，先看這個領域有沒有產生資料的工具。沒有工具就沒有資料，沒有資料就沒有模型。這條鏈子上的順序不能跳。 還有一條來自她對疾病的理解：**如果一個問題的定義本身就是錯的，再強的執行也救不回來。**阿爾茨海默症可能是一堆病的集合，如果按臨床表型招病人做試驗，就等於把多種機制混在一起平均掉。這件事的啟發是，動手之前先確認你解決的是不是同一個問題。 最後是她反覆強調的不確定性。一個自信地給出錯誤答案的系統，比一個會說"我不知道"的系統危險得多。校準、拒答、分佈外檢測，這些在關鍵場景裡是能不能上生產的前提，它們的地位遠在錦上添花的功能之上。 - 評估任何 AI 應用時，先問它的置信度是否經過校準，以及在訓練分佈之外會不會過度自信。如果答案是不會、不知道，那這個系統在關鍵場景裡就不能用。 - 想進入機器學習，別跳過數學、統計、程式設計的基礎。科勒說得很直接：跳過基礎的人只能照搬現成模型，遇到問題不知道怎麼改，甚至不知道自己錯在哪。 - 學完基礎立刻找真實問題練手。工作裡沒有合適的問題，就去 Kaggle。最好找個人一起做，互相挑錯，比一個人悶頭學快得多。 - 如果你在一個新領域做 AI，先畫一張圖：這個領域產生資料的工具是什麼，規模到哪了。工具還不成熟時，真正有價值的投入可能不在模型上，而在造資料的那一端。 - 設計自動化系統時，把"知道自己在什麼情況下不知道"當成必須實現的功能，別把它當成可選項。這是科勒從醫療診斷講到自動駕駛，反覆回到的同一點。 - 接手一個難題之前，先確認它是不是一個問題。把多個機制混在一起當成一個目標來處理，最優的執行也會被平均成失敗。 - 如果你有資源、有教育背景、有時間讀到這裡，科勒那句話值得記下來：出生在優越環境裡的人，責任更重。把這件事當成一個具體的選擇，別讓它停在口號上。