# 吳恩達：深度學習、教育與真實世界的 AI > AI 學者談深度學習的實踐方法、線上教育如何普及 AI 知識，以及技術落地中的現實挑戰。 - 原標題：#73 – Andrew Ng: Deep Learning, Education, and Real-World AI - 期數：第 73 期 - 釋出日期：2020-02-20 - 嘉賓 / 主題：吳恩達 - 網頁版：https://lex.qiaomu.ai/tw/ep/andrew-ng/ - 官方頁面：https://lexfridman.com/andrew-ng/ - 精讀字數：約 12810 字（閱讀約 28 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 凌晨兩點，吳恩達一個人待在他的小錄音棚裡，調整羅技攝像頭的角度，挪一下 Wacom 手寫板的位置，確認領夾麥克風開著。錄到三點收工。 那時候 Coursera 的前身課程已經放出去了，十萬人線上等著看後面的內容，而影片其實還沒拍完。他白天見朋友吃晚飯，腦子裡會冒出一個選項：現在回家睡覺，還是去辦公室錄課？讓他拐進辦公室的，是那十萬張想象裡的臉。 這件事他後來在 Lex Fridman 的播客裡講了，語氣很平淡，像在說一件很久以前的家務活。正是這種平淡洩露了一件事：這個人做教育的驅動力，和絕大多數講課的人不在一個座標上。 ## 他最初的職業理想，是消滅影印機旁邊那個崗位 吳恩達在香港和新加坡長大，五六歲開始寫程式碼，學的是 BASIC。方法是把書上的程式一行行敲進電腦，敲完就能玩一個極簡陋的射擊遊戲。他的第一反應與"我好厲害"無關，他想的是敲程式碼這件事能換來好玩的遊戲。 真正讓他把技術當成一輩子事情的那個瞬間，發生在高中。他在新加坡一家公司實習，每天大量影印、做行政雜事，整個實習的高光時刻是可以操作碎紙機。十幾歲的他在心裡想：這麼多影印，如果能寫個軟體讓機器自己幹，我是不是就可以去幹點別的了。 > 我後來很多工作都圍繞自動化這個主題。包括我今天理解機器學習的方式，我們擅長寫學習演算法，去自動化人能做的工作。（吳恩達） 這個動機非常樸素，也解釋了他後來一系列看似跳躍的選擇。在斯坦福教書時，他每年給四百名學生講同一門機器學習課，每年改進同樣的影片，在同一個教室講同樣的笑話。到第三年他受不了了，把課程錄下來，這樣他就有時間去和學生建立更深的關係。 錄課談不上慈善，它更像自動化思維的一次延伸。一門課一份勞動，覆蓋四百人。變成影片之後，一份勞動覆蓋一百萬人。 ## 一百萬人在等的內容，其實還沒有拍 線上課程上線的時候，註冊人數很快突破十萬，錄影進度遠遠落後。團隊只能一邊上線一邊往後補錄。吳恩達說他給整個團隊定下的第一原則只有一句話：**做對學習者最有利的事**。 聽起來像貼在牆上的標語，但它真的擋掉了很多誘惑。老師錄課的時候，很容易想講講自己的研究，讓學生多引用幾篇論文。這條原則把這個念頭摁死了。他自己也承認，每次走進錄音棚想的問題只有一個：這句話怎麼設計，才能把概念講得最清楚。 同樣的原則也讓他們敢刪掉一些"看起來很棒"的功能。他曾經做過一個多人同時登入的產品：兩個人可以同時看著螢幕上的同一段影片，各自輸入賬號密碼，系統知道你們是一組，給你倆都記學習進度。他覺得這簡直是天才設計，電腦終於能知道你倆在一起學習。 他們把這個功能推給了舊金山一所學校，二十幾個使用者。結果是零人使用。 > 原來線上學習的人就是想自己一個人看影片，能暫停、能回退、能按自己的速度播放，而不是組隊。（吳恩達） 這個失敗後來被反覆引用，價值在於它揭示的成本結構：一個紙面上完美、實現上也不難、但違背真實使用習慣的功能，做出來的淨效果等於零。你的工程能力沒有浪費在難的事情上，反而浪費在正確的事情上。 ## 他為什麼相信程式設計會變成識字率 採訪裡吳恩達丟擲了一個類比，值得單獨拿出來看。歷史上只有一小部分人類識字，也很容易論證"沒必要人人會讀寫"，你找幾個人讀給你聽不就行了，寫暢銷書的那幾個作者寫就行了。真正發生的事是，當識字率普及之後，人與人之間的溝通頻寬被整體拉高了。你可以為一個人寫作，比如發一封郵件。 在他看來，今天的程式設計還處在只有少數人識字的階段。**會寫程式碼的人，主要在服務一個規模遠遠大於他們的受眾。**如果大部分人都能用某種方式寫點程式，人和計算機之間的溝通也會被整體拉高。 他甚至舉了一個特別具體的例子：街邊小店老闆這周搞促銷，想改一下店裡的電視展示，現在他做不到，將來他應該能做到。 順著這個邏輯，他說了一個更有意思的判斷。過去普通職業的人學程式設計缺少一個硬理由，因為寫軟體和他的日常沒關係。資料科學和機器學習的出現改變了這一點。**日常工作裡有具體資料分析需求的人，數量可能比有具體軟體開發需求的人還多。** 一個小店的銷售資料、客戶資料，如果老闆自己能分析，價值立刻就出來了。一個招聘專員、一個會計、一個在工廠車間裡的人，只要能掌握一點資料分析能力，當天就能改進工作。所以他認為，不少非技術職業的人，資料科學比軟體工程更適合作為第一段入門路。 ## 為什麼他站在臺上還是拿白板筆 Lex 問了一個很輕但很有意思的問題：全世界都在用 PPT，你為什麼還用白板和馬克筆。 答案分兩層。從技術上說，講數學的時候，白板允許你把一個公式一點一點搭起來，邊講邊寫，理解度更高。缺點也明顯，寫字慢，寫長句子會要命。 第二層是缺點反轉成的優點。正因為慢，它強迫你把所有東西壓縮到最基礎的那幾條。**白板的低頻寬，本身就是一種極簡主義的篩選機制。** > 一場好演講靠的是把幾個簡單的想法講得足夠清楚，內容多反而是負擔。（吳恩達） 這一點很難做到。資訊密度高是本能，做減法需要判斷力。 這裡有一種做事態度的呼應。他在編輯課程影片時經常對團隊說，每一句話都要為自己的生命而戰，如果這一分鐘不能帶來更好的學習體驗，就刪掉它。考慮到這些影片會被幾百萬人看到，一分鐘的改進會被放大成幾十萬分鐘的收益。 ## 那個飛直升機的學生，和一年沒有結果的定位難題 Pieter Abbeel 是吳恩達的第一個博士生，後來成了世界上最重要的機器人和強化學習研究者之一。吳恩達提起他時的態度是明確的感激：自己長期的職業成就，建立在早期一些工作的基礎上，而 Abbeel 在這些工作裡至關重要。 很多人看過斯坦福那臺倒飛直升機的影片。它出現在 2008 年前後，是強化學習極少數真正跑在物理世界裡的應用之一，演示效果驚人。吳恩達想說的是絕大多數人沒看到的部分。 最難的環節落在定位上，和強化學習演算法關係不大。直升機要倒飛，你怎麼知道自己在哪？ 一開始用 GPS。問題來了：飛機倒過來的時候，GPS 天線朝下，看不到衛星。他們試過裝兩個 GPS，一個朝上一個朝下，翻轉時切換。不行，因為快速翻轉時朝下的那個來不及同步。 Morgan Quigley 又去搞了一套非常複雜的專用硬體，想用特殊配置來解讀 GPS 訊號。整整搞了一年，沒成。 > 我記得 Peter 和我坐在辦公室裡，看著最新一輪失敗的記錄，兩個人只能說，見鬼，現在怎麼辦。（吳恩達） 最後的方案來自 Adam Coates 的關鍵貢獻：把攝像頭放在地面上，用地面視角來解算直升機的位置。定位問題交給外部系統之後，團隊才終於能專心做強化學習和控制，讓飛機真的飛起來。 這段故事的價值和勵志無關。它說明了一個工程上的常識：**當你卡住很久的時候，真正卡住你的往往是你以為在研究之外的那個環節。**如果定位不解決，再好的強化學習演算法也沒有施展空間。一年時間砸在 GPS 硬體上，換來的教訓是"這條路走不通"，而這個教訓本身也是必要成本。 Lex 追問：那時候強化學習的理論論文很多，實際應用極少，是什麼驅動你去啃這種又髒又難的活。 吳恩達的回答透出一種很清晰的自我認知。他講了一個故事：很多年前他和一位數學教授聊天，問對方為什麼做現在做的事。那位教授眼裡有光，說自己是在為宇宙發現真理和美。 > 我覺得他做的事很了不起，我也非常尊重這樣的人。但我自己更有動力的時候，是能看見一條線，把我和團隊做的工作連到"它真的幫到了人"。（吳恩達） 他說世界需要各種型別的人，自己只是其中一種。這句話背後的取捨是真的：**他願意為了物理世界裡一個能跑起來的系統，去付出一年的失敗。** ## 餐巾紙上的那場推演，和一條畫到右上角的曲線 Google Brain 之前的那段歷史，吳恩達把它分成"我們搞錯的"和"我們搞對的"。 搞錯的是無監督學習的重要性。2005 年前後，NIPS 會議結束後，他和 Geoff Hinton 在會場外的餐廳吃飯，Hinton 拿起一張餐巾紙開始畫論證。 論證大致是這樣：人腦有大約 10 的 14 次方個突觸連線。人的壽命是 10 的 9 次方秒量級。如果每個突觸權重只是一個位元的引數，那麼你這輩子需要學習的資訊量是 10 的 14 次方位。除以 10 的 9 次方秒，你每秒要學 10 的 5 次方位。而吳恩達當時有個一歲的女兒。 > 我自認是個很有愛的父親，但我是不可能每秒給她 25 個標籤的。（吳恩達） 因此絕大部分知識只能來自沒有標籤的海量資料，監督學習撐不起這個資訊量。這個論證在當年極有說服力，一大批人押注無監督學習，包括 Google Brain 早期的大量投入。 搞對的是規模。Adam Coates 在斯坦福做了一組實驗，畫出一張圖，橫軸是模型和資料的規模，縱軸是效能。曲線一直往右上角走，規模越大，效果越好。吳恩達說，就是這一張圖給了他信心，讓他和 Sebastian Thrun 一起向 Google 提案，後來成了 Google Brain。 當時這個想法是有爭議的。一些資深的朋友專程來勸他：這不像新架構，你就這麼一路把規模堆上去，這是很糟糕的職業選擇。 > 如果你想做出突破，有時你必須有信念，在它變得流行之前就去做。（吳恩達） ## 規模這條曲線，今天還準嗎 Lex 把這場老爭論接到了今天。現在有一派人說，模型和資料已經夠大了，重心應該轉向提升學習效率、設計更好的學習機制。 吳恩達的回答是"兩者都重要"，然後加了一個關鍵限定詞：取決於問題。 有些資料集上，我們已經接近貝葉斯誤差，或者已經超過人類水平，那裡存在理論天花板，堆資料不會有用。但還有大量問題，離人類水平很遠，也離可達的最低誤差很遠。在這些地方，**更大的資料加現有的神經網路，不需要新架構，就足以繼續往前走。** 他也點了一個常被忽略的事實。GPT-2 和 BERT 這類突破裡，規模是故事的一大部分，但人們很少談資料的來源和質量。那些訓練資料本身就帶某種弱監督，是從網際網路上精心篩選和利用的，這部分工程貢獻在論文裡往往一行帶過。 ## 一百個缺陷樣本里，有十個標錯了 這可能是整場對話裡最接地氣的一段。吳恩達說，我們今天的工具鏈裡，程式碼版本控制這類東西已經成熟，資料管理卻極其不成熟。他回憶起早年用郵件互傳 C++ 檔案的年代，那時候還沒什麼版本控制。 然後他講了製造業客戶的真實情況。 做視覺檢測時，他們把塑膠件拿給一個檢查員看。檢查員很有主見："這明顯是缺陷，絕對不能放行。"同一個零件拿給另一個檢查員，對方也一樣篤定："這是很小的瑕疵，不用管。"更麻煩的是，同一個零件早上給同一個人看，他說沒問題，下午再給他看，他同樣自信地說這明顯是缺陷。 > 如果一個人隔幾個小時都不能和自己保持一致，那這個樣本應該怎麼標？（吳恩達） 網際網路大公司的處理方式是取平均，十億使用者產生的資料，噪聲會被稀釋。製造業沒有這個條件。**你可能總共只有一百個缺陷樣本，其中十個標錯了，誤差就是 10%。** 這類問題的解法不在演算法裡，在流程裡：誰來標、多個標註者怎麼仲裁、一個人前後不一致怎麼處理、需要投入多少人力去清洗。這些工作在學術論文裡幾乎看不到。 他也把這個道理用在了教學上。在斯坦福，他越來越鼓勵學生自己做期末專案，自己去找問題、自己去弄資料，而不是下載別人整理好的乾淨資料集。後者容易出結果，前者難得多，但你會在過程中撞上真實世界的全部麻煩。 ## 三塊拼圖：教人、幫企業、造公司 吳恩達當時同時在做三件事。 **DeepLearning.AI** 負責教育，讓人進入這個領域並做得更好。**Landing AI** 幫傳統企業把 AI 真正做進業務裡。**AI Fund** 是一個創業工作室，自己搭團隊、自己配創始人，從零開始把公司造出來。拿錢去投別人的專案屬於另一種生意，這裡不做。 關於教育這一塊，他講了深度學習專項課程的設計。官方時長十六週，但可以自己掌握節奏，有人一個月就學完了。先修要求低得有點出人意料：需要基礎程式設計能力（作業用 Python），數學只需要高中數學水平，會矩陣乘法就夠。他刻意讓課程不依賴微積分，會微積分當然更好，直覺會更強。 課程內容從最基礎的單元開始，一個 logistic 單元怎麼堆成多層網路，不同的啟用函式，怎麼訓練。他特別自豪的是課裡教了大量實踐性的 know-how：過擬合了怎麼辦，什麼情況下值得去收集更多資料，什麼情況下完全沒必要。 > 到今天還有一些工程師，會花六個月去收集更多資料，因為他覺得資料總是有價值的。其實他本來可以早點做幾個測試，發現對這個具體問題，多收資料根本解決不了問題。（吳恩達） 這六個月本該用來改架構、換思路。 ## 除錯機器學習程式，和除錯普通程式完全是兩回事 吳恩達打了個他很喜歡的比方。學程式設計要學語法，但更重要的能力是把這些程式碼行組織成連貫的東西：什麼該封裝成函式，什麼不該，怎麼設計抽象。這些框架性的判斷比語法更能決定一個程式設計師的效率。 他回憶在卡內基梅隆讀本科時，有朋友除錯 C++ 程式碼的方式是一行一行刪，直到語法錯誤消失。這種行為在普通程式設計裡很笨，但如果換成機器學習，情況就變了。**你沒法用二分查詢，沒法打斷點單步跟蹤。你面對的問題是"它為什麼還不 work"，以及"我能不能預期它最終會 work"。** 能回答這類問題的人，和回答不了的人，做同一件事的速度差距是十倍甚至一百倍。這個差距和數學水平關係不大，取決於一套系統性的思考框架：現在該改架構，還是該加資料，還是該加正則化，還是該換最佳化演算法，還是該換資料型別。 他把深度學習的難點也歸到類似的結構上。數學之所以難，很難指出具體難在哪一位，是加法、進位還是乘法？難在很多概念是疊起來的，你漏掉一個，後面所有依賴它的東西你都接不住。所以專項課程的設計思路是儘量把每個概念拆到能被理解的最小單元，讓你爬到高階內容時，腳下的臺階是實的。 ## 強化學習最能點燃人，但它不是今天最能幹活的東西 Lex 問了一個教學上的觀察：很多人對深度學習的"啊哈時刻"，是被強化學習點燃的。一個網路什麼都不知道，從零開始探索世界，然後學會東西，這個畫面極具感染力。 吳恩達同意，而且說自己也在用。他在斯坦福的課裡還教強化學習，那是他深愛的領域。但緊接著他講了一個很坦誠的取捨：**如果要教學生今天最有用的技術，他會壓縮強化學習佔用的課時。** 因為它對今天的實際產出貢獻有限。 他描述了一個場景：一群資深機器學習研究者坐在一起，有人問，誰能舉出第一個真正部署在生產環境裡的強化學習應用？在場的人湊不出幾個好例子。除了打遊戲和少數幾個場景，真實跑起來的案例非常少。 > 如果你考慮它在我們做的所有事情裡佔多大比重，至少到今天，除了玩遊戲之外，能說得出口的例子並不多。（吳恩達） 這裡有一個教學上的張力：最能激發熱情的工具，未必是最該花時間掌握的工具。他給出的解法是把強化學習當成講清楚"神經網路能從零學起"這個道理的載體，但主課時的重心仍然放在監督學習的基礎和真實資料集上。 他還補了一層更普適的提醒。就算在深度學習內部，也不該只有深度學習。他自己團隊解決製造業問題時，會坐下來看 PCA 的殘差，會用到機率圖模型。這些方法在產業裡的實際影響巨大，學術圈的討論熱度卻低得多。 > 有些日子我們用神經網路，有些日子我們用 PCA。工具是一個組合，這話說出來不夠性感。（吳恩達） 如果所有人都只學一樣東西，那是件悲哀的事。多樣性才能讓你為手上的問題找到對的工具。 ## 把圖片轉 90 度，然後讓網路猜你轉了多少 談到深度學習裡最美妙的想法，吳恩達沒有選規模，選了無監督學習，具體說是自監督學習這一支。 他舉了個例子。從網際網路上抓一大堆沒有標籤的圖片，把每張圖隨機旋轉 0 度、90 度、180 度或 270 度，然後訓練一個監督網路去預測它被轉了多少度。旋轉是你自己做的，標籤免費，可以無限生成。**用造出來的標籤訓練網路，再把學到的表徵遷移到別的任務上，效果出奇地好。** 同樣的思路有很多變體。Jigsaw 是把圖片切成九宮格打亂，讓網路預測原始排列，九張牌的全排列有三十六萬多種。word2vec 是給一句話挖掉一個詞，讓網路預測缺失的詞。OpenAI、Facebook、Google Brain、DeepMind 都在這個方向上做工作。 吳恩達對這個方向的判斷相當剋制。他認為自監督只是一塊拼圖，而且這塊拼圖正在開始產生實際效果，可能在計算機視覺和影片領域先跑出來。他提到自己十年前就興奮過的稀疏編碼、獨立成分分析，都屬於同一個思想譜系，只是後來被監督學習的效果吸引走了注意力。 > 如果我的工作只是做學術研究，有無限預算，不用考慮短期影響，只看長期，我會把所有時間都花在無監督學習上。（吳恩達） ## 刷牙不需要做決定，學習也不該需要 Lex 問了一個具體到日常的問題：如果給學習深度學習的人排一個每日計劃，你會怎麼建議。 吳恩達的答案是習慣和規律性，而且他用了一個很生活化的機制來解釋為什麼習慣有效。 他團隊每週三發《The Batch》newsletter，讀者知道週三有這回事，就會在週三花點時間看看本週的進展。他自己則固定每個週六和週日拿出一段時間讀書或學習。 > 我不會在週六早上醒來的第一件事是決定"我今天想不想讀書"。這就是我要做的事，沒有那個決策環節。（吳恩達） 他用刷牙打比方。刷牙兩分鐘本身挺煩的，但因為它是習慣，不佔認知負荷。如果每天早上都要決定刷不刷，那才是真的累。他甚至每天吃一樣的東西，理由也是少做一個決定。 Lex 補充了自己彈吉他的經驗：每天五分鐘，少得可笑，但堅持一兩年之後，你在某些地方的水平會好到不像話。 吳恩達把這個邏輯推到了讀論文上。**讀論文的力量不在讀一篇，在於每週讀幾篇、讀一年。**一年下來一百篇，你確實會懂很多。反過來，靠幾次通宵衝刺，你最多能撐幾次，撐不出複利。 ## 手寫筆記為什麼比打字記住得多 他還講了一個自己一直在用的學習技巧：手寫筆記。 他最近在 Coursera 上修了一門臨床試驗的課，方法是拿出 Moleskine 小本子，坐在桌前，邊聽邊記。 背後的機制他解釋得很清楚。手寫慢，這是缺點，也是關鍵。因為你寫不了那麼快，所以你沒法逐字記錄，必須把聽到的內容壓縮成更少的詞。這個壓縮過程強迫你對含義做更深一層的加工，而深度加工帶來的是長期記憶。打字快，人就會傾向於逐字轉錄，看起來記全了，留存反而更差。 > 打字總比什麼都不做強，上課完全不記筆記當然最差。但手寫和打字的對比裡，手寫通常記得更牢。（吳恩達） 這個道理和他對白板的偏愛出自同一處：**頻寬限制不總是敵人，它經常是幫你做減法的朋友。** ## 職業生涯裡，公司門口的 Logo 是最不重要的一件事 關於要不要讀博、去大廠還是去創業，吳恩達給的框架是"多條路都行"。 如果被前五十的專案錄取，那是很好的經歷。如果在頂級團隊拿到一份工作，那也是很好的經歷。但假如目標是成為頂級大學的教授，博士學位就是必須的。假如目標是創業做技術，直接去做公司也是好選擇。 真正有價值的是他後面這段。他說，影響你體驗的因素，公司選哪家、學界還是業界，權重其實不高。**權重最高的是你每天互動的那十個人、那三十個人是誰。** > 我們都是有社會性的動物，會越來越像身邊的人。如果你和很棒的人一起工作，你會學得更快。（吳恩達） 所以他給求職者的建議非常具體：拿到 offer 之後，問清楚你的經理是誰、同事是誰、你每天要和誰說話。如果一家公司拒絕告訴你，說"我們有輪崗制度，進來再定"，這是個令人擔憂的回答。因為他可能被塞進一個做著不 exciting 的工作的團隊，而每天走進哪棟大樓，一點都不重要。 他也承認這是個很難的搜尋問題，和找對的朋友、找結婚物件是同一種難。但正因為難，才更該在關鍵節點上多問幾句。 順帶一提，他在斯坦福的 CS230 課上專門做過一期一小時長的職業建議講座，包括求職過程中的具體方法，影片是公開的。 ## 創業工作室在賭什麼：把"從零到一"拆成可複製的流程 AI Fund 做的是 startup studio，創業工作室，從零開始造公司：有時帶著已有的想法去找創始人，有時和創始人一起把想法做出來。 這個模式要回答的核心問題是：能不能把建立公司這件事流程化，提高成功率。 吳恩達舉了幾個他們反覆打磨的環節。要打多少個客戶電話才算完成客戶驗證？技術能不能做出來？後面這條尤其麻煩，因為他們做的很多業務需要一到兩年前的機器學習演算法。**一個演算法在論文裡 work，和它在生產環境裡 work，中間隔著巨大的鴻溝**，而這條鴻溝在學術文獻裡幾乎沒被描述過。還有領域知識：教育、醫療、製造，每個行業的門道都要現學。 更根本的價值在於對抗孤獨。創業對絕大多數人而言是一件極其孤獨的事。什麼時候該做 B2B 銷售、除了買廣告還有什麼更便宜的營銷方式、招第一個工程 VP 的篩選標準是什麼，這些決策單拎出來都能改變公司的命運。有一個生態系統在旁邊，至少在關鍵節點上有人能一起過一遍。 他也講了他們拒絕掉的東西。曾經有一個想法，商業模型沒問題，收入預測也沒問題，如果做成，結果是讓很多人看更多某一類窄眾影片。他看了之後說，我不想做這個。 > 不管是建公司、做企業裡的專案，還是做個人專案，每個人都該想清楚自己想在世界上留下什麼樣的不同。（吳恩達） ## 工廠裡的 AI Lex 問，一家公司要邁出第一步，從人眼檢查變成攝像頭加演算法，早期那段路通常怎麼走。 吳恩達說第一個動作永遠是做小。他見過的失敗案例裡，起步太大導致的，比起步太小導致的多得多。 他講了一個具體場景。工廠車間裡的光照條件會變，燈開了、燈關了，模型的表現就跟著變。還有一次，一家工廠著火燒掉了一部分，重建之後,原來訓練集裡的環境全變了。他自己補充了一個更好笑的例子：工廠外面有棵樹擋住了窗戶，後來樹被砍了，窗戶的光照進來，模型就懵了。 這類問題在學術資料集里根本不會出現。你在一個乾淨的測試集上跑出很高的準確率，部署到車間，環境一變，效能就掉下去。**訓練分佈和測試分佈出現顯著差異時該怎麼處理，整個領域都還很不擅長。**學術界有域適應、遷移學習這些方向，但離"能用"還有距離。 他還提醒了一個容易被忽略的比例問題。在一個完整的軟體系統裡，機器學習模型的程式碼行數可能只佔 5%，甚至更少。剩下 95% 是軟體工程：怎麼讓它穩定、怎麼讓它可維護、怎麼和現有系統對接。這部分工作不性感，但它是從 notebook 走到產線的必經之路。 > 我聽過太多次完全一樣的對話。搞機器學習的人說，我的演算法在測試集上表現很好。業務方說，謝謝你，但你的模型很爛，它不 work。（吳恩達） 然後雙方就卡住了。一邊說我在測試集上很好，一邊說生產上不行，誰也說服不了誰，因為兩個人說的根本不是同一件事。 自動化一個崗位，可能要重新設計十個崗位 吳恩達把機器學習稱作"打了激素的自動化"。這個說法背後有一層常被低估的連帶效應。 工廠裡有很多道工序，視覺檢測只是其中一道。假設你把這一道自動化了，模型判斷這個零件是缺陷品，然後呢？接下來該由誰做什麼？送去返修，還是報廢，還是讓人再複核一遍？ **自動化一道工序，往往需要重新設計它周圍的很多道工序。**原來檢查員看完之後直接進入下一環，現在中間多了一個演算法輸出，整個流程要重新編排。 這裡還有組織和人的問題。演算法上線之後，原來做檢查的那些人的工作變了，你得花時間去解釋、去培訓、去處理牴觸。這些事不在任何一篇論文裡，但它們決定專案能不能真正跑起來。 他還點出一個更隱蔽的差異。在百度帶語音團隊的時候，如果語音識別系統掛了，會發生什麼？會響警報，然後像他這樣的負責人可以指著二十個工程師說，你們去把它修好。工廠裡不會有二十個機器學習工程師待命。系統掛了，你指望車間裡的人現場 debug 嗎？ 所以維護、審計、故障響應，這些大廠視為基礎設施的東西，在傳統行業裡全都要重新設計。他說這個領域連術語都還沒統一，因為大家都在邊做邊發明。 ## 第一個內部客戶是語音團隊，不是廣告團隊 關於大公司怎麼把 AI 裝進去，他給的方法論只有一句話：從小處開始。 Google Brain 成立的時候爭議很大。很多人的判斷是，深度學習之前被研究過，沒 work，你為什麼還要做。在這種氛圍下，吳恩達找的第一個內部客戶是 Google 的語音團隊。那不是一個最賺錢的專案，比不上網頁搜尋和廣告，但它是一個可以被驗證的場景。團隊幫語音團隊做出了更準的識別系統。 第二個客戶是 Google 地圖。他們用計算機視覺從街景圖片裡識別門牌號，讓地圖上的房屋定位更準。這直接提升了資料質量。 這兩個成功之後，他才去找廣告團隊做那場最嚴肅的對話。 > 早期的這些小專案，一方面幫團隊贏得了信任，另一方面也幫團隊真正學會了這些技術能做什麼。（吳恩達） 他甚至記得第一批 GPU 伺服器的樣子：一臺塞在某個同事工位底下的伺服器。就是這臺機器教會了他們一個重要問題：多個使用者怎麼共享一組 GPU。這在當時完全不是顯然的答案。這些從髒活裡長出來的經驗，後來支撐了更大規模的部署。 他把這套方法寫成了公開的《AI Transformation Playbook》，也在 Coursera 上講過企業轉型的長期路徑。核心還是那句：**第一步永遠是做小，做出一個能證明價值的案例，讓漣漪自己擴散出去。** ## 13 萬億美元，大部分落在軟體業之外 吳恩達把 AI 定義為通用技術，會改造每一個行業。目前已經被改造得比較徹底的是軟體和網際網路。頭部幾家大公司之外的軟體公司，機器學習能力基本都有了，或者正在補齊。 但把視線移出軟體業，製造業、農業、醫療、物流、交通，機會多到幾乎沒人做。 他引用麥肯錫的估算：AI 可能帶來 13 萬億美元的全球經濟增長。作為參照，美國 GDP 是 19 萬億美元。也有機構估算 16 萬億。具體數字是哪個不重要，重要的是結構：**這裡面很大一部分影響會落在軟體業之外。** 這也解釋了他為什麼把大量精力放在 Landing AI。製造業的視覺檢測是一個典型例子：今天還有大量工人站在產線旁邊，用肉眼檢查手機零件上有沒有劃痕、凹痕、瑕疵。換成攝像頭拍照、深度學習判斷，良率、質量、吞吐可以同時提升。 而他反覆強調的一點是，這些場景裡的實際麻煩，和你在論文裡讀到的完全不是一回事。資料量小，環境一直在變，魯棒性要求高。**能站在這個位置上工作，意味著你在一堆人還沒意識到問題存在的時候，就已經在處理它了。** ## 人類級別的智慧，他願意賭，但不敢估時間 訪談的後半段，Lex 把話題拉到了更遠的地方。他說，你做的大部分工作是應用型的 AI，目標是把某個具體流程自動化。但 AI 還有另一條脈絡，從圖靈開始，做的是人類級別甚至超人類的智慧。你自己有沒有這樣的夢想？ 吳恩達的回答很乾脆：他希望人類能造出 AGI。至於是一百年、五百年還是五千年，他說自己估不出來。 關於存在性風險，他給了一個很有意思的回應。他說自己確實擔心人類的長期命運，也會想這些問題。然後他講了一件舊事：有一次演講，他說自己擔心火星上的人口過剩。後來有人剪了個影片，質問他說，Andrew，你怎麼能這麼冷血，火星上那麼多孩子在死去。他在播客裡對著未來的觀眾道了個歉，說自己當然在乎那些孩子，只是今天不知道該怎麼有效地為這件事工作。 > 我確實擔心這些問題，只是要等到某一天它才變得可以行動。今天我還不知道能做什麼。（吳恩達） 這個態度看起來像迴避，背後其實是一套很清晰的工作哲學：**把注意力放在今天能被推動的地方。**他並不否認遠期風險的存在，只是認為在還沒有可行手段的時候，把大量精力投進去，產出的主要是討論，進展很少。 接著他把話說得更直接了一些。他認為圍繞 AI 對齊、回形針問題的那些討論，很大程度上分散了對當下更難的問題的注意力。 他舉了自動駕駛的例子。很多人以為自動駕駛最大的倫理難題是電車難題，要在撞誰之間做選擇。他說，你自己開車的時候，一輩子遇到過幾次這種道德困境？自動駕駛汽車碰到這個問題的頻率，大概和你開車時差不多。真正的難題是：**前面路上橫著一輛白色大卡車，正確做法是剎車，而系統沒剎住，撞了上去。**把這個解決掉，比討論極端倫理場景有價值得多。 他列了自己真正擔心的問題。 偏見是其中之一。他也擔心財富不平等。網際網路有一個天然的效應，是加速權力的集中，因為資料可以被集中，算力可以被集中。這個行業有強烈的贏者通吃特徵。他拿 Uber 和 Lyft 對計程車行業的衝擊舉例，說這種模式正在一個接一個地複製到其他行業。 結果是巨大的財富被創造出來，但怎麼保證它被公平地分享？被替代的崗位怎麼辦？**教育是解決方案的一部分，但可能還不夠，我們需要比教育更多的東西。** 他還提到 AI 被用於各種不正當目的的可能性。 > 我擔心有些團隊，也許是無意地，在遙遠的未來問題上製造大量噪音，反而忽略了那些實質上更難的問題。（吳恩達） 他甚至還原了一個場景：監管者找上門說，你的產品正在搞砸一些事情，請修一下，而修這些事情會影響收入。這時候跟監管者聊"我們承諾不會透過這個介面毀滅人類"，顯然輕鬆得多。可真正難的，是那些具體、無聊、影響巨大的問題。 ## 那些被白板筆擋住的，和那些被攝像頭拍到的 回頭看這場對話，會發現吳恩達的所有選擇都指向同一個方向：**把抽象的智慧，落到一個能被驗證的具體場景裡。** 直升機飛不起來，關鍵障礙落在定位上。解法不在演算法裡，在地上放幾個攝像頭。工廠的模型不準，原因也簡單：外面的樹被砍了、燈被關了、一個零件被兩個人標成了兩個答案。深度學習的課能不能教會人，取決於有沒有把梯度下降這種基礎講到不需要微積分也能懂。 連他判斷一個人的職業選擇，用的都是同一個標準。名氣無用，學界和業界之分也無用，真正要緊的是你每天一起吃飯、一起開會、一起扯皮的那十個人是誰。 Lex 最後問了兩個問題：有沒有遺憾，有沒有特別驕傲或幸福的時刻。 關於遺憾，他說自己犯過太多錯，幾乎每次搞明白一件事，都會想，為什麼五年前、十年前沒想到。有時候讀到一本書，會想如果十年前讀到，人生會完全不同。有一次他去查，發現那本書在當年根本還沒寫出來。 > 我們總在發現那些事後看起來特別顯然的東西，但發現它需要的時間，永遠比我期望的長。（吳恩達） 關於幸福，他給了兩個答案。第一個是他的女兒 Nelva，他說永遠覺得陪她的時間不夠。第二個是幫別人。 > 我覺得生命的意義是幫別人實現他們的夢想，同時讓整個人類變得更有能力，推動世界往前走。我最幸福的時刻，是別人給了我一點好運氣，讓我能在他們通往夢想的路上幫上一點忙。（吳恩達） 這句話從一個凌晨兩點還在錄音棚裡反覆重錄同一段講解的人嘴裡說出來，不太像客套。 他在節目最後留給聽眾的那句是這樣的：問問你自己，如果你手上正在做的事，成功到超乎你最瘋狂的想象，你是否顯著地幫助了其他人？如果不是，那就繼續找別的事做。否則你沒有活出自己的全部潛力。 - **把學習變成不需要決策的固定動作。**選一個不會被打斷的時段，比如每週日上午，固定下來。關鍵在時長之外的機制：不給自己"今天要不要學"這個選項。每天五分鐘，一年後會有你想象不到的積累。 - **入門深度學習別死磕數學。**會矩陣乘法、會一點 Python 就能開始，深度學習專項課程刻意不要求微積分。真正拉開人與人差距的，是判斷"現在該加資料還是該改架構"的能力，這個能力只能從小專案裡長出來。 - **挑專案時優先選自己找資料的那種。**下載乾淨資料集能讓你快速出結果，代價是你會錯過真實世界的全部麻煩：標註衝突、環境漂移、樣本只有一百個。這些麻煩才是工業界真正付錢買的能力。 - **筆記用手寫。**寫不快是優點，它逼你把聽到的內容壓縮成自己的話，壓縮過程本身產生長期記憶。打字容易變成逐字轉錄，看起來記全了，留存更差。同理，講東西時能用白板就別用滿屏的 PPT。 - **選工作時先問人，再問公司。**拿到 offer 後明確問：我的經理是誰，同事是誰，每天和誰協作。如果對方說"輪崗，進來再定"，把這當成一個負面訊號。公司門口的 logo 對你的成長影響很小，身邊那十個人的影響很大。 - **在公司裡推 AI，第一個專案一定要小。**找一個人家真正疼、又能驗證的具體場景，做成一個案例，讓結果自己去說服下一個團隊。起步太大是失敗的主要原因，起步太小從來不是。 - **評估一項新技術的落地價值，別隻按熱度判斷。**問一句：除了打遊戲和演示，你見過幾個真正跑在生產裡的例子？如果當場湊不出三個，那它對今天的你可能還不是最該投入時間的方向。 - **把注意力放在今天能推動的問題上。**在還沒有可行手段的時候，投入產出比最高的往往是很近的事：訓練資料裡的標註衝突、部署環境的穩定性、被自動化影響的那批人接下來做什麼。遠期的宏大風險可以記著，但別讓它擠掉眼前的活。