# 山姆·奧特曼：OpenAI、GPT-5、Sora、董事會風波、埃隆·馬斯克、伊利亞、權力與 AGI > OpenAI 執行長山姆·奧特曼談 GPT-5 與 Sora 的進展、董事會解僱風波、與馬斯克和伊利亞的分歧及 AGI 與權力。 - 原標題：#419 – Sam Altman: OpenAI, GPT-5, Sora, Board Saga, Elon Musk, Ilya, Power & AGI - 期數：第 419 期 - 釋出日期：2024-03-18 - 嘉賓 / 主題：山姆·奧特曼 - 網頁版：https://lex.qiaomu.ai/tw/ep/sam-altman-2/ - 官方頁面：https://lexfridman.com/sam-altman-2/ - 精讀字數：約 8440 字（閱讀約 19 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 2023年11月17日，星期五下午，山姆·奧特曼（Sam Altman）被自己公司的董事會解僱了。四天半之後，他回來了。他說那是他一生中最痛苦的職業經歷：混亂、羞恥、令人不安。整個週末他幾乎沒睡、沒吃，卻保持著一種奇怪的充沛精力。他說那是戰時腎上腺素教給他的東西。 幾個月後，他在 Lex Fridman 的播客裡覆盤了整件事，中間說了一句很平靜的話： > 通往 AGI 的道路應該是一場巨大的權力鬥爭。我預期它會是這樣。（山姆·奧特曼） 他用的詞是"預期"。這個詞的分量比"擔心"重得多。在奧特曼的框架裡，權力鬥爭會在這條路上必然出現，他自己經歷的那一場，只是提前預演。 ## 四天半里發生了什麼 星期五下午董事會宣佈解僱。他說自己拿不到什麼解釋，只能接受，然後很快走完了一段困惑和憤怒，開始想下一步做什麼。他發現自己其實挺興奮：他一直最喜歡的部分就是和研究團隊一起工作，那就去做一個專注的 AGI 研究小組好了。 到星期五晚上，公司的執行團隊找到他，說要打這場仗。他去睡覺，心情居然還不錯。 星期六早上，兩位董事會成員打電話來，說他們並不想製造這種動盪，問他願不願意回來。他第一反應是拒絕，想了一會兒又覺得，自己在乎這裡的人、合夥人、股東，於是開始談條件。 後面一段時間最難受。整個團隊一邊要穩住 OpenAI，一邊被外面的人挖角，一邊不斷被告知"快好了，再等一會兒"。 星期天晚上，董事會任命了一位新的臨時 CEO。他說那是整個事件的最低點。 但整個週末，主導他情緒的是愛，不是恨。他的手機被訊息轟炸，有每天一起工作的同事，也有十年沒聯絡過的人。他把這形容成提前參加自己的葬禮，聽別人念悼詞。 > 除了星期天晚上那一個瞬間，我不會把自己的情緒形容為憤怒或仇恨。那個週末讓我感到痛苦，但主導情緒是愛。（山姆·奧特曼） 風波之後有一個多月，他形容自己處於一種遊離狀態，每天渾渾噩噩，情緒很低。有一天早上醒來，他想清楚了一件事：這件事太糟了，他可以選擇永遠把自己當成受害者，也可以選擇說這是我這輩子能接觸到的最重要的工作，然後回到裡面去。 ## 被改變的信任 Lex 問他，這件事有沒有讓他變得更難信任別人。他答得很直接：有。 > 我一直是個極度信任別人的人。我的人生哲學是別去擔心那些偏執的東西，別去操心邊界情況，你會在小事上吃點虧，換來的是可以放下防備地活著。（山姆·奧特曼） 他說這次被完全打了個措手不及，改變了他對"預設信任"的看法，也改變了他為壞情況做預案的習慣。他特別強調，他不擔心自己變得憤世嫉俗，那和他的性格差得太遠，他擔心的是自己不再預設信任別人。 這個變化值得多想一層。開發 AGI 的人，是應該更信任人，還是更不信任人？信任意味著容易被騙，不信任意味著容易把世界看成威脅的集合。兩種模式都可能出大問題。 ## 董事會到底壞在哪 非營利組織的董事會有一個特點：除非你另外立規矩，它基本只對自己負責，不向任何人交代。奧特曼說，他們本來希望 OpenAI 的董事會能對全世界負責，但這在實際操作裡很難。 舊董事會在一年裡從九個人縮到六個人，然後卡在"加誰"這件事上談不攏。成員普遍缺乏董事會經驗。這兩點加起來，就是一顆定時炸彈的配方。 新加入的成員裡，拉里·薩默斯（Larry Summers）其實是舊董事會自己提的人選，佈雷特·泰勒（Brett Taylor）則是奧特曼早先就推薦過的。選人的過程，按他的說法，是在戰場上完成的，沒有時間設計嚴謹流程。 > 那是你在戰場上做的決定，你沒有時間去設計一套嚴格的流程。（山姆·奧特曼） 後來他們定下了新的選人標準。泰勒提了一個說法，奧特曼很喜歡：董事會成員要成組招，不要一個一個招。 他還講了一個關於"看什麼"的判斷。有些崗位他完全不管履歷，只看斜率，也就是這個人的成長速度。董事會不一樣。 > 對董事會成員，我更在意的是 Y 軸截距。履歷和經驗是很難被替代的東西。（山姆·奧特曼） 還有一段關於米拉·穆拉蒂（Mira Murati）的評價很值得抄下來。他說人們通常透過危機時刻認識一個領導者，但他真正看重的，是一個人在"某個無聊的星期二早上 9 點 46 分"是什麼樣子。 > 一個人怎麼出現在一場會議裡，他做的決定質量如何。這才是關鍵。（山姆·奧特曼） 危機中的表現是一次抽樣，日常的幾百次表現才是分佈。 ## 伊利亞看到了什麼 關於伊利亞·蘇茨克維爾（Ilya Sutskever），網上有一個流傳很廣的說法：他在董事會風波里扮演了關鍵角色，是因為他"看到了某種東西"，某種讓他極度擔憂的東西。 Lex 用玩笑的方式問：他被關在秘密核設施裡嗎？奧特曼說沒有，普通秘密設施也沒有，非秘密核設施也沒有。 正經的回答是：伊利亞沒有看到 AGI，沒有人看到過，他們還沒有造出來。但他確實是過去幾年裡，奧特曼花時間最多去討論"這意味著什麼""怎麼才能做對"的人之一。 > 伊利亞沒有看到 AGI，但就他為確保我們做對這件事投入的思考和擔憂而言，他對人類有貢獻。（山姆·奧特曼） 奧特曼說伊利亞一直處在某種靈魂探索裡，而且是很好的那種。他還講了一個細節：最近一次晚宴上，伊利亞在跟一隻小狗玩，整個人處在一種很傻的狀態裡，非常可愛。他說那不是世界最常見到的伊利亞那一面。 ## 馬斯克為什麼離開 關於埃隆·馬斯克（Elon Musk）起訴 OpenAI，奧特曼說他不清楚對方真正的動機是什麼。他能做的是回顧歷史。 OpenAI 起步的時候，只是想做一個研究實驗室，完全不知道這項技術會走向哪裡。那是語言模型還不是大事的年代，沒有 API，沒有賣聊天機器人訪問權的想法，也沒有產品化的打算。 > 面對很多全新的東西，你只能在黑暗裡摸索，做一些假設，而其中大部分後來被證明是錯的。（山姆·奧特曼） 後來事情清楚了：他們需要做很多不一樣的事，也需要多得多的錢。於是他們給結構打補丁，再打一次，再打一次，最後弄出一個"至少可以說看起來很扎眼"的東西。他說如果能帶著今天的答案回到過去，他會做得完全不同，但當時沒有那份答案。 至於馬斯克離開的原因，奧特曼的說法是：馬斯克認為 OpenAI 會失敗，想要完全的控制權來扭轉局面；他多次希望把 OpenAI 變成一個由他控制的營利公司，或者乾脆併入特斯拉；而他們不想這麼做。 > 埃隆選擇離開，這沒關係。（山姆·奧特曼） 他還回應了"Open"這個詞。如果重來一次，他會換個名字。他認為 OpenAI 最重要的部分之一，是把強大的技術免費放到人們手裡，作為公共品；免費版本不做廣告，不做其他變現。至於開源與否，他的態度是"有些該開源，有些不該"，而這已經變成了一條宗教式的戰線，中間地帶很難存在。 馬斯克說過一句"改名叫 CloseAI 我就撤訴"。奧特曼的評論是，這句話本身就說明了這場訴訟在他心裡有多嚴肅，也是件令人吃驚的事。他還提到，Grok 在被人指出言行不一之前沒有開源過任何東西，隨後就宣佈要開源。所以在他看來，這件事的核心並不是開源與否。 > 我覺得這整件事對一個建造者來說不太體面。我尊重埃隆是我們這個時代最偉大的建造者之一。（山姆·奧特曼） 他說自己想念過去的那個埃隆，而這句話引來了大量"這就是我的感受"的私信。他不希望雙方陷入攻擊，希望多年之後能有一種友好的關係。 對創業者，他給了一條很具體的建議：不要學他們的路徑。任何想先做非營利、之後再掛一個營利實體的創業公司，他都會強烈勸阻。 ## Sora 到底懂不懂物理 Lex 問 Sora 的世界模型，和 GPT-4 相比誰更懂世界。奧特曼的切入點是遮擋。 他看 Sora 生成的影片，一個人走到某個東西前面，把它擋住幾秒，再走過去，那個東西還在原地。這一幕讓他覺得"這相當不錯"。還有些例子，底層物理在序列裡的很多步上都表現得很好。 但 Lex 說遮擋意味著模型掌握了三維物理，奧特曼退了一步： > 我會說它做了一些事情，把遮擋處理得很好。但要說它有一個很好的底層三維世界模型，這個說法就有點勉強了。（山姆·奧特曼） 訓練資料這一塊，Sora 用的是視覺 patch，跟語言模型的 token 對應。技術報告裡寫的是網際網路規模的資料。Lex 追問裡面有多少人類標註，奧特曼的回答是"我們用了很多人類資料"，然後被追問"很多是多少"，他說： > 給這些模型標註資料的人超過三個。（山姆·奧特曼） 這是個玩笑，但方向是對的：絕大部分是自監督，人工的部分存在，但不是主體。 目前公開的失敗案例也很有意思，比如貓在影片裡不同的地方隨機多長出一條腿。奧特曼對這類問題的回答是"兩邊都對"：這套方法的某種根本侷限確實存在，同時規模變大之後它也會變好。 關於版權，他的表態比較明確。真正的問題在於，創造有價值資料的人是否應該得到某種補償方式，他認為答案是應該。 > 假設我是一個藝術家。第一，我希望能夠選擇退出"用我的風格生成藝術"這件事。第二，如果我的風格被用來生成藝術，我希望有一個與之關聯的經濟模型。（山姆·奧特曼） 攝影術出現的時候藝術家也很恐慌，後來攝影變成了新的藝術形式，很多人靠拍照賺了錢。他不認為這是最後一次這種變化。 關於 AI 會取代多少工作，他給了一個更好用的框架：不要問 AI 能取代多少崗位，要問 AI 在多長的時間尺度上能完成多少任務。五秒的任務、五分鐘的任務、五小時的任務、五天的任務，分別有多少能被 AI 做掉。他認為這個問題比"取代多少崗位"重要得多，因為這是一把會在越來越長的時間尺度、越來越複雜的任務上起作用的工具，它讓人在更高的抽象層次上工作。 ## GPT-4 已經"很差" Lex 說 GPT-4 是歷史性的成就。奧特曼的回答是：我覺得它挺爛的。 他的邏輯是這樣：GPT-3 出來的時候大家驚歎不已，現在回頭看 GPT-3，會覺得它完全沒法用。他預期 5 和 4 之間的差距，會和 4 和 3 之間的差距一樣大。 > 我們的工作是活在未來幾年，並且記住我們現在手裡的工具，回頭看時會顯得挺糟糕。這才是讓未來變好的方式。（山姆·奧特曼） 那 GPT-4 現在最好的地方是什麼？他說是頭腦風暴夥伴。給一個東西命名，換個角度看一個問題，不確定該怎麼辦的時候找人聊，這個場景裡能看到一點了不起的東西的微光。 另一個微光是長週期任務。把一個多步驟的問題拆開，執行其中一些步驟，聯網搜尋，寫程式碼，再把結果拼起來。他說這件事成功的頻率不高，但成功的時候非常神奇。 他特別強調，ChatGPT 那個轉折點，很大程度上來自介面、後訓練和產品，而不只是基礎模型本身。RLHF 這類後訓練工作在算力上只是一小層，但極其重要。 關於釋出策略，他講了一段很實在的話。他們選擇"迭代式釋出"，從 GPT-1 一路講到 GPT-4，而不是關起門來一路做到 GPT-5。理由有兩個：AI 和意外不該放在一起；世界、人們、機構需要時間去適應和思考。 > 我們的目標不是給世界投放震撼性的更新，恰恰相反。（山姆·奧特曼） 但既然外界仍然感覺像是跳躍式的，那說明他們可能還是沒做夠。他甚至說，也許應該考慮用不同的方式釋出 GPT-5。 關於 GPT-5 什麼時候來，他給的答案是"我不知道"，然後補了一句：今年會釋出一個很棒的新模型，只是不確定叫什麼名字。在談到一個可能叫 GPT-5 的東西之前，還有很多重要的事情要先發。 ## 上下文、記憶，和一條比爾·蓋茨的舊事 從 8K 到 128K 上下文，多數人多數時候用不滿。奧特曼說，如果往遙遠的未來想，上下文會到幾十億，你會把所有資訊、所有歷史都喂進去，它越來越瞭解你，那會很棒。 他講了一段比爾·蓋茨談早期計算機記憶體的往事，具體數字他記不準，可能是 64K，可能是 640K，其中大部分還要用來做螢幕緩衝。蓋茨當時無法想象世界有一天需要千兆位元組，甚至萬億位元組的記憶體。技術的指數曲線就是這樣，你總會用得上，用上之後就不想回去了。 記憶力功能目前還在早期探索。他想要的是一個越來越瞭解他、對他越來越有用的系統。Lex 拿去年十一月的事開玩笑，說 GPT 應該記住他那段時間經歷的一切。奧特曼的回答其實挺認真： > 我不只是希望它記住那件事。我希望它把那件事的教訓整合進去，在我未來遇到類似情況時提醒我該注意什麼。（山姆·奧特曼） 隱私那一塊，他給的答案很簡單：使用者選擇權。任何他想從自己的 AI 記憶裡抹掉的東西，都應該能抹掉。想什麼都不記也行。 ## 算力是未來的貨幣 網上流傳他說要募 7 萬億美元。他說自己從沒發過這種推文，只是後來有人造了這個傳言，他跟著玩了一下梗。 但底下的判斷是認真的。 > 我認為算力會成為未來的貨幣，也許會成為世界上最珍貴的大宗商品。（山姆·奧特曼） 他用手機晶片市場來對比。全球 80 億人，假設 60 億到 70 億人有手機，每兩年換一次，那麼每年大概有 30 億顆手機 SoC 的需求。你造 300 億顆，也賣不出十倍的手機數量，因為大多數人只有一部手機。 算力不遵守這個邏輯。智慧更像能源：唯一有意義的說法是"在價格 X 上，世界會使用這麼多算力；在價格 Y 上，世界會使用這麼多算力"。便宜的時候，他會讓它整天讀自己的郵件、給出建議、順便試著攻克癌症；貴的時候，可能只用它來攻克癌症。 難的地方在哪？能源最難，建資料中心難，供應鏈難，造出足夠多的晶片也難。他押注的能源方向是核聚變，認為 Helion 做得最好，同時也很高興看到現在有核聚變的競賽。核裂變他也支援，認為這個行業停滯下來很可惜，而停滯的原因，按他的說法，是大眾的集體恐慌。 他對 AI 的擔憂裡有一部分和這個同源。 > 有些事會在 AI 上戲劇性地出錯。我不知道我最終被槍擊的機率是多少，但它不是零。（山姆·奧特曼） 他說的"戲劇性風險"，是指那些適合做電影高潮的風險。空氣汙染殺死的人比核反應堆多得多，但人們更害怕住在核反應堆旁邊，而不是燃煤電廠旁邊。我們被這類風險牽動的程度，遠遠超過那些長期緩慢累積的風險。 ## 做一個更好的搜尋引擎，這件事他覺得無聊 Google 靠搜尋統治了資訊入口二十年。OpenAI 會不會去接這件事？他的回答是：如果問題只是"我們能不能做一個比 Google 更好的搜尋引擎"，那這件事我覺得無聊。 Google 給你十條藍色連結，前面還有十三條廣告，這是一種找資訊的方式。真正讓他興奮的，是可能有某種更好的方式幫人找到、處理、綜合資訊。"我們怎麼比 Google 更好地給你十條排名網頁"，這個問題本身沒什麼意思。 他承認 LLM 加搜尋這個交叉點目前還沒有人做對，他很想去做。至於廣告： > 從審美上我就不太喜歡廣告。廣告在網際網路上必須存在過，為了把它啟動起來，但它是一個階段性的行業。（山姆·奧特曼） 他喜歡人們為 ChatGPT 付費，並且知道答案不會被廣告主影響。他去用 Twitter、Facebook、Google 這些靠廣告支撐的優質產品時，自己並不享受那種關係，而且他覺得在有 AI 的世界裡這件事會變得更糟，不會更好。 ## 把模型該有什麼行為寫清楚 Google 的 Gemini 1.5 出過一輪爭議，生成了黑人納粹、黑人開國元勳之類的影象。Lex 問，如果公司內部有一層人手在調整模型的安全性和危害性，那這層人手就會把某種意識形態傾向帶進產品裡，怎麼處理？ 奧特曼的回答裡有一個他覺得是好主意的做法：把模型期望的行為寫出來，公開，接受外界意見。說明這個模型應該怎麼表現，也解釋邊界情況。這樣一來，當模型的表現不符合預期時，至少能清楚區分兩件事：這是公司該修的 bug，還是它就是按意圖這麼做的，那你就該去爭論那條政策。 他強調，寫成像"廣告原則"那種高層的、模糊的表述不管用。要寫得具體到"當你要求它做 X 時，它應該用 Y 方式回答"。 > 我接受模型可以有多種行為方式，但你應該能說出"這是原則，這是它在那種情況下的表現"。（山姆·奧特曼） 關於舊金山的意識形態氛圍，他說 OpenAI 遇到的麻煩比其他公司少很多。他的解釋是每家都有自己的意識形態，OpenAI 的那一套是關於 AGI 的信仰，這套東西把別的擠出去了。 至於國家行為體對 OpenAI 的滲透嘗試，他只說了一句"他們在試"，然後拒絕透露更多。 ## 你自己值得被信任嗎 Lex 問了一個很尖的問題：第一個造出 AGI 的人會得到極大的權力，你信任自己擁有這麼大的權力嗎？ 奧特曼的回答值得完整讀一遍。他說他仍然相信，任何一個人都不應該對 OpenAI 或對 AGI 擁有完全的控制權，需要一套健壯的治理體系。他承認，從去年那場風波可以看出一種治理失靈：董事會在法律上有權解僱他，但在實踐中這件事沒真正實現。 他沒有迴避這個矛盾。他說自己最初沒有抵抗，"這是董事會的意志，即使我認為這是個很糟的決定"；後來他確實抵抗了，也能解釋為什麼那時抵抗是合理的。但這讓他沒法直視著你說"董事會可以隨時解僱我"。 > 我繼續不希望對 OpenAI 擁有超級投票權。我從來沒有過，也從來沒想要過。經歷這一切之後，我仍然不想要。（山姆·奧特曼） 他說他知道會有人（比如馬克·安德森）指控他是在推動監管俘獲，但他願意被誤解，因為讓政府制定道路規則這件事本身很重要。 關於"AI 本身失控"這個存在性風險，他的表態是： > 就我目前的看法，那不是我最擔心的事。曾經有些時候我更擔心它，未來也許還會再有。但現在它不是我的頭號擔憂。（山姆·奧特曼） 他補充說，這並不意味著不需要做這件事，這件事很難，公司裡有很棒的人在研究。但有一群非常聰明、動機良好的 AI 安全研究者，長期卡在"模型逃出沙盒"這一個問題上，他認為進展有限，而這個問題把其他同樣重大的 AI 風險擠出了討論空間。 ## AGI 這個詞本身有問題 Lex 問他什麼時候會造出 AGI。他說他以前很喜歡猜，後來意識到這個問題本身很差，因為每個人用的定義差得太遠。討論"什麼時候能造出能做 X 的系統"會比討論"什麼時候跨過這個模糊的里程碑"更有意義。 > 在本十年結束之前，我們會有相當有能力的系統，我們會看著它說，"哇，這真的很了不起"。也可能比這更早一些。（山姆·奧特曼） 有一個判斷標準他反覆提到：會不會讓全球經濟感覺不一樣。GPT-4 釋出之後，全球經濟對他來說沒有任何實質變化，所以那還不算。他個人認可的一個標誌是，系統能顯著提高世界上科學發現的速度，因為他相信大部分真實的經濟增長來自科學和技術進步。 Lex 設想了一個場景：你獨自在一個房間裡，面前是第一個 AGI，你會問它什麼？奧特曼說他真的認真想過這個問題，答案出乎意料地難。他不認為第一個 AGI 能回答"給我講講物理學的萬有理論"。但如果它可以回答是或否，那他會先問：這樣的理論存在嗎？還有，宇宙裡有沒有其他外星文明？ 更好的一種可能是，系統會說：你想知道這個物理問題的答案，我需要你造出這臺機器，做這五次測量，然後把資料給我。 關於模擬假說，Sora 的出現讓他的信念提高了一些，但幅度不大，這件事排不進他的前五位證據。他覺得更有意思的是"平方根"那個類比：平方根這個函式簡單到可以講給小孩聽，當你問"負一的平方根是什麼"，你就掉進了另一個現實。存在很多這樣的小運算子，能把人推進一個完全不同的知識領域。 他還有一個我很喜歡的觀察。你和你曾祖父母的基因差別很小，但你能做的事差別極大。這種差距來自所有人一起搭起來的這層腳手架，跟生物演化關係不大。沒有一個人能獨自造出 iPhone，沒有一個人能獨自發現全部科學，但你可以使用它。 > 那是我們共同創造的，這件事讓我對未來充滿希望。（山姆·奧特曼） ## 最後一個八卦 Lex 花了不小篇幅問他的推文為什麼不寫大寫字母，還認真懷疑是不是 Shift 鍵壞了。奧特曼說他從小就是個很"線上"的孩子，那時候在即時通訊上聊天就從不打大寫，很多網際網路小孩都這樣。寫公司的戰略備忘錄、寫正式的長訊息，他都會老老實實大寫。他說他不理解為什麼有人在意這件事，並補了一句：我真的不覺得我是唯一一個不在推文裡用大寫字母的人。 Lex 的回答是：你是唯一一個不在推文裡用大寫字母的公司 CEO。 ## 可以帶走的幾條 這場訪談表面上是在聊一家公司的八卦，底下給出的是一套關於權力、結構、和時間尺度的判斷。下面幾條可以直接拿來用： - 評估一個人之前，先想清楚你要的是斜率還是 Y 軸截距。需要快速成長的崗位看斜率，管治理的人看履歷。混用標準，兩邊都會選錯。 - 招董事會成員按"一組人"來配，不要按"一個人"來挑。治理需要的是能力組合，不是單個強人。 - 設計任何組織時問一句：這個位置上的人，實際上對誰負責。答案是"只對自己負責"的時候，再好的善意也擋不住壓力下的錯誤決定。 - 判斷 AI 對工作的影響，把問題從"取代多少崗位"換成"在多長的時間尺度上能完成多少任務"。五秒、五分鐘、五小時、五天，分別是多少。拿這個框架去數一遍自己崗位的任務清單，風險敞口就出來了。 - 用 GPT 這類模型時，把"它現在做不好的事"記下來，不只記它做得好的事。這些失敗案例是你判斷下一代能力、也是你決定要不要下注的依據。 - 做產品的人提前想清楚：使用者資料被用來訓練時，你給的選擇權到底是什麼。奧特曼給的答案是極簡的使用者控制，不是隱私政策裡的模糊表述。 - 面對技術風險，主動區分"適合當電影高潮的風險"和"緩慢累積的風險"。前者會佔掉全部注意力，後者才更可能真的殺死更多人。 - 不要先做非營利組織再掛營利實體。奧特曼的原話是，他會強烈勸阻任何這麼想的創業者。 訪談裡最樸素的一句其實是：AI 和意外不應該放在一起。他把它當作釋出策略的理由，但這句話的適用範圍遠遠不止一家公司。