# 馬克斯·泰格馬克：人工智慧與物理學 > 物理學家談 AI 與物理學的交叉、用數學理解智慧，以及通用人工智慧可能帶來的風險。 - 原標題：#155 – Max Tegmark: AI and Physics - 期數：第 155 期 - 釋出日期：2021-01-18 - 嘉賓 / 主題：馬克斯·泰格馬克 - 網頁版：https://lex.qiaomu.ai/tw/ep/max-tegmark-2/ - 官方頁面：https://lexfridman.com/max-tegmark-2/ - 精讀字數：約 11082 字（閱讀約 25 分鐘） > 本文為 lex.qiaomu.ai 基於原始訪談的 AI 改寫中文精讀，非官方翻譯；引用請註明出處並連結網頁版。 1962 年古巴導彈危機最緊張的時刻，一艘蘇聯核潛艇在加勒比海被美軍艦艇圍堵。美軍投下深水炸彈，試圖逼它浮出水面。潛艇裡，電池快耗盡，氧氣越來越少，艙內溫度超過 40 攝氏度，有水兵當場昏倒。艇長斷定第三次世界大戰已經爆發，下令發射艇上攜帶的核魚雷。按程式，需要三名軍官一致同意才能發射。艇長說“是”，政委說“是”。第三個人叫瓦西里·阿爾希波夫（Vasily Arkhipov），他說了“不”。 馬克斯·泰格馬克（Max Tegmark）在 Lex Fridman 播客裡講這個故事時，語氣近乎動情。他說，阿爾希波夫可能是現代史上對全人類貢獻最大的人。如果那枚核魚雷發射出去，美國大機率會全面核反擊，世界會變成另一個樣子。 阿爾希波夫當時注意到一個細節：深水炸彈的爆炸聲是左一下、右一下，有規律地交替。他判斷，美軍並非要擊沉他們，而是在發訊號讓他們上浮。就是這個冷靜的分析，加上一種說不清的直覺，阻止了可能毀滅世界的按鈕被按下。 泰格馬克講這個故事，不是為了懷舊。他想說的是：**我們整個人類，不能靠“正確的人恰好在正確的時間出現在正確的位置”來活命。** ## 從物理到 AI：一個物理學家的跨界 泰格馬克是 MIT 的物理學家。大約五年前，他把自己的研究方向從物理學轉向了機器學習。當時很多同事看他的眼神都不太對勁，雖然沒有明說，但那種“Max 是不是瘋了”的意思寫在臉上。 現在情況變了。他和同事一起推動，拿到了美國國家科學基金會（NSF）2000 萬美元的資助，成立了 AI 與基礎物理互動研究所（Institute for Artificial Intelligence and Fundamental Interactions），聯合 MIT 和周邊多所大學一起做研究。當年那些用奇怪眼神看他的同事，已經不再問“這有什麼意義”了。 這個研究所的核心思路是雙向的。AI 能幫物理學家做更好的物理，反過來，物理也能幫 AI 變得更可靠。 物理學家能給 AI 帶來的，不只是硬體層面的幫助。泰格馬克的同事 Marin Soljacic 在做光學晶片，用光子代替電子來做機器學習計算，能耗大幅降低，速度更快。更重要的是思維方式上的差異。 泰格馬克舉了 Elon Musk 發射火箭的例子。SpaceX 的火箭不是靠機器學習反覆試錯訓練出來的。不是那種“往左一點、再往右一點、又偏了、再試試這裡”的笨辦法。他們用的是牛頓的萬有引力定律，是對物理規律的深刻理解。正是這種理解，讓火箭的可靠性有了根本保障。 > 我的願景是，未來所有對人們生活有實際影響的機器學習系統，都會被以非常非常深的層次理解。我們信任它們，是因為它們贏得了我們的信任，銷售代表怎麼說無關緊要。（泰格馬克） ## 黑箱不是力量的來源，可微分才是 2020 年出了不少讓人驚歎的 AI 突破。波士頓動力的機器人會跳舞了。幾年前 DARPA 挑戰賽上，MIT 的機器人從車裡出來直接臉朝下摔在地上，對比之下進步巨大。AlphaFold 2 在蛋白質摺疊問題上取得重大突破，對醫學研究的意義不可估量。GPT-3 能寫出讓人驚豔的英文段落。DeepMind 的 MuZero 不僅在國際象棋、將棋和圍棋上碾壓人類，還能玩各種 Atari 遊戲，而且不需要提前教它規則。 這些系統有一個共同點：它們都很強大，但**我們並不完全理解它們是怎麼工作的**。 如果只是跳舞機器人，這沒什麼。最壞的結果就是摔個臉朝下。如果只是下圍棋，最壞的結果就是走一步臭棋輸掉比賽。但當這些東西控制著你的自動駕駛汽車或者核電站時，情況就完全不同了。 泰格馬克指出，好萊塢電影把我們的擔憂引向了錯誤的方向。電影裡的機器會“變壞”，會主動傷害人類。但現實中自動化系統造成的傷害，從來都不是因為機器變壞了。 波音 737 MAX 上的自動系統奪走了很多人的生命。那個系統本身並不邪惡。問題在於，我們對自己造出來的東西理解得不夠透徹，卻給了它過多的信任。**我們甚至不知道自己不理解。** 還有一家叫 Knight Capital 的公司，部署了一套看起來很漂亮的自動交易系統。結果這套系統以每分鐘虧損 1000 萬美元的速度，連續虧了 44 分鐘，直到有人反應過來把它關掉。是系統邪惡嗎？不是。是人們對它的理解不夠，卻過度信任了它。 泰格馬克特別反感一種說法：有人認為神經網路的力量恰恰來自它的不可理解性，好像裡面有什麼神秘的東西在起作用。他覺得這完全是無稽之談。 > 我認為神經網路的真正力量來自可微分性，和不可理解性沒有關係。（泰格馬克） 什麼意思？簡單說，就是你微調引數時，輸出只會平滑地變化。正因為如此，你才能用科學中那些強大的最佳化方法，稍微調一下引數，看看結果是變好了還是變差了。這就是機器學習的根本原理：機器自己可以不斷最佳化，直到表現更好。 如果你用 Python 寫一個演算法，然後引數的變化方式是隨機改變程式碼裡的字母，那會徹底失敗。你把 print 改成了 synth，直接語法錯誤，你甚至不知道這一步是變好了還是變差了。神經網路之所以能工作，是因為每一個引數設定都是一個合法的程式，而且你能判斷它是更好還是更差。 ## AI Feynman：讓機器重新發現物理定律 泰格馬克的團隊做了一個叫 AI Feynman 的專案。他們從《費曼物理學講義》裡挑出 100 個最著名的公式，把公式的輸入變數和輸出結果做成類似 Excel 表格的資料。然後問：如果不告訴你公式是什麼，你能不能從資料裡把它找出來？ 這個問題在學術上叫“符號迴歸”。如果公式是線性的，就是輸出等於各個輸入的加權和，那很容易。但如果是包含對數、餘弦等複雜函式的公式，就非常困難。因為隨著符號數量增加，可能的公式數量呈指數級增長，就像密碼的長度增加會讓可能的密碼數量爆炸一樣。 他們的做法分兩步。第一步，訓練一個神經網路來近似這個公式，哪怕不理解它是怎麼工作的。第二步，研究這個神經網路，輸入各種不在原始訓練資料裡的新資料，用這些資料來發現公式的簡化性質，然後像分而治之一樣把複雜公式拆成更簡單的部分。 結果是，他們成功自動發現了全部 100 個公式，還發現了不少其他的。這個程式碼現在任何人都可以用，在電腦上輸入 pip install ai-feynman 就能執行。 泰格馬克說，開普勒當年盯著火星的觀測資料看了四年，才恍然大悟“這是橢圓”。而這個程式一個小時就能自動完成。普朗克當年研究黑體輻射，發現了著名的黑體輻射公式。這個程式也能自動發現。 他真正興奮的是，未來這個程式可能發現人類從未見過的新公式。 這個思路之所以讓他樂觀，是因為這恰恰是人類科學家在做的事情。伽利略小時候接住父親扔來的蘋果，靠的是大腦裡的神經網路在預測拋物線的軌跡。狗接網球也是同樣的道理。但伽利略長大之後，回過頭來分析這些經驗，寫出了 y 等於 x 平方這樣的公式。他幫助開創了現代物理學。 所以，先有一個神經網路去捕捉直覺，再用另一個過程去分析這個神經網路，提取出符號化的規律。這不只是物理學的做法，也是人類交流的方式。我們每個人都在用大腦裡的神經網路體驗世界，然後我們把高層次的 knowledge 提取出來，用語言這種符號形式分享給彼此。 ## 對齊問題：從基因到公司再到 AI 泰格馬克把 AI 對齊問題拆成三個子問題。 第一，讓機器理解我們的目標。當 Andreas Lubitz 告訴自動駕駛儀飛向阿爾卑斯山時，問題在於電腦根本不理解他的目標。它太笨了，連“不要飛進山裡”這種基本常識都沒有。如果系統設計者當初花點功夫把這個目標寫進去，悲劇就可以避免。 第二，讓機器採納我們的目標。對於直接程式設計的情況很容易，但對於自我學習的系統就像養孩子。任何父母都知道，讓孩子理解你想要什麼，和讓孩子真正接受你的目標，是兩回事。孩子先是不太懂，然後有一段既聰明又可視的視窗期，可以好好培養。再然後進入青春期就來不及了。機器的問題在於，智慧可能增長太快，這個視窗期會很短。 第三，讓機器保持我們的目標。很多科幻電影講的就是這個：一開始對齊的系統，後來逐漸偏離。泰格馬克的孩子小時候非常喜歡樂高，現在那些樂高在地下室積灰。如果我們造出真正願意照顧人類的機器，我們可不希望它們像孩子對樂高那樣對我們失去興趣。 這個問題不只是技術層面的。泰格馬克認為，對齊問題適用於所有強大的非人類實體。 基因就是一個例子。基因想要複製自己，於是它們在你身上建了一個大腦，並且讓你的大腦覺得吃飯和性愛是愉快的。這是基因對你的價值對齊。它們創造了比自己更聰明的東西，但確保了價值觀的對齊。 但後來出了點問題。人類發現，我們喜歡性愛的感覺，但不想馬上要孩子，於是發明了避孕。我們想喝可樂，但不想長胖，於是喝零度可樂。我們比基因更聰明，能夠看穿並顛覆它們的意圖。 現在人類扮演了基因的角色。我們創造了公司這種強大的非人類實體。公司給我們帶來了超市、醫院、各種便利。但我們也要確保公司的行為對我們有利。於是我們建立了制度：如果超市賣有毒食品，老闆要坐牢。這是我們對公司的對齊。 但公司會想辦法繞過這些制度。就像人類看穿了基因的意圖一樣，強大的公司也有動機去腐蝕監管它們的機構。19 世紀末，馬薩諸塞州的鐵路公司預算比州政府還大，做了很多腐敗的事。西奧多·羅斯福搞了反托拉斯運動，就是為了重新對齊這些公司，讓它們更符合美國人民的利益。 泰格馬克強調，不要用善惡來討論這些問題。機器人不是善的也不是惡的，它是一個工具。可以用來做機器人手術這種好事，也可以用來做壞事。公司也是工具。如果激勵機制對了，公司會開醫院、開超市。如果激勵機制錯了，公司會向人們推銷成癮性藥物，造成阿片類藥物危機。 > 我們不應該犯這個錯誤，陷入關於公司或機器人的善惡童話。我們應該專注於把正確的激勵機制放到合適的位置上。（泰格馬克） ## 自主武器：2020 年的警鐘 泰格馬克對自主武器非常擔憂。他喜歡看波士頓動力的跳舞機器人，但他說現在機器人領域增長最快的方向之一就是自主武器。 2020 年是自主武器有史以來最好的“營銷年”。在利比亞內戰和納戈爾諾-卡拉巴赫衝突中，自主武器都發揮了決定性作用。全世界都在看：哦，我們也得造這個。 在利比亞，一邊是阿聯酋從中國買的自主武器在轟炸利比亞人。另一邊是另一個盟友土耳其的無人機。這些國家都沒有直接的人員傷亡，真正倒黴的是利比亞人。 在納戈爾諾-卡拉巴赫，土耳其提供的無人機由一家公司製造，而這家公司的創始人畢業於 MIT 航空航天系。泰格馬克說，MIT 對此負有直接責任。那場衝突中大量平民喪生。 因為自主武器在軍事上太有效了，現在各國都在拼命往武器系統里加自主性。 泰格馬克認為，那些沉迷於未來“終結者”場景的人，應該關注當下兩個更緊迫的威脅。一個是我們討論過的民主被破壞，資訊流被機器學習操縱。另一個就是自主武器的軍備競賽，而 2020 年就是這個競賽開始或者被阻止的關鍵年份。 他舉了生物武器的例子。未來生命研究所（Future of Life Institute）曾給哈佛的 Matthew Meselson 頒獎，表彰他說服尼克松總統禁止生物武器。泰格馬克問他怎麼做到的。Meselson 說，他告訴尼克松：我們不希望存在一種所有敵人甚至非國家行為體都能買得起的、只要 500 美元的大規模殺傷性武器。尼克松覺得有道理。 美國的國家利益在於，強大的武器都非常昂貴，只有美國或者少數穩定的對手能買得起。核武器就是這樣。生物武器不是這樣，所以我們禁止了它們。這就是為什麼現在你幾乎聽不到生物武器的訊息，也是為什麼我們熱愛生物學。 有人會說，禁止容易，核查太難。但 Meselson 有一個巧妙的見解：你不需要 100% 的核查機率。1% 通常就夠了。 假設中美簽署條約，劃了一條線：某種無人機可以，完全自主的不行。如果你是中國，你偷偷研發了違反條約的東西，你會怎麼算？如果被發現的機率是 100%，當然不會做。但即使被發現的機率只有 5%，那也是巨大的外交尷尬。而且中國本來就有核武器，多幾架自主無人機不會根本改變對美國的威懾格局。萬一被發現，美國會全面加速自己的專案，說“中國人作弊了”，然後中國面對的就是更強大的對手。 單是這種汙名效應就非常強大。看看生物武器，50 年過去了。你最後一次聽說生物恐怖襲擊是什麼時候？真正因生物武器死亡的情況，要麼是美國自己用炭疽搞死了自己人，要麼是蘇聯斯維爾德洛夫斯克的實驗室洩漏。50 年，只有超級大國自己的兩次烏龍，然後什麼都沒有。這是相當成功的。 泰格馬克希望未來人們談到 AI 時，想到的是治癒疾病、開發新疫苗，而不是“AI 讓我不敢出門”。 ## 資訊繭房與民主 泰格馬克在新冠疫情期間做的一個專案，叫 improvethenews.org。他稱之為“小小的 COVID 專案”，利用晚上和週末的時間做出來的。 這個新聞聚合器看起來有點像 Google News，但有滑塊可以幫你打破資訊繭房。最明顯的一個滑塊是左和右，代表政治光譜。你滑到左邊，看到一組文章。滑到右邊，看到另一組，彷彿是另一個版本的真相。 關於移民問題，這種差異尤其明顯。 泰格馬克說，很多人以為主要問題是假新聞。其實不是。他帶著 MIT 的學生做了一項學術研究，用機器學習檢測夏季的主要偏見型別。確實有假新聞，比如“希拉里·克林頓剛剛離婚了”這種。但更常見的是**遺漏**。 有些新聞左派或右派根本不提，因為不符合他們的議程。有些新聞他們又反覆提。比如特朗普家族的財務問題，以及拜登家族、亨特·拜登的財務問題。不出所料，兩邊報道的量完全不對等。一邊熱衷於報道拜登家族的，一邊熱衷於報道特朗普家族的。 但如果你是一個普通的美國公民，反對一切形式的腐敗，把滑塊左右滑動一下，就能看到兩邊的所有政治腐敗報道。 泰格馬克引用 MIT 前同事喬姆斯基的話：**宣傳之於民主，就像暴力之於極權主義**。意思是，在極權國家，你不需要宣傳，人們因為恐懼就會服從。在民主國家，你才需要宣傳。而且民主國家的宣傳質量更高，更可信。 泰格馬克說，他認識的俄羅斯和中國的科學界同事，對自己國家媒體宣傳的警覺程度，比很多美國同事對西方媒體宣傳的警覺程度還要高。這本身就說明問題。 這個新聞聚合器還有一個“尊重度”滑塊，往右拉，會更容易看到更學術風格、更尊重對方的觀點呈現。因為如果你是一個民主黨人，想去看看另一邊，開啟 Breitbart 網站，可能 10 秒鐘就被某句話激怒了。如果你是共和黨人，去看左翼媒體，也可能很快因為首頁上特朗普的醜化照片而憤怒。這樣根本沒法交流。 還有一個“建制派”滑塊，泰格馬克覺得特別有意思。如果一個社會中幾乎所有強大的實體都希望你相信某件事，那麼無論左右的主流媒體都會這麼說。菸草公司當年就極力打壓關於吸菸危害的報道。從地緣政治角度看，任何國家的媒體都會大量報道“我們是好人，別的國家是壞人”。 泰格馬克舉了伊拉克戰爭的例子。事後看新聞研究，CNN 和 Fox 都強烈支援入侵伊拉克，說薩達姆有大殺器。但當時也有一些小媒體在質疑：等等，這些證據看起來不太靠譜。但這些聲音太難被找到了，大多數人根本不知道它們存在。 > 如果那些聲音當時也能被聽到，對美國國家安全其實會更好。我認為入侵伊拉克實際上損害了美國的國家安全。（泰格馬克） 這個專案的想法是，機器學習演算法基本上是免費的。沒有理由它們只能幫強者操縱弱者。它們同樣可以幫弱者看穿強者的操縱。 泰格馬克說，網際網路誕生時，很多人希望它能促進民主，讓人們更容易瞭解真相。現在，機器學習也許能再次幫上忙。他認為這比以往任何時候都重要，因為這與人類的未來息息相關。 從一兩代人、三代人的時間尺度看，地緣政治上只有兩種結局：要麼對全人類都好，要麼對所有人都很糟。沒有中間地帶。因為技術沒有國界，武器越來越強大，一直打下去，運氣總會用完。 泰格馬克說他愛美國，但美國的長期利益和其他國家的長期利益並不對立。過去，一個國家獲得更多資源的唯一方式是搶別人的土地，所以是無休止的戰爭。但 1945 年以後，西歐再也沒有發生過戰爭，所有國家都變得更富有，因為技術進步了。這個世紀的贏家可以是美國、中國、俄羅斯和所有其他國家，因為技術讓所有人更健康、更富有。前提是我們要想辦法在這個星球上維持和平。 ## 意識、愛與死亡 泰格馬克對意識的看法是，意識是一種資訊處理。某些型別的資訊處理。從物理學家的角度看，資訊是由碳原子在神經元中處理，還是由矽原子在技術裝置中處理，本質上沒有區別。 他把意識描述為“資訊在被處理時的那種感覺”。我們不知道具體是哪些複雜的資訊處理方式產生了意識。很明顯，大腦中大部分資訊處理並不產生意識體驗。比如你不會意識到心跳的調節，跑步時腳步的複雜運動也大多是自動完成的。 他認為這屬於科學問題，希望有一天我們能有一個方程或者工具，來檢測意識。比如在急診室，判斷一個病人是閉鎖綜合徵有意識，還是真的沒有意識。或者未來如果你有一個非常智慧的機器人照顧你，你想知道關掉它時該不該感到內疚。 如果我們要創造有正面體驗而不是痛苦的機器，我們可能會選擇製造一些故意沒有意識的機器，讓它們做極其無聊的重複性工作。也可能會製造有意識的機器人來陪伴老人，因為人們不想覺得機器人只是在假裝開心或悲傷。 泰格馬克說，他肯定不想和一個機器人建立真正的情感聯絡，如果他知道那只是騙局的話。就像今天你可以給小孩買一個會說話的玩偶，小孩可能會以為它有意識，還會對它說秘密，然後這些秘密可能被傳到網上。他不想被這樣欺騙。 關於愛與死亡，泰格馬克有一段很動人的論述。 有人可能會說，愛不過是基因為了讓你繁殖而設下的騙局。泰格馬克說，這個結論是錯的。他知道自己享受食物是因為基因在“黑”他，不讓他餓死。但這並不意味著他不應該享受開心果冰淇淋。 > 我享受開心果冰淇淋的程度，並不會因為我從科學上完全理解這是基因的騙局而減少一絲一毫。（泰格馬克） 他引用了費曼的一段話。費曼的朋友是個藝術家，說科學家會把美麗的花朵解構成一堆夸克和電子，破壞美感。費曼反駁說，作為科學家，他不僅能看到藝術家看到的美，還能看到更多。 費曼說，這棵樹是由空氣構成的。它從空氣中吸收碳，在太陽的熾熱中把它們結合成樹。當你在壁爐裡燒木頭時，這個過程的逆轉非常美麗。木頭變回空氣，火焰中舞動的是曾經被束縛的太陽之光。 泰格馬克說，他對愛和開心果冰淇淋的感覺也是這樣。他既能有最本能的愛的體驗，同時還能欣賞到其中更深的、從冷酷宇宙中演化出愛的美感。 從一團熾熱的等離子體，到夸克結合成原子核，到電子被束縛成原子，到引力讓它們聚整合行星和恆星，到自然選擇讓基因開始自我複製，到越來越複雜的目標導向行為，最終出現了愛。 泰格馬克把進化比作 MuZero 的自我對弈。MuZero 透過和自己下棋來學會圍棋和象棋。而地球上所有的夸克 blob 在生存競爭中的自我對弈，最終創造出了長頸鹿、大象和人類，創造出了愛。 關於死亡，泰格馬克說他當然覺得死亡很糟糕。他年輕時父親說“生命本質上是悲劇”，他當時不理解。多年後他完全明白了。我們小時候覺得一切都無限，然後突然發現生命是一場有終點的遊戲。 他說他不害怕。他相信那真的是遊戲結束，而不是死後會發生什麼可怕的事。但這種有限性讓他更清楚地意識到活著的珍貴，提醒他充分地活，盡情地享受。 他提到對死亡的看法其實基於一種過時的物理學觀點。什麼才是真正的你？不是你的皮膚細胞，它們每週都在死掉又長出新的。不是你的原子或夸克，它們也在不斷被替換。從現代物理學的角度看，真正的你是資訊處理的過程，是你的記憶、價值觀、夢想、熱情和愛。 而且這些不會全部隨身體死去。費曼的身體因癌症去世了，但他的很多思想活了下來。泰格馬克說他試圖在自己身上保留一點費曼，甚至在這次對話中就引用了費曼。 當他作為老師，如果能把一些東西傳遞給學生，讓學生覺得值得采納，那他就活在了他們身上。教師這個職業讓他稍微不那麼凡人。 他說我們應該停止那種把自我等同於夸克和電子的舊唯物主義。這沒有科學依據，而且很令人沮喪。 ## 宇宙中只有我們嗎？ 泰格馬克有一個觀點：**我們可能是可觀測宇宙中唯一發展出望遠鏡的文明**。 這個觀點有兩個可以出錯的地方。第一，他可能錯在認為大多數文明在從簡單生命到太空殖民文明的演化過程中，只花費非常非常小一部分時間處於我們現在這個階段。第二，他可能錯在認為我們真的是唯一。 關於第一個，地球上的資料點是這樣的：45 億年的生命演化，大部分時間是非常“笨”的細菌和恐龍。恐龍在地球上踩踏了一億多年，也沒發明智慧手機。而從牛頓到我們現在，只有 400 年。泰格馬克小時候還沒有網際網路。所以很可能，地球要麼在這個世紀真正振作起來開始向太空擴散生命，要麼就會滅絕。 如果大多數文明確實只在一小段時間內處於這個階段，那麼我們在宇宙中隨機找到一個文明，恰好抓到它這個階段的可能性極小。更可能的是找到一顆充滿細菌的星球，或者一個已經後生物化、在星系裡搞大型工程的文明。 泰格馬克說，如果銀河系裡有幾百萬甚至幾十億個文明，只要有一個決定擴張，我們就會注意到。很難想象所有文明都決定成為“佛教徒”，向內探索，不打擾周圍。考慮到銀河系裡可能有十億個以上類地行星，其中很多比地球早形成十億年，有巨大的先發優勢，假設所有文明都選擇不擴張，這太牽強了。 關於費米悖論，泰格馬克的論證很簡單。我們對隨機行星上出現生命的機率一無所知，可能是 10 的負 1 次方，也可能是 10 的負 40 次方。每個數量級大約同樣可能。然後問：我們最近的鄰居有多遠？同樣，可能是 10 的 10 次方米，也可能是 10 的 40 次方米。 現在來看資料。10 的 26 次方米是可觀測宇宙的邊緣，再遠光就來不及到達我們這裡。10 的 16 次方米是太陽的距離，這個範圍內的東西我們肯定能排除。所以，最近鄰居恰好落在“我們本該已經看到”和“我們永遠看不到”之間這個小區域裡的機率，其實是明顯小於 1 的。 這個論證的寓意是：我們要好好守護這個星球，珍惜這次機會。認為“就算我們毀了地球，外面還有星際艦隊來接管”是非常危險的自我安慰。 如果真的是我們、而且只有我們，掌握著可觀測宇宙中智慧生命的未來，那責任就太大了。這令人振奮，有點嚇人，但更賦予人力量。因為今天最大的問題是很多人覺得自己的行為無關緊要。如果我們的行為可能決定宇宙中生命的整個未來，那就再也不是無關緊要了。 泰格馬克也提到，如果宇宙中的生命很稀有，這其實是我們應該希望的事。因為這意味著大過濾器可能在我們身後。我們已經在火星上找了那麼多次生命，每次都空手而歸。如果發現火星上有簡單生命，那反而是壞訊息，因為那意味著從無生命到有生命這一步很容易，大過濾器更可能在前面等著我們。 ## AI 會解開物理學的終極謎題嗎？ 泰格馬克認為 AI 會給科學帶來巨大推動。除非我們因為愚蠢的行為滅絕，否則我們對物理學的理解很可能會變得如此之好，以至於我們的技術將受物理定律的限制，而不再受人類智慧的限制。今天的技術受限於我們能發明什麼。隨著 AI 進步，技術將只受光速等物理極限的約束，那將遠超我們現在的位置。 機器學習已經在幫助科學了。MIT 用它尋找其他恆星周圍的行星，探測新粒子物理的跡象，探測引力波。這些都是實驗科學。 在計算物理領域，機器學習也帶來了巨大加速。泰格馬克舉了三個最耗超算時間的領域： **格點量子色動力學（Lattice QCD）**。這個理論可以從第一性原理計算整個元素週期表，哪些原子穩定、有多重、光譜什麼樣。但數學太難了，我們一直算不出來。MIT 的同事 Fiala Shanahan 用了一種叫 normalizing flows 的機器學習技術，大幅加速了計算。 **黑洞碰撞**。兩個黑洞互相繞轉，輻射引力波，最終合併。你想知道輸出什麼樣的波，作為兩個黑洞質量和自旋的函式。這非常難算，可能需要數月超算時間。機器學習可以大幅加速這個過程。 **宇宙學模擬**。研究的尺度從亞原子粒子擴充套件到整個宇宙中星系的形成。 最後是更理論的方向：從資料中發現方程，獲得深刻的基礎洞見。這就是 AI Feynman 專案做的事。 泰格馬克說，數學證明本質上是一個搜尋問題。一個證明就是一長串符號步驟。驗證一個證明是否正確很容易，但找到這個證明很難。因為可能的證明數量太多。如果一個證明包含 10000 個符號，每個符號只有 10 種可能，那就是 10 的 1000 次方種可能，比宇宙中的原子還多。 所以證明定理就是一個在海量空間中找針的搜尋問題。機器學習裡有一個專門領域叫搜尋。當有明確的“好”的度量時，搜尋會更容易。這就是神經網路為什麼工作得那麼好。 泰格馬克提到，AlphaZero 教會我們，我們曾經以為“直覺”是人類獨有的，不是資訊處理。但 AlphaZero 有一個價值函式模組，看棋盤就能給出一個評估數字。不同之處在於，沒有人告訴它這個位置好不好，它是自己學出來的。MuZero 更厲害，同一套系統可以學會下各種棋和玩各種遊戲，不需要告訴它規則，它自己就能形成對“好”的直覺。 這對科學是很有希望的。如果它能在棋類遊戲中形成對好位置的直覺，也許也能在證明數學定理時形成對好方向的直覺。 泰格馬克說，他科學生涯中最有趣的時刻之一，就是證明某個定理的時候。當然，這個過程很大程度上靠直覺引導。他不會隨機嘗試各種符號串，而是有預感：這個讓我想起以前見過的另一個證明，也許我先試試這個。不行，但這個失敗的方式讓我想起了那個。把直覺和暴力搜尋能力結合起來，AI 應該也能幫助物理學。 關於 AI 是否會獲得諾貝爾獎，泰格馬克認為更可能發生的是界限的模糊。今天如果有人用計算機做了計算獲得諾貝爾獎，沒人會想把獎給計算機。人們會把計算機看作工具。但隨著機器學習無處不在，有一天，一個完全不懂機器學習的物理學家，就像今天一個不懂計算機或不用數學的物理學家一樣荒謬。 不過 Lex 提出了一個有趣的區分：當 AI 系統帶來真正讓所有人驚訝的洞見，讓最頂尖的人類都從中學習，那種感覺就更像另一個實體，超出了工具的範疇。就像 Magnus Carlsen 等棋手看 AlphaZero 的棋局時，它給人的感覺是另一個實體，而不是一件工具。 泰格馬克同意，這種時刻總會到來，而且很可能與 AGI 到來的時間大致重合。到那時，我們有更大的事情要擔心，而不是諾貝爾獎該給誰。 ## 結語：行動建議 泰格馬克的思考貫穿了一個主題：人類不能靠運氣活著。無論是核戰爭、生物武器、自主武器還是 AI 對齊，我們都不能指望“正確的人恰好在正確的時間出現”。需要的是制度、是理解、是主動的準備。 - **對 AI 系統追求“可理解性”。**不要滿足於黑箱，要追求泰格馬克所說的“可理解的智慧”（intelligible intelligence）。對安全攸關的系統，要像物理學家對待火箭一樣，有深刻的理解和驗證。 - **支援 AI 安全和對齊研究。**目前投入到構建強大 AI 的數十億美元中，只有極小一部分用於安全研究。這個比例需要大幅提高。你不需要成為 AI 研究者才能貢獻，作為公眾、投資人、政策制定者，都可以推動這件事。 - **主動打破資訊繭房。**不要只看自己陣營的媒體。嘗試看看另一邊的報道，目的是看到其中的遺漏和偏見，接受與否另說。可以試試類似 improvethenews.org 這樣的工具，左右滑動，對比兩邊的報道差異。 - **對自主武器保持關注。**這是當下正在發生的軍備競賽，需要公眾關注和國際協議。支援對完全自主致命武器的限制，就像當年禁止生物武器一樣，這在技術和政治上都可行。 - **不要用善惡來思考技術和制度問題。**機器人是工具，公司是工具。重點在於激勵機制的設計。與其爭論 AI 是好是壞，不如思考如何把正確的激勵放在正確的位置。 - **對宇宙中的生命保持謙卑和好奇。**繼續支援 SETI 這樣的探索。同時，如果生命確實稀有，那更要好好守護我們的星球。不要指望“外星人來拯救我們”，把地球當作唯一的家園來對待。 - **理解死亡，珍惜有限。**死亡讓生命珍貴。把有價值的東西傳遞下去，無論是給學生、給朋友，還是寫下來。你的一部分會以資訊的形式繼續存在。