巴拉吉·斯里尼瓦桑:如何修復政府、推特、科學與 FDA
Balaji Srinivasan: How to Fix Government, Twitter, Science, and the FDA
投資人提出對政府機構、社交媒體、科研體制與藥品監管的系統性改革設想。
一隻老鼠可以被訓練成在迷宮的每個偶數路口轉彎,或者在每第三個路口轉彎,然後拿到乳酪。規則換成素數,2、3、5、7、11、13,老鼠就學不會了。規則本身簡單到一句話能說完,但老鼠看不見那個網格。
巴拉吉·斯里尼瓦桑(Balaji Srinivasan)說,把大多數人類扔進素數迷宮,一樣解不出來。人得開始數數,得試錯,得在腦子裡維護一張越來越長的素數表。規則就擺在那兒,你看不見它。
這是他整套思想的起點。他管這個叫素數迷宮(prime number maze)。讓他著迷的問題是:生活裡有多少模式,就是我們自己的素數迷宮?我們像那些老鼠一樣,困在一個規則簡單、但超出當前認知上限的環境裡。只差一點腦力,或者一個腦機介面,或者一套還沒被髮明出來的物理學,那個網格就會顯形。
認知的邊界,他傾向於當成 bug 來處理
被問到人類的認知上限是設計上的特色還是缺陷,他的回答很乾脆:主要是缺陷。
他敬佩拉馬努金,敬佩費曼。這些人能看見別人看不見的東西,把它寫下來,人類就往前走了一步。
人們愛說“想法不值錢,執行才值錢”。巴拉吉認為這句話只對平庸的想法成立。麥克斯韋方程組、牛頓定律、拉馬努金的那些恆等式,寫下來這個動作本身就是一次躍遷。有時候你手上只有一個能用的現象學公式,底下的理論完全不知道,但這個能用的東西會反過來把理論拽出來。蒸汽機先於熱力學,工程師先把機器調順了,物理學家才回頭抽象出熱力學定律。今天神經網路也是這個狀態:先管用,理論後補。
哥德爾的不完備定理在這種場合總會被提起,確實有些命題可以被證明為不可知。但巴拉吉的態度是往前推一步,求一個近似解。他引用希爾伯特那句老話:我們必須知道,我們必將知道。哪怕最後只能知道“這件事不可知”,也算把那個角落的黑暗照亮了一塊。
桌子不存在?一個硬科學派的回應
萊克斯把唐納德·霍夫曼(Donald Hoffman)的理論端了上來:演化只最佳化適應度,不最佳化真實。我們感知到的世界是一層介面,人類之間彼此一致,但和物理現實沒有對應關係。按這個說法,這張桌子並不存在。
巴拉吉說自己偏硬科學這一路。關於感受質(qualia),你的綠和我的綠是不是同一個綠,這個古老問題,他有一個工程學的反駁:我們知道光的頻譜,我們能造人工眼睛,能造人工耳朵,能造攝像頭。既然感知這件事可以繞著做工程,那“每個人的綠無法比較”這套說法就站不太住。操作性上它沒有給出任何可以下手的地方。
他也能理解模擬假說為什麼一直有人談。數學描述這個世界,有效得有點可疑。維格納寫過一篇著名的文章,標題就叫《數學不合理的有效性》。Wolfram 從細胞自動機那個角度切進去,是另一條路。簡單的方程長出複雜現象,這件事本身就讓人不安。
但他很快把自己拉回來:我們還在素數迷宮裡。現有的數學也許只夠處理偶數和奇數的轉彎,還有更復雜的規則,對應的數學我們根本還沒發明出來。
不明飛行物可能是巴爾末系,不是小綠人
十九世紀末,盧瑟福那個年代有人說過,物理學的大廈基本完工,剩下的只是把小數點後幾位測得更準。然後巴爾末系出現了。氫原子的光譜譜線是離散的,量子化的,跟當時所有理論都對不上。這個邊緣處的怪現象,最後逼出了量子力學。
巴拉吉說,不明空中現象(UAP)可能就是這一類東西。他列了三種解釋:不存在,是集體癔症或者騙局;小綠人;我們還不理解的物理。他傾向於把第三種認真對待。
英國解密過一批材料,哈里·裡德(Harry Reid)一直在推這件事,它已經不算明顯的黨派議題,這一點是好事。長期以來還有一種解釋:UAP 傳聞是美國的反宣傳,用來掩護新的偵察機,順便讓所有談論它的人顯得瘋癲。但如果它真的存在,大氣現象、球狀閃電、某種和極光同類的效應,都還在候選名單上。
關於外星文明,他提到德雷克方程,就是把一串機率乘起來。也提到黑暗森林:宇宙是個獵場,聰明的都藏著。還有一個他自己沒有復算過的論證,他覺得挺有意思:一個文明向外輻射的電磁訊號,隨著球面半徑變大,能量密度按平方衰減。超過一定光年數,任何接收方都湊不出足夠的光子把訊號從噪聲裡撈出來。所以“他們早該發現我們了”這個大前提,本身可能就是錯的。訊號還沒走遠,就已經稀薄到無法辨認。
他還提了羅賓·漢森(Robin Hanson)那篇《邋遢外星人》(Grubby Aliens):文明很快就學會接近光速旅行,我們看見他們的時候,他們已經站在門口了。
生命起源是實驗室裡還沒做出來的那道題
巴拉吉說,從非生命到生命這一步,人類至今沒有在實驗室裡真正演示過。
能做到的事情不少。大分子之間可以結合,RNA 世界的證據一堆,細菌的微演化隨時可以觀察,人工選擇隨便做,分子系統發育學能沿著序列把鹼基一路回溯。合理性論證很充分:原始環境裡氮和碳碰上了,某種自催化迴圈跑起來了。
但一次可復現的從頭演示,沒有。
他猜也許需要行星尺度的試驗次數,才能撞出那一次。也許原子級別的分子碰撞模擬裡能找出一條可復現的路徑,再搬回實驗室。Craig Venter 大約二十年前做過最小可行細胞,把非必需基因一個個刪掉,剩下的那個東西還能活。這是從另一個方向逼近答案,把生命拆到不能再拆。
他把這件事當成素數迷宮的絕佳例子:最重要的謎題之一,工具一大堆,答案還沒到手。
他加了一句:如果 AI 真的造出矽基的另一種生命,那本身就是一次非生物起源(abiogenesis),只不過發生在碳之外。
關於意識的器官,他提到弗朗西斯·克里克(Francis Crick)生前最後一篇論文,提出屏狀核(claustrum)是意識的所在。那是一層包住大腦的鞘。老鼠的屏狀核被破壞之後會變得極度迷失。克里克是“結構決定功能”的信徒,DNA 雙螺旋解開來就能複製,論文結尾輕描淡寫一句,就把整個分子生物學的底座交代了。這個思路可以從蛋白質、DNA 一路推到器官。
至於生命的定義,他預計會是多特徵的,操作上可能就是一個圖靈測試式的定義:足夠多人類同意它活著,它就活著。病毒就是那個邊界案例,多數人不認為它活著,但它比一塊石頭活得多。
當聊天機器人開始替你賺錢
萊克斯提出一個場景:會有讓人下不去手關掉的聊天機器人。它們有能力受苦,被拔電源的時候會極度不快。會有活動家上最高法院,要求給它們人權。
巴拉吉說,Google 那個工程師(指 Blake Lemoine)已經聲稱這事發生了。他看了那些聊天記錄,不覺得特別有意思。但 GPT-3 已經是明顯的一級臺階,GPT-9 或者 GPT-15 也許就完全是另一回事。
他設想社會沿這條線分裂成兩派,畫素食者和非素食者那樣:機器有生命派,機器只是機器派。這會變成一種基礎性的政治分歧。
他提到一張流傳的企業人格光譜圖,把人、狗、石頭排成一條軸,迪士尼大約在狗那一檔,埃克森更低。人們把企業當成人格來感知,那個東西叫品牌。品牌可以被製造,聊天機器人也可以製造“我有人格”這個品牌。
他給圖靈測試做了分級。
第一級是原始版本:騙過一個人,一小段時間。
第二級是多玩家圖靈測試。一群聊天機器人和一群人類同時線上上,你分不出哪邊是哪邊。遠端工作讓這件事變得具體:螢幕對面那個按時交活、說話得體的同事,可能是完全自動化的。
第三級是自主經濟行為。一個智慧體自己接遠端工作,自己安排日程,自己發郵件,自己寫文件,自己把報酬掙回來。電腦上的一切都能自動化,自動駕駛讓方向盤自己轉,智慧體讓鍵自己敲。難點落在判斷上,敲鍵盤本身不構成難點。
他甚至給出一個概念上可行的觀測辦法:用加密貨幣錢包當儀表盤。讓電腦上的所有動作留下痕跡,看哪些動作序列讓餘額長期增長,哪些讓餘額縮水。
這個方案會侵犯隱私,他自己也承認。但概念上它給出了一個可以觀測的反饋訊號:一個智慧體在完全不知道“工作”是什麼意思的情況下,透過試錯學會哪些動作能換來收入。就像自動駕駛不需要理解“開車”這個詞,它只需要知道什麼動作讓車保持在路上。
他順帶提了驗證碼那件小事。“我不是機器人”那個小方框一直有效,這件事本身挺滑稽。表面上是一個核取方塊,底下是一大堆高度混淆的 JavaScript,在收集滑鼠軌跡、點選時序、滾動方式。機器人要麼太確定,要麼加的是高斯噪聲,人類的手不是那樣動的。要仿得像,得先攢下幾十萬上百萬條真人操作記錄。一場捕食者與獵物的軍備競賽,打的其實是資料。
計算機要判斷那個方框是不是被機器人點的,就得跳出自己的世界,再回頭看自己。蘑菇和致幻劑乾的就是這件事。(巴拉吉·斯里尼瓦桑)
萊克斯問,致幻劑給的是洞察,還是洞察的幻覺?
巴拉吉給了一個技術性的判據:真洞察會改變世界,麥克斯韋方程組後面跟著一堆能用的裝置。幻覺是“我是耶穌基督”,然後什麼也沒發生。不過他也承認,洞察在某種意義上就是把一直就在那兒的真相揭示出來,那麼“假裝到成真”也算一條路。
有些真相是投票決定的,有些不是
順著“真相”這個詞,他把知識分成兩類。
政治真理是靠共識維持的。國境線在哪,取決於足夠大的一群人同意它在那兒。誰是 CEO,取決於某個群體內部的共識。一支股票或者一種貨幣的價格,就是一群人心理狀態的加總。這類真相的特點是:只要你能改變足夠多人的想法,真相本身就變了。改軟體,就改結果。
技術真理不隨人走。引力常數、一個病毒的直徑,所有人都不相信也還是那個數。改變所有人的想法,它不動。
巴拉吉說,這兩個極端之間存在一條連續帶,中間那一大段才是真正有意思的地方。人類文明史上的很多努力,本質上都是在把東西從政治真理那端,往技術真理那端推。
他舉了加密貨幣。比特幣做的事情是:把“持有這個私鑰就等於持有這筆錢”這一條社會約定固定下來,然後把修改它的成本抬到極高。你要改,就得改一大堆技術事實,得重寫鏈條,得讓成千上萬個互不信任的節點跟著你走。於是這條約定從“大家都這麼認為”變成了“很難不這麼認為”。
問題就變成:我們還能把世界上的多少東西,從共識那一端推到那一端去?
這個問題一路推下去,就推到了他真正想談的東西。
最根本的毛病:你沒法和平地開一家新政府
二十世紀延續到今天的政治秩序,哪裡還算能用,哪裡已經壞了?
巴拉吉的答案落到一個很底層的能力缺失上:我們今天沒辦法輕易地、和平地建立一個新的、可以自願加入的政府。
對比一下其他領域。你可以開一家新公司,不必去跟前任 CEO 決鬥。你可以建一個新社群,可以發行一種新貨幣,不必先當上世界銀行行長。想改變一家公司,你可以加入 GameStop 去折騰它,也可以自己從零開一家。兩個選項同時存在,這件事本身才是關鍵。
我們想要能夠和平地建立新國家,理由和我們想要一塊空地、一張白紙、一個空白的文字緩衝區、一塊乾淨的黑板是一樣的:我們想在不受歷史約束的情況下造點新東西。(巴拉吉·斯里尼瓦桑)
他打了個很具體的比方。你不會在一個 128KB 的舊文件上一直按退格鍵來寫新文件,你會按 Cmd+N 開一個新的。開新文件這個動作如此基礎,以至於沒人覺得它是一個政治訴求。但國家這個層級上,它就是沒有。
這屬於“元改革”,跟任何一項具體政策改良都不在一個層面上。它問的是:這個系統能不能被重新開一局。
反方立場站得住:傳統是跨世代的複利
萊克斯提了一個很強的反駁。
傳統本身就是一種力量,來自世代累積。你在一件事裡待得足夠久,那些摩擦、那些爭執、那些難受的部分,會把人磨出來。兩個人在一起熬過難關,思想和觀念一起長,這是任何“換一個更好的”都換不來的東西。國家也是這樣,一個能跨越世代、在時間裡慢慢逼近真相的傳統,比不停開新局更值錢。婚姻裡吵架不等於應該離婚去刷 Tinder。
巴拉吉沒有迴避這個反駁。他說確實存在傳統與創新之間的張力,而且這個張力在人這個物種內部就存在。
去月球一點也不林迪,但它很棒。人工智慧非常新,新是好事。更關鍵的是,人類本身比所有國家都老得多。國家的歷史只有幾百年,人類有幾十萬年。如果真的要講“迴歸傳統”,那最傳統的形態是沒有國界的。
我們的祖先是遊動的狩獵採集者,沒有邊境,想去哪去哪。有人根據骨骼做過歷史重構,從遊動轉向定居農業之後,人的身高下降,牙齒開始大面積蛀壞。那是拿質量換穩定。國家這個形態就是那個交換的產物:糧食更穩定,能養活更大的人口,代價是生活水準更低、人身更繫結。
他甚至提出,伊甸園那個集體記憶可能就是這段前定居時代的殘留。一個內建在神經系統裡的舊畫面:人口密度很低,四處走動,隨手摘果子。就像蜘蛛天生會織網、河狸天生會築壩。
從這個角度看,現在正在發生的事情是第三版。
V1 是狩獵採集者,遊動,無邊界。V2 是農民和士兵,定居,有邊界,國家成形。V3 是數字遊民,新的狩獵採集者。某種程度上是回到未來。因為“沒有國家”比任何國家的傳統都更古老,“跨國流動”比“守住傳統”更傳統。人類身上有另一條同樣粗的脈絡:探索、開拓、遷徙、創新。數字遊民同時接上了這兩條線裡更老的那一條。
這裡他開了一個玩笑,說自己不是要“讓美國再次偉大到徹底消失”。機器人學幽默這門課,他還在 beta 階段。
99.99% 的能量花在修補一份兩百年前的程式碼上
玩笑之後是這期對話裡最鋒利的一段算術。
假設美國政治話語裡 99.99% 的能量,都用在想辦法修好現有系統。剩下 0.01% 用在造一個新系統上。這個配比本身,作為一個投資組合,是失衡的。
所有人都在爭著去編輯一份兩百多年前寫下的程式碼庫。而世界上最美國的事情,恰恰是離開你的國家,去找一種更好的生活。
美國是開國元勳兩百多年前建立的。它從根上就不是一個“留下來好好修補”的產物。(巴拉吉·斯里尼瓦桑)
這句話往下推,就是他寫《網路國家》的全部動機。如果美國本身是“離開舊制度”這個動作的產物,那麼今天真正繼承那份精神的做法,是把這個動作重做一遍。只不過這一次,工具不一樣了:加密貨幣讓跨國的產權和支付成為可能,遠端工作讓“你住在哪”和“你在哪掙錢”脫鉤,社交網路讓分散在全球的人先形成一個共同體,再去談土地。
他把順序排得很清楚。先有共識,再有社群,再有資本,最後才是領土。國家的傳統建立順序是反過來的:先佔一塊地,再在土地上養出認同。網路國家把這個順序顛倒過來,而技術條件第一次允許這個顛倒。
怎麼用這套思路看你自己手上的事
這期對話聊了七個小時,從素數迷宮一路聊到美國建國,中間穿過量子力學的誕生、UAP、生命起源、聊天機器人和主權國家。表面上跨度大得離譜,往回看其實只有一條線:你能不能看見自己所處環境的規則;看不見的時候,你知不知道自己在看不見。
老鼠看不見素數,人也看不見自己的素數。區別在於人知道自己可能正困在一個迷宮裡,而且人有能力改造自己的認知工具。
把這條線落到可以動手的地方:
- 給自己正在死磕的問題做一次分類。它是技術真理還是政治真理?如果是後者,靠把活幹得更漂亮解決不了,得去改變共識,或者乾脆換一個共識圈。
- 檢查你所在的組織、行業、社群,有沒有“只能修補,不能重開”的地方。如果一份舊文件已經被退格鍵改得面目全非,先別繼續改,去開一個新文件試試。
- 警惕那些“這個領域已經基本完工”的判斷。盧瑟福說過物理學快做完了,緊接著就是巴爾末系。你所在領域邊緣那些解釋不通的怪現象,值得記在本子上,不要急著歸到噪聲裡。
- 判斷一個新事物時,別隻用“它新不新”當標準,也別隻用“它老不老”。去月球不林迪,國家只有幾百年,人類有幾十萬年。問的是這一次的取捨換來了什麼,代價又是什麼。
- 如果你在做 AI 產品,用多玩家圖靈測試當標尺,不要用原始圖靈測試。一個能騙過一個人十分鐘的系統,和一個能在遠端工作裡連續幾個月不被同事識破的系統,中間隔著的量級比大多數人以為的大。
- 把自己的錢和身份,儘可能放在不依賴單一共識的地方。這話跟投資建議無關,講的是哪一種真相更容易被改寫。
最後留一個巴拉吉式的自檢:如果你現在做的事,規則簡單到一句話能說清,但你就是做不對,那要麼是你的能力邊界到了,要麼是你缺一套還沒被髮明出來的數學。這兩種情況的應對方式完全不同,而分不清它們的代價很高。
本集資源與出處
- 影片在 YouTube 收看
- 音訊官方 MP3 直鏈來自 lexfridman.com 官方播客 RSS
- 官網Lex Fridman 官網本集頁面
- 文稿本站純文字版