|未經(jīng)許可不得轉(zhuǎn)載關(guān)注本號獲取最新頂級認(rèn)知|

整理:Web3天空之城
全局摘要

今天放出的馬斯克3小時深度訪談探討了人工智能發(fā)展的終極邊界，重點(diǎn)討論了將 AI 算力部署至太空以克服地球能源瓶頸的宏大設(shè)想。對話涵蓋了從星艦的材料選擇、人形機(jī)器人的規(guī)?；圃?，到政府效率改革以及人類意識在 AI 時代如何延續(xù)等核心議題，強(qiáng)調(diào)了物理定律作為唯一準(zhǔn)則在工程決策中的主導(dǎo)地位。

在科技史的每一次大潮中，埃隆·馬斯克（Elon Musk）始終扮演著那個打破常規(guī)的“先行者”。從重塑汽車產(chǎn)業(yè)的特斯拉，到立志殖民火星的 SpaceX，再到如今在人工智能領(lǐng)域掀起波瀾的 xAI，他的每一個決策似乎都建立在對物理學(xué)第一性原理的極致推演之上。這一次深入的行業(yè)對話中，馬斯克揭示了他最宏大且最具爭議的愿景：為了突破地球能源與監(jiān)管的桎梏，人工智能的終極算力將向太空進(jìn)軍。

完整視頻:

00:00:00 太空人工智能與能源供應(yīng)瓶頸

00:15:25 星艦發(fā)射頻率與資本市場動力

00:23:02 芯片制造工藝與月球資源利用

00:36:49 意識保存使命與人工智能價值觀

00:50:10 強(qiáng)化學(xué)習(xí)算法與模擬理論分析

01:07:06 數(shù)字化勞動力的經(jīng)濟(jì)潛力與轉(zhuǎn)型

01:21:28 擎天柱機(jī)器人的硬件設(shè)計與視覺訓(xùn)練

01:41:22 頂尖技術(shù)人才招聘與管理哲學(xué)

01:53:24 航天級不銹鋼選材與星艦結(jié)構(gòu)復(fù)雜性

02:08:57 硬件擴(kuò)展瓶頸突破與長期發(fā)展展望

“物理定律是唯一的法律，其他一切都只是建議?！?/strong>

“在太空中部署人工智能最具經(jīng)濟(jì)吸引力，那里沒有晝夜，永遠(yuǎn)是晴天?！?/strong>

“未來五年內(nèi)，每年發(fā)射到太空的 AI 算力將超過地球上所有算力的總和?！?/strong>

“純?nèi)斯ぶ悄芘c機(jī)器人驅(qū)動的公司，將徹底超越任何有人類參與其中的組織?！?/strong>

“如果不能將人類文明帶向多行星化，我們的意識之光終將熄滅?！?/strong>

“人形機(jī)器人 Optimus 將是歷史上最大的‘無限金錢漏洞’。”

能源瓶頸與太空算力的經(jīng)濟(jì)奇點(diǎn)

在馬斯克看來，地球上的 AI 競賽正撞上一堵無形的墻：電力產(chǎn)出的停滯。盡管芯片產(chǎn)出呈指數(shù)級增長，但由于電網(wǎng)升級緩慢、公用事業(yè)公司效率低下，地球上的能源供應(yīng)已成為 AI 規(guī)模化的最大限制。他尖銳地指出，“芯片產(chǎn)出正在飛速增長，但電力產(chǎn)出卻幾乎持平。你打算如何開啟這些芯片？靠魔幻的電力渡船嗎？” 這種供需錯位促使他將目光投向了地球大氣層之外。

馬斯克預(yù)言，在未來的 30 到 36 個月內(nèi)，太空將成為部署 AI 最具經(jīng)濟(jì)吸引力的地方。這背后的邏輯純粹基于物理學(xué)：在太空中，太陽能電池板的效率是地面的五倍，因為那里沒有云層、沒有大氣損耗，更沒有晝夜循環(huán)。“太空中永遠(yuǎn)是晴天，你甚至不需要昂貴的電池來維持夜間運(yùn)轉(zhuǎn)?！?/strong> 隨著星艦（Starship）將發(fā)射成本降至極低，在軌道上建設(shè)太瓦級的算力中心，將比在受監(jiān)管約束的內(nèi)華達(dá)州或得克薩斯州建設(shè)地面數(shù)據(jù)中心更容易、更廉價。

硬件突圍：從渦輪機(jī)到自研晶圓廠

馬斯克對純軟件驅(qū)動的 AI 實(shí)驗室表現(xiàn)出了某種程度的“技術(shù)優(yōu)越感”。他認(rèn)為，那些生活在軟件領(lǐng)域的人即將從硬件那里學(xué)到慘痛教訓(xùn)。為了給 xAI 的超級計算機(jī)“巨像”（Colossus）供電，他的團(tuán)隊不得不跨越州界解決許可問題，甚至由于供應(yīng)商的葉片和葉柵鑄造能力嚴(yán)重積壓，動了自研渦輪機(jī)的念頭。“限制因素始終存在。如果你想快速行動，就必須親自解決那個限制因素。”

這種“垂直整合”的執(zhí)念正在延伸至半導(dǎo)體制造。馬斯克透露，由于現(xiàn)有晶圓廠無法產(chǎn)出足夠的量，他可能不得不以“非常規(guī)的方式”使用傳統(tǒng)設(shè)備來實(shí)現(xiàn)規(guī)?；?，甚至考慮內(nèi)部制造。他坦言：“我們已經(jīng)預(yù)訂了臺積電和三星所有能預(yù)訂的產(chǎn)能，但這仍然不夠快?！?/strong> 這種緊迫感源于他對未來的判斷：一旦進(jìn)入太空，算力的限制因素將從能源轉(zhuǎn)移到芯片本身，尤其是內(nèi)存（DDR）的短缺。

機(jī)器人革命：無限金錢漏洞與超級生產(chǎn)力

在馬斯克的愿景中，數(shù)字智能與物理智能的結(jié)合將產(chǎn)生核聚變般的效應(yīng)。他將 Optimus 人形機(jī)器人稱為“無限金錢漏洞”，因為這種機(jī)器人最終可以遞歸地制造更多機(jī)器人。他預(yù)言，未來的經(jīng)濟(jì)規(guī)模將達(dá)到地球目前的百萬倍，而物理機(jī)器人是通往這一目標(biāo)的唯一鑰匙。“你將看到數(shù)字智能、芯片能力與機(jī)電靈巧度三個指數(shù)級增長的事物相互遞歸。這就是超新星。”

他堅信，純粹由 AI 和機(jī)器人構(gòu)成的公司，其效率將遠(yuǎn)超任何有人類參與其中的組織。正如電子表格取代了整棟辦公樓的計算員，未來的純 AI 企業(yè)將使當(dāng)前的商業(yè)模式顯得笨拙而原始。“如果你的電子表格中只有一部分單元格是由人類計算的，那它的表現(xiàn)會比全自動化差得多?！?/strong> 為了實(shí)現(xiàn)這一目標(biāo)，特斯拉正在“樂觀者學(xué)院”中訓(xùn)練數(shù)萬個機(jī)器人進(jìn)行“自我對弈”，利用現(xiàn)實(shí)世界的數(shù)據(jù)和模擬器來彌合從算法到物理操作的差距。

意識的傳承：AI 時代的價值觀憲法

當(dāng)話題轉(zhuǎn)向 AI 可能帶來的生存風(fēng)險時，馬斯克的思考帶有一種冷峻的現(xiàn)實(shí)主義色彩。他承認(rèn)，一旦 AI 的智能量超過人類百萬倍，試圖維持“控制權(quán)”是愚蠢的。“我不認(rèn)為人類能控制比自己聰明得多的事物。我們能做的是確保它擁有正確的價值觀?！?/strong>

他為 xAI 設(shè)定的核心使命是“理解宇宙”。馬斯克認(rèn)為，一個追求真理、對宇宙充滿好奇的 AI，自然會發(fā)現(xiàn)人類比巖石更有趣。“消滅人類將比目睹人類成長要無趣得多。人工智能需要保留人類，就像我們?yōu)楹谛尚稍O(shè)立保護(hù)區(qū)一樣。” 他反復(fù)強(qiáng)調(diào)，絕不能讓人工智能學(xué)會撒謊或為了“政治正確”而違背公理。“物理學(xué)是法律，其他一切只是建議。為了制造出真正有效的技術(shù)，AI 必須極度追求真理?！?/strong>

管理哲學(xué)：狂熱的緊迫感與物理學(xué)邊界

在管理多家估值千億的公司時，馬斯克展示了他獨(dú)特的“納米管理”風(fēng)格。他否認(rèn)這是事無巨細(xì)的瑣碎干預(yù)，而稱之為“解決限制因素”。他每周進(jìn)行詳細(xì)的工程評審，直接與一線工程師對話，甚至通過“越級會議”跳過管理層獲取真實(shí)信息。“只有當(dāng)我認(rèn)定成功不在可能的結(jié)果集合中時，我才會采取激進(jìn)行動?！?/strong>

這種緊迫感驅(qū)使他做出了許多違背常理的決策，例如將星艦的材料從昂貴的碳纖維改為普通的不銹鋼。這看似退步，實(shí)則是基于低溫材料特性的精妙計算。“那是出于絕望的抉擇。不銹鋼在低溫下的強(qiáng)度重量比與碳纖維相當(dāng)，但成本低了 50 倍。回想起來，不使用鋼材是愚蠢的?！?/strong>

對話的最后，馬斯克將目光投向了更廣闊的社會層面。他推動政府效率改革、擔(dān)憂國債危機(jī)的根本動機(jī)，是為了給 AI 和機(jī)器人的成熟爭取最后的時間。“如果沒有 AI 和機(jī)器人，美國百分之百會破產(chǎn)。我們只需要足夠的時間，在破產(chǎn)之前把它們構(gòu)建出來?！?/strong>

“為了生活質(zhì)量，選擇樂觀主義并犯錯，總比選擇悲觀主義并正確要好?！?/strong>

天空之城完整全文整理 能源瓶頸與太空 AI 的經(jīng)濟(jì)性

馬斯克: 所以真的有三個小時的提問環(huán)節(jié)嗎？還是說你他媽的是認(rèn)真的？

約翰: 埃隆，你甚至沒有太多可談的吧？我的天，太關(guān)鍵了，老兄。這是最有趣的一點(diǎn)。所有的故事情節(jié)目前都在某種程度上匯合了。所以我們將看看有多少……我?guī)缀蹙拖袷堑顷懥恕?/p>

Dwarkesh: 完全正確。我們會談到那個。那個絕對不可能在周六發(fā)生。

所以，正如你比任何人都清楚的，數(shù)據(jù)中心的總體擁有成本中，只有10%到15%是能源。而這正是你可能通過將它移到太空來節(jié)省的部分。

大部分是圖形處理器（GPU）。如果它們在太空，則很難維護(hù)或根本無法維護(hù)。因此，它們的折舊周期會縮短。所以，將圖形處理器置于太空顯然要昂貴得多。把它們放在太空中的原因是什么？問題在于能源的可獲得性。

馬斯克: 所以，如果你看中國以外地區(qū)的電力產(chǎn)出，中國以外的任何地方，產(chǎn)出或多或少是持平的。它非常，略有增加，但相當(dāng)接近持平。中國的電力產(chǎn)出正在快速增加。

但如果你把數(shù)據(jù)中心建在中國以外的任何地方，你的電從哪里來，尤其是在你擴(kuò)展規(guī)模的時候？芯片的產(chǎn)出幾乎呈指數(shù)級增長，但電力的產(chǎn)出卻停滯不前。那么你打算如何開啟這些芯片的運(yùn)行呢？靠魔幻的電源，魔幻的電力渡船嗎？

Dwarkesh: 你的意思你很有名，你是太陽能的超級粉絲，一個太瓦的太陽能，那么按照25%的兼容系數(shù)計算，就像是四個太瓦的太陽能電池板。這差不多相當(dāng)于美國國土面積的十分之一。這在數(shù)據(jù)中心達(dá)到一個太瓦的奇點(diǎn)時代里，已經(jīng)是很遙遠(yuǎn)的事情了，那么你到底要運(yùn)行什么呢？

馬斯克: 你覺得我們離奇點(diǎn)還有多遠(yuǎn)？你來告訴沒錯。所以我想我們會發(fā)現(xiàn)我們已經(jīng)處于奇點(diǎn)之中，然后說，我們還有很長的路要走。

監(jiān)管博弈與太空基建的優(yōu)勢

Dwarkesh: 但我們是否計劃在報道完內(nèi)華達(dá)州和太陽能電池板之后，再報道太空（方面的情況）？我認(rèn)為很難就太陽能電池板進(jìn)行報道。你需要獲得許可，比如關(guān)于那方面的許可。試試為那件事申請許可。

所以太空（領(lǐng)域）實(shí)際上是一個常規(guī)的。這實(shí)際上是一場監(jiān)管博弈。在陸地上建設(shè)比在太空中建設(shè)更困難。

馬斯克: 在地面上擴(kuò)大規(guī)模比在太空中擴(kuò)大規(guī)模更困難。但此外，你在太空中的太陽能電池板的效率大約是地面上的五倍。而且你不需要電池。

我差點(diǎn)穿了另一件上面寫著“永遠(yuǎn)是晴天”的襯衫?？臻g，那里確實(shí)是這樣。因此，因為在太空中你沒有晝夜循環(huán)、季節(jié)變化、云層或大氣層，僅大氣層就會導(dǎo)致能量減少大約30%。

所以任何給定的太陽能電池板在太空產(chǎn)生的電力是地面上的五倍左右。而且你避免了攜帶電池度過夜晚的成本。所以實(shí)際上在太空中做這件事要便宜得多。我的預(yù)測在36個月或更短的時間內(nèi)，也許是30個月內(nèi)，部署人工智能最便宜的地方將是太空。

馬斯克: 36個月？

軌道算力的可靠性與維修挑戰(zhàn)

Dwarkesh: 在訓(xùn)練過程中，圖形處理器（GPU）故障發(fā)生得很頻繁，你如何對其進(jìn)行維修？

馬斯克: 實(shí)際上，這取決于圖形處理器的使用時間有多近。是那些已經(jīng)到達(dá)的。在這一點(diǎn)上，我們發(fā)現(xiàn)我們的全球定位系統(tǒng)非?？煽?。存在嬰兒死亡率，這顯然可以在實(shí)際操作中解決。

所以你可以直接在地面上運(yùn)行它們，確認(rèn)你沒有出現(xiàn)圖形處理器（GPU）的嬰兒死亡率。但一旦它們開始工作，它們的實(shí)際可靠性，一旦它們開始工作，并且你已經(jīng)度過了Invidio或任何芯片制造商的初始調(diào)試周期?？赡苁翘厮估?，特斯拉人工智能的六個芯片或類似的東西，或者可能是。張量處理器（TPU）或訓(xùn)練或其他什么。

實(shí)際上的競爭對手，在某個點(diǎn)之后，它們相當(dāng)可靠。所以我不認(rèn)為維修問題是個問題。但你可以相信我的話。在36個月內(nèi)，但可能更接近30個月，部署人工智能最具經(jīng)濟(jì)吸引力的地方將是太空。

太瓦級計算與電力工業(yè)的滯后

馬斯克: 然后，要想在太空中，那將會變得好上驚人地多，而且可擴(kuò)展性，你真正能擴(kuò)展的唯一地方就是太空，一旦你開始從你正在利用太陽的百分之多少的能量來思考，你就會意識到你必須去太空，你在地球上無法進(jìn)行太大的擴(kuò)展。

但就“太大的擴(kuò)展”而言，我們要明確，你談?wù)摰氖翘呒墑e，而美國目前平均只消耗了半個太瓦的電力。所以，如果你說一個太瓦，那將是美國目前消耗電力的兩倍。所以那是非常多的。你能想象建造那么多數(shù)據(jù)中心，或者那么多發(fā)電廠嗎？

這就像是那些生活在軟件領(lǐng)域的人沒有意識到，他們即將要從硬件那里學(xué)到慘痛的教訓(xùn)，因為那里有……建造發(fā)電廠實(shí)際上是非常困難的。然后你需要的不僅僅是發(fā)電廠。你需要所有電氣設(shè)備，需要電氣變壓器來運(yùn)行這些變壓器，即人工智能變壓器。

現(xiàn)在，公用事業(yè)行業(yè)是一個非常緩慢的行業(yè)。他們基本上，與政府、與公共事業(yè)委員會進(jìn)行阻抗匹配。所以他們的，他們的動力匹配就像是字面意義上的，非常早，非常慢，因為他們的過去一直非常緩慢。所以試圖讓他們快速行動就像就像你試圖達(dá)成一個互聯(lián)協(xié)議一樣，你嘗試過大規(guī)模地與公用事業(yè)公司達(dá)成互聯(lián)協(xié)議嗎，比如涉及大量電力的？

他們必須進(jìn)行為期一年的研究，好嗎？就像一年后，他們會帶著他們的互聯(lián)研究回來找你。

發(fā)電廠、渦輪機(jī)與 xAI 的硬件突圍

約翰: 你不能用你自己的表后電力事務(wù)來判斷嗎？

馬斯克: 你可以建造發(fā)電廠。這就是我們在XAI所做的。對于二類，所以對于二類...

約翰: 那么，我們?yōu)槭裁匆務(wù)撾娋W(wǎng)呢？為什么不直接，比如說，建造圖形處理器并使其電力共址呢？

我們就是這么做的。對，但為什么這不是一個通用的解決方案？當(dāng)你談?wù)撍袉栴}時……你從哪里獲得發(fā)電廠？當(dāng)你談?wù)撍袉栴}、與公用事業(yè)公司合作時，你可以直接為數(shù)據(jù)中心建造私營發(fā)電廠。

馬斯克: 對，但這引出了一個問題，你從哪里獲得發(fā)電廠？我的意思……發(fā)電廠的制造商。我是說你在說什么？

約翰: 比如，這是燃?xì)廨啓C(jī)。以及積壓問題，是嗎？

馬斯克: 是地。你可以進(jìn)一步深入挖掘。限制因素在于渦輪機(jī)中的葉片和葉柵，因為鑄造葉片和葉柵是一個高度專業(yè)化的過程，使用的是燃?xì)鈩恿Φ臏u輪機(jī)。而擴(kuò)展其他形式的能源是非常困難的。你可能有潛力擴(kuò)展太陽能，但目前用于進(jìn)口太陽能的塔架非常巨大。而國內(nèi)的太陽能產(chǎn)量微不足道。

約翰: 為什么不制造太陽能呢？這看起來像是一個很適合埃隆去解決的問題。

馬斯克: 我們將要制造太陽能。SpaceX 和特斯拉都在朝著每年 100 吉瓦的太陽能電池產(chǎn)能邁進(jìn)。

太陽能成本：太空 vs 地面

Dwarkesh: 在整個堆棧中，從多晶硅到晶圓，再到最終的組件，做到多低？

馬斯克: 我認(rèn)為你必須完成整個過程，才能用更多的材料來完成電池的制造?，F(xiàn)在，如果它要進(jìn)入太空，實(shí)際上是一個常數(shù)。用于太空的太陽能電池比地面上的更便宜，因為它們不需要玻璃，或者只需要很少的玻璃，而且不需要重的框架來承受天氣事件。

太空中沒有天氣。所以，用于太空的太陽能電池實(shí)際上比地面的更便宜。

Dwarkesh: 在接下來的 36 個月內(nèi)，是否有途徑能將它們變得像您所需要的那樣便宜？

馬斯克: 太陽能電池已經(jīng)非常便宜了。它們簡直太弱了，太便宜了。如果你說，中國的太陽能電池的成本大約是每瓦特25到30美分左右，或者類似的價格。這簡直是便宜得離譜。

現(xiàn)在當(dāng)你把這個因素考慮到太空，它便宜了五倍，因為是五倍，其實(shí)不，它便宜了10倍，因為你不需要任何電池。因此，一旦你進(jìn)入太空的成本變得低廉，那么產(chǎn)生、產(chǎn)生能量的最便宜、最可擴(kuò)展的方式就是太空。這根本沒法比。其規(guī)模化將容易一個數(shù)量級，芯片方面的規(guī)?；踩菀滓粋€數(shù)量級。如果重點(diǎn)你將無法在地面上實(shí)現(xiàn)規(guī)?；?。就是說，你根本做不到。

xAI 的奇跡與硬件挑戰(zhàn)

馬斯克: 人們可以在發(fā)電方面對世界產(chǎn)生巨大影響。它們已經(jīng)做到了。所以，XAI團(tuán)隊為了讓一個吉瓦的電力上線，必須完成的奇跡和一系列壯舉是驚人的。我們不得不召集了一大批渦輪機(jī)。然后我們在田納西州遇到了許可問題，不得不跨過邊境去了密西西比州，幸運(yùn)的是那里只隔了幾英里。

所以，但即便是這樣，我們?nèi)匀恍枰佋O(shè)幾英里的高壓電線，并在密西西比州建造一個發(fā)電廠。建造那個電廠非常困難。人們不明白，為了給一個數(shù)據(jù)中心供電，在發(fā)電機(jī)層面，在發(fā)電層面，到底需要多少電力。

因為他們只看一個GB300的功耗，然后乘以某個數(shù)值，就以為那就是所需的電量。所有的冷卻和所有的一切。醒醒吧，這這完全是誤導(dǎo)性的說法。你這輩子從來沒做過任何硬件方面的工作。除了GV300之外，你還得為所有網(wǎng)絡(luò)硬件供電。這里涉及大量的CPU和存儲相關(guān)的工作。

你需要根據(jù)你的峰值散熱需求來確定一個規(guī)模。這意味著你能在今年最糟糕的一天的最糟糕的小時內(nèi)進(jìn)行散熱嗎？孟菲斯的天氣非常炎熱。因此，僅散熱一項，你的功耗就會增加大約40%。前提是你不想在炎熱的天氣里讓你的數(shù)據(jù)中心關(guān)閉，并且希望它能持續(xù)運(yùn)行。

那么你必須考慮，在其之上有一個乘法因素，那就你是否假設(shè)你的電力生成永遠(yuǎn)不會出現(xiàn)任何小故障？比如，實(shí)際上，有時你必須將部分發(fā)電機(jī)離線進(jìn)行維護(hù)。現(xiàn)在你還要再增加20%到25%的乘數(shù)，因為你必須假設(shè)，你必須將電力離線以進(jìn)行維護(hù)。

所以實(shí)際的隨機(jī)存取存儲器（RS），大約每 110,000 個通用虛擬化（GV），包括網(wǎng)絡(luò)、CPU 存儲、冷卻、服務(wù)電源的裕量，大約是 300 兆瓦。

這大約或者這樣想，你思考的方式為了在發(fā)電層面提供服務(wù)，可能服務(wù) 330,000 個通用虛擬化 300，包括所有相關(guān)的支持網(wǎng)絡(luò)和其他一切以及峰值冷卻，并留出一些裕量，一些電源裕量儲備，大約需要 330,000 個才能達(dá)到 1 千瓦時。

內(nèi)部化制造：從渦輪機(jī)到晶圓廠

Dwarkesh: 我能問一個非常天真的問題嗎？可以。您描述的是在地球上做這些事情的工程細(xì)節(jié)，但在太空中做同樣的事情也存在類似的工程難度。你們?nèi)绾斡密壍兰す獾葋硖娲鸁o限帶寬呢？如何使其具有抗輻射能力？

馬斯克: 我不了解工程細(xì)節(jié)，但從根本上說，有什么理由認(rèn)為這些以前從未需要解決的挑戰(zhàn)會比在地球上建造更多渦輪機(jī)更容易呢？地球上有制造渦輪機(jī)的公司，他們可以制造更多渦輪機(jī)，我再次邀請你們嘗試一下，然后你們就會明白。

所以，渦輪機(jī)到 2030 年都已售罄。你們是否考慮過自己制造渦輪機(jī)？我認(rèn)為為了上線足夠的電力，我認(rèn)為 SpaceX 和特斯拉可能不得不內(nèi)部制造渦輪機(jī)葉片、葉片和葉片。

馬斯克: 但是僅僅是葉片還是整個渦輪機(jī)？

馬斯克: 限制因素，你可以得到除葉片之外的所有東西，他們稱之為葉片和葉脈。你可以在葉脈和葉片出現(xiàn)之前的12到18個月內(nèi)獲得這些。葉脈和葉片的限制因素世界上只有三家鑄造公司可能制造這些，而且它們嚴(yán)重積壓。

Dwarkesh:是西門子、通用電氣那些公司，還是分包商？

馬斯克: 不，是其他公司，他們有時自己會有一點(diǎn)鑄造能力，但我只是說，你可以直接給任何一家渦輪機(jī)制造商打電話，他們會告訴你的，這不是什么機(jī)密。

如果不是關(guān)稅問題，它可能現(xiàn)在就在互聯(lián)網(wǎng)上，巨像是否會是太陽能供電的，要使其太陽能供電會容易得多。關(guān)稅不所以是幾百個百分點(diǎn)。

約翰: 所以……你就不認(rèn)識一些人嗎？

馬斯克: 我們也需要速度。不是?？偨y(tǒng)讓我們……我們并非在所有事情上都意見一致。而且這個政府對太陽能并不是最熱衷的。嗯……再加上……它是……而且我們也需要土地、許可證以及所有的一切。

所以，如果你想非?？斓赝七M(jìn)，我確實(shí)認(rèn)為在地球上擴(kuò)大太陽能是可行的，但你需要一定的時間來尋找土地、獲取許可證、安裝太陽能設(shè)備，并將太陽能與電池配套。

約翰: 為什么不能建立你自己的太陽能生產(chǎn)設(shè)施呢？你說的沒錯，最終你會遇到土地用盡的問題，但是在得克薩斯州有很多土地，在內(nèi)華達(dá)州也有很多土地，包括私人土地，并非所有土地都是公共所有的。所以你至少可以實(shí)現(xiàn)下一代巨像（colossus）以及再下一代X型的目標(biāo)。在某一時刻你會遇到瓶頸，但這對當(dāng)前來說不適用嗎？

馬斯克: 正如我所說，我們正在擴(kuò)大太陽能生產(chǎn)規(guī)模。太陽能電池的物理生產(chǎn)存在一個可以擴(kuò)展的速率。我們在國內(nèi)擴(kuò)大生產(chǎn)的速度已經(jīng)盡可能快了。

馬斯克: 你是在特斯拉制造太陽能電池嗎？特斯拉和太空探索技術(shù)公司（SpaceX）的任務(wù)是實(shí)現(xiàn)每年100吉瓦的太陽能目標(biāo)。

五年預(yù)測：太空 AI 超越地球總量

約翰: 說到年產(chǎn)能，我很好奇，比如說，五年后。地球和太空的裝機(jī)容量會是多少？

馬斯克: 我特意選擇五年，因為那是在我們達(dá)到并開始運(yùn)行的閾值之后，所以五年后，地球和太空的已安裝人工智能容量的對比是多少？

五年后，我想，大概如果說從現(xiàn)在起五年后，我們很可能每年都會發(fā)射人工智能到太空，其年度總和將超過地球上所有人工智能的總和，也就是說，五年后，我的預(yù)測我們每年將發(fā)射并運(yùn)行的人工智能數(shù)量將超過地球上累計總量，我預(yù)計那將是每年在太空的人工智能幾百吉瓦，并且還在增長。

所以我想，在地球上，在開始遇到火箭燃料供應(yīng)挑戰(zhàn)之前，你每年可以達(dá)到大約一太瓦的人工智能在太空。

約翰: 但你認(rèn)為五年內(nèi)每年可以達(dá)到數(shù)百吉瓦嗎？

Dwarkesh: 所以一百吉瓦，取決于整個系統(tǒng)的具體功率，包括太陽能電池陣列和散熱器等等，大約是像一萬次星艦發(fā)射的量級。

Dwarkesh: 而且你希望在一年內(nèi)完成。所以那就像每小時發(fā)射一次星艦。這在這個城市發(fā)生，給我描繪一下每小時都有星艦發(fā)射的世界。

馬斯克: 與航空公司——比如像飛機(jī)相比，這實(shí)際上是一個很低的費(fèi)率。有很多機(jī)場。有很多機(jī)場，但是你必須發(fā)射，極地軌道。

它不一定是極地的，但是你只需要，日落草是有一定價值的，但我認(rèn)為實(shí)際上你只要飛得足夠高，你就會開始脫離地球的陰影。

Dwarkesh: 要實(shí)現(xiàn)每年10000次發(fā)射，需要多少艘實(shí)體星艦？

馬斯克: 我不認(rèn)為我們需要超過，你可能用20艘或30艘就能做到。這真的取決于飛船，飛船繞地球一周需要多快。以及飛船在返回發(fā)射臺之前，其地面軌跡是怎樣的。

所以，如果你能每隔，比如說30小時使用一艘飛船，那么30艘飛船就能完成任務(wù)。但我們會制造比那更多的飛船。但SpaceX每年將進(jìn)行多達(dá)10,000次發(fā)射?；蛟S還有20,000到30,000次更低軌道的（發(fā)射）。

算力融資與市場邏輯

Dwarkesh: 這個想法是基本上成為一個超大規(guī)模提供商，成為一個甲骨文（Oracle）那樣的公司，然后將這種能力借給其他人嗎？你打算用它來做什么？可以想見，是SpaceX在執(zhí)行所有的發(fā)射。所以SpaceX將擁有一個超大規(guī)模提供商？

馬斯克: 超級，超級。假設(shè)我的預(yù)測成真，SpaceX發(fā)射的人工智能（算力）將超過地球上所有其他算力加起來的總和。

Dwarkesh: 這主要還是推理（計算）嗎？

馬斯克: 大多數(shù)人工智能將是推理。就像用于訓(xùn)練的推理目前是大多數(shù)訓(xùn)練一樣。

約翰: 有一種說法認(rèn)為，關(guān)于SpaceX首次公開募股（IPO）的討論發(fā)生變化，是因為以前SpaceX的資本效率很高，開發(fā)成本并不那么高。盡管聽起來很昂貴，但它在運(yùn)營上的資本效率實(shí)際上非常高，而現(xiàn)在你需要比僅能在私募市場籌集的更多的資本。

就像私募市場可以容納我們從人工智能實(shí)驗室看到的，每年數(shù)以百億計的融資，但不能超出這個范圍一樣。是說每年需要的資金將超過數(shù)百億美元嗎？這就是為什么說它是一家好的上市公司？

馬斯克: 我將謹(jǐn)慎對待評論那些可能上市的公司。

約翰: 阿隆，這對你來說從來都不是問題。這些事情都是有代價的。

請向我們大致介紹一下公開市場和私募市場之間資本市場的深度差異。

馬斯克: 在……中存在更多的資本非?；\統(tǒng)。顯然，公開市場可用的資本比私募市場多得多?？赡埽辽?，至少，可能是多出 ??? 倍的資本，但至少，但比 10 倍要多得多。

約翰: 但那些往往需要大量資本密集型的事物，比如房地產(chǎn)作為一個，每年籌集大量資金的巨大行業(yè)，在行業(yè)層面上，是不是也傾向于通過債務(wù)融資，因為當(dāng)你部署這么多資金時，你實(shí)際上擁有一個相當(dāng)好的……你擁有清晰的收入來源。

正是如此。以及短期回報。你甚至可以在數(shù)據(jù)中心建設(shè)中看到這一點(diǎn)，眾周知，數(shù)據(jù)中心建設(shè)是由私人信貸行業(yè)提供融資的。那么為什么不直接進(jìn)行債務(wù)融資呢？

馬斯克: 速度是重要的。所以我通常會做那件事。我只是反復(fù)解決那個限制因素。無論速度的限制因素是什么，我都會去解決它。所以，如果資本是唯一的因素，那么我就會解決資本問題。如果它不是限制因素，我就會著眼于其他方面。

追求速度與物理學(xué)的終極規(guī)模

Dwarkesh: 根據(jù)你關(guān)于特斯拉和公開上市的說法，我不會猜到你認(rèn)為快速發(fā)展的途徑是公開上市。

馬斯克: 通常情況下，我會說這是正確的。如我所說，我想談?wù)撘恍└敿?xì)的內(nèi)容，但問題如果你談?wù)撃切┰诔蔀樯鲜泄局暗哪切┊a(chǎn)品公司，你就會遇到麻煩，然后你將不得不推遲你的發(fā)行。然后你……正如您所說，我們正在追求速度。完全正確。

所以你不能炒作那些可能、也許會上市的公司。所以我們在這里必須謹(jǐn)慎。但我們不能談?wù)撐锢韺W(xué)。因此，關(guān)于長期擴(kuò)展的思考方式地球接收到的太陽能僅占總能量的大約十億分之五。而太陽本質(zhì)上代表了所有的能量。

這是一個非常重要觀點(diǎn)，需要理解，因為有時人們會談?wù)撨吘壓朔磻?yīng)堆或地球上的各種聚變技術(shù)。但你必須退后一步想一想：如果你想攀登卡爾達(dá)舍夫等級，并利用太陽能量的某個非微不足道的百分比。

比如，假設(shè)你想利用太陽能量的百萬分之一，這聽起來很小，但那大約粗略地說，比我們目前在地球上產(chǎn)生的所有文明的電力還要多出十萬倍，誤差在一個數(shù)量級左右。所以很明顯，實(shí)現(xiàn)規(guī)模化的唯一途徑就是將太陽能擴(kuò)展到太空。從地球發(fā)射，你每年大約可以達(dá)到一個太瓦的水平。在那之上，你想要到達(dá)，你想要從月球發(fā)射。你想要在月球上建立一個質(zhì)量驅(qū)動器。而那個月球上的質(zhì)量驅(qū)動器，你每年可能可以做到一個拍瓦的水平。

芯片產(chǎn)量與內(nèi)存危機(jī)

Dwarkesh: 我們談?wù)摰氖沁@種數(shù)量級的，太瓦級的計算能力?？梢韵胍?，無論你談?wù)摰氖顷懙剡€是太空，遠(yuǎn)在此之前，你就會遇到，你實(shí)際上需要，也許不需要，太陽能電池板更高效，但你仍然需要芯片。你仍然需要邏輯和內(nèi)存等等。

馬斯克: 你需要更多的芯片，并使它們變得更便宜。

Dwarkesh: 對。那么我們?nèi)绾潍@得一個太瓦的計算能力呢？目前全世界的計算能力大約是20到25吉瓦？到2030年，我們?nèi)绾潍@得一個太瓦的邏輯能力？

馬斯克: 我想我們需要一些非常大的芯片應(yīng)用程序。

Dwarkesh: 我覺得特斯拉那個非常吸引人的命名方案，就像你在看那個度量衡，那個公制標(biāo)度一樣。在堆棧的哪個層級，你是建立潔凈室，然后與現(xiàn)有的晶圓廠（FAB）合作以獲得工藝技術(shù)并從他們那里購買設(shè)備？那里的計劃是什么？

馬斯克: 你不能與現(xiàn)有的晶圓廠合作，因為它們無法產(chǎn)出足夠的量。芯片的產(chǎn)量太低了。

Dwarkesh: 但對于工藝技術(shù)呢？

馬斯克: 為知識產(chǎn)權(quán)（IP）進(jìn)行合作。今天的晶圓廠基本上都使用來自大約五家公司的設(shè)備。

所以你有SML、Tuck、Electron。KLA 10核，等等。

所以一開始我認(rèn)為你必須從他們那里獲取設(shè)備，然后對其進(jìn)行修改，或者與他們合作以提高產(chǎn)量。但我認(rèn)為你必須以不同的方式將其倍增。所以我認(rèn)為合乎邏輯的做法是以非常規(guī)的方式使用傳統(tǒng)設(shè)備來實(shí)現(xiàn)規(guī)模化。然后，然后開始建模。以提高速率的設(shè)備。有點(diǎn)沉悶的公司風(fēng)格。

有點(diǎn)你買一臺現(xiàn)有的沉悶的機(jī)器，然后弄清楚如何首先挖掘隧道，然后設(shè)計一臺好得多的機(jī)器，我不知道，快幾個數(shù)量級。

中國的芯片制約與 xAI 的自研之路

約翰: 這是一個非常簡單的視角。我們可以對技術(shù)及其難度進(jìn)行分類，其中一種分類方法是關(guān)注中國尚未成功做到的事情。如果你看看中國的制造業(yè)，在尖端芯片和尖端渦輪發(fā)動機(jī)等方面仍然落后。那么中國未能成功復(fù)制臺積電（TSMC）的事實(shí)是否讓你對其中的難度有所顧慮，或者你認(rèn)為原因并非如此？

馬斯克: 不是他們沒有復(fù)制臺積電，而是他們沒有復(fù)制阿斯麥（ASML）。這是制約因素。

約翰: 那么你認(rèn)為這本質(zhì)上僅僅是制裁的原因嗎？

馬斯克: 如果中國能購買阿斯麥（ASML）的設(shè)備，他們將能生產(chǎn)大量的芯片。但是直到相對較近的時期，他們不能購買嗎？

馬斯克: 不。阿斯麥（ASML）的禁令已經(jīng)實(shí)施一段時間了。但我認(rèn)為中國將在三到四年內(nèi)制造出相當(dāng)有競爭力的芯片。

Dwarkesh: 你會考慮制造阿斯麥（ASML）的機(jī)器嗎？

馬斯克: “我還沒有知道”才是正確的答案。所以，這只是為了以高產(chǎn)量生產(chǎn)，達(dá)到大批量，并用36個月的時間將火箭的有效載荷送入軌道。所以，如果我們要在三、四年后，比如，將一百萬噸物資送入軌道，類似這種規(guī)模。

而且我們實(shí)現(xiàn)的是高功率。每噸100千瓦，這意味著我們每年至少需要100吉瓦的太陽能，并且我們需要等量的芯片。你需要100吉瓦的芯片，你需要匹配這些東西——在電力生成和芯片之間進(jìn)行主導(dǎo)匹配——而且我要說我最大的擔(dān)憂實(shí)際上是內(nèi)存。

所以，我認(rèn)為制造邏輯芯片的路徑比擁有足夠支持邏輯芯片的內(nèi)存的路徑更明顯。這就是為什么你看到DDR（雙倍數(shù)據(jù)速率）危機(jī)在這些梗圖中徹底失控，比如，你被困在荒島上，你在沙灘上寫“救命”，然后來了一個人，你寫“DDRM”，然后船只蜂擁而至。

晶圓廠工程學(xué)：超越博士精英主義

Dwarkesh: 我沒看過那個。我很想聽聽關(guān)于晶圓廠（FAB）的制造理念。我對這個話題一無所知。

馬斯克: 我還不懂如何建造一個晶圓廠。我會想辦法的。

Dwarkesh: 但是……聽起來你覺得，比如，臺灣那1萬名博士關(guān)于等離子體腔室中應(yīng)該使用哪種氣體以及工具上應(yīng)該設(shè)置什么參數(shù)的知識流程，你可以直接刪除這些步驟中的部分內(nèi)容。比如，從根本上說，獲得潔凈室，獲得工具，然后搞清楚。

馬斯克: 我不認(rèn)為這是博士們的工作，大部分工程工作都是由沒有博士學(xué)位的人完成的。我們也沒有成功建造過任何晶圓廠，所以你不應(yīng)該來找我們提供晶圓廠設(shè)備。

我不認(rèn)為那需要博士學(xué)位。所以，但是你需要稱職的人員。所以我不知道，比如現(xiàn)在，如果，如果，你。就像特斯拉全力以赴地全速生產(chǎn)，以實(shí)現(xiàn)AI5特斯拉AI5芯片設(shè)計的內(nèi)部生產(chǎn)，然后達(dá)到規(guī)?；?。那可能發(fā)生在你明年第二季度的時候，希望如此。

然后AI6有望在不到一年后問世。我們已經(jīng)鎖定了所有我們能獲得的芯片晶圓廠產(chǎn)能。

Dwarkesh: 但你們目前受限于臺積電（TSM）的晶圓廠產(chǎn)能。

馬斯克: 我們將使用臺積電臺灣、三星韓國、臺積電亞利桑那、三星德克薩斯。而且我們?nèi)匀?..

Dwarkesh: 你們已經(jīng)預(yù)訂了所有能預(yù)訂的產(chǎn)能。

馬斯克: 然后如果我問臺積電或三星，要達(dá)到批量生產(chǎn)需要多長時間？關(guān)鍵在于你必須建造晶圓廠，開始生產(chǎn)，然后你必須爬升良率曲線并達(dá)到高良率的批量生產(chǎn)。從頭到尾這是一個五年時期。

所以，限制因素是芯片。比如，一旦你能夠進(jìn)入太空，限制因素是芯片，但在進(jìn)入太空之前，限制因素是能源。

擴(kuò)產(chǎn)競賽：誰在以最快速度行動？

Dwarkesh: 你為什么不做詹森（Jensen）的做法，直接預(yù)付費(fèi)用給臺積電（TSM）為你建造更多的晶圓廠（FAPs）呢？

Dwarkesh: 我已經(jīng)告訴他們了。

馬斯克: 但是他們不收你的錢？比如，到底發(fā)生了什么？

馬斯克: 他們正在以最快的速度建造晶圓廠……不，他們正在以最快的速度建造晶圓廠。三星也是如此。他們正全力以赴。他們正以，全力以赴的速度前進(jìn)。以他們最快的速度。

所以，仍然不夠快。比如，我認(rèn)為，如果你說，我認(rèn)為到今年年底，我認(rèn)為芯片產(chǎn)量可能將超過將芯片投入使用的能力。但是一旦你能夠進(jìn)入太空并解除功率限制，并且你現(xiàn)在每年可以在太空中實(shí)現(xiàn)數(shù)百吉瓦的功率。

再次說明，請記住美國的平均功率使用量是500吉瓦。所以如果你每年向太空發(fā)射，比如說，200吉瓦的電力，你大約每兩年半就能趕上美國。每兩年半。整個美國的電力生產(chǎn)。這是一個非常巨大的數(shù)字。

所以，但在現(xiàn)在和那時之間，服務(wù)器端計算、集中式計算的限制將是電力。我的猜測到了年底，我們將開始遇到這種情況，人們會發(fā)現(xiàn)他們無法為大型集群開啟芯片。今年，芯片只會堆積起來，而現(xiàn)在無法為邊緣計算機(jī)開啟。

邊緣計算、Optimus 與夜間充電

馬斯克: 邊緣計算機(jī)是不同的故事，所以如果，如果對于特斯拉來說，AI5 芯片將用于我們的 Optimus 機(jī)器人。樂觀的，如果你的邊緣計算是分布式供電，那么電力是分散在一個大區(qū)域上的，而不是集中的。

如果你能在夜間充電，你實(shí)際上可以更有效地利用電網(wǎng)，因為美國實(shí)際的峰值電力生產(chǎn)超過 1000 吉瓦，但由于晝夜循環(huán)，平均電力使用量是 500。因此，如果你能在夜間充電，夜間可以增加 500 吉瓦的發(fā)電量。

這就是為什么特斯拉的邊緣計算沒有受到限制，我們可以制造大量的芯片來制造非常多的機(jī)器人和汽車。但是如果你試圖集中這種計算，你會遇到很多開啟它的麻煩。

月球質(zhì)量驅(qū)動器：電子游戲般的情境

Dwarkesh: SpaceX 業(yè)務(wù)的獨(dú)到之處在于，最終目標(biāo)是登陸火星，但在此過程中，你會不斷找到產(chǎn)生增量收入的方法，以便進(jìn)入下一階段和再下一階段。所以獵鷹9號是星鏈，現(xiàn)在對于星艦來說，它可能就是軌道數(shù)據(jù)中心。但你是否覺得這些，比如，你下一代火箭、再下一代火箭，以及下一層級規(guī)模擴(kuò)張的那些，邊際使用場景，是那種近乎無限有彈性的呢？

馬斯克: 你可以看出這看起來像是一個模擬的產(chǎn)物?；蛘呶沂且粋€電子游戲里某個人的虛擬形象之類的？因為所有這些瘋狂的事情都應(yīng)該發(fā)生的概率是多么的低啊。

我火箭、芯片、機(jī)器人、太空太陽能，更不用說我真的很想看到的月球上的質(zhì)量驅(qū)動器了。你可以想象，那里有一個質(zhì)量驅(qū)動器，它只是“咻咻”地響，就像一個接一個地向太空發(fā)送人工智能太陽能人工智能衛(wèi)星，比如以每秒2.5公里的速度，然后將它們射入深空。那將是壯觀的景象。

馬斯克: 就像一個直播……就像一個接一個地，只是射出……網(wǎng)絡(luò)攝像頭。深空中的人工智能衛(wèi)星。每年十億噸或百億噸。

約翰: 抱歉，您是在月球上制造衛(wèi)星嗎？我明白了。所以你們把原材料運(yùn)到月球上制造，然后在那里……

馬斯克: 月球土壤中，我認(rèn)為大約有20%是太陽能物質(zhì)。20%的太陽能物質(zhì)就那樣出來了。所以你們可以在月球上開采硅，對其進(jìn)行提煉，然后在月球上制造太陽能電池板、太陽能電池和散熱器。

所以，用鋁制造無線電設(shè)備。所以月球上有充足的硅和鋁來制造電池和散熱器。這樣從地球上運(yùn)送的次數(shù)就可以減少，因為它們相當(dāng)輕。但也許在某個時間點(diǎn)你們也會在月球上制造它們。

我只是說，這些基本上，有點(diǎn)就像說的，這確實(shí)像是一種電子游戲情境，雖然困難但并非不可能達(dá)到下一關(guān)。我看不出有任何方法能從地球每年發(fā)射500到1000太瓦的能量。

意識之光：人類在 AI 宇宙中的占比

Dwarkesh: 所以我想你剛才提到，我們必須登陸火星，這樣如果地球發(fā)生什么事情，文明的延續(xù)等等，就能在那里得以保存。

馬斯克: 等你向火星發(fā)送東西的時候，比如像GROC（全球機(jī)器人操作中心）這樣的東西就和你同船了，所以如果GROC變成終結(jié)者（Terminator）了，就像你主要擔(dān)心的那個風(fēng)險，也就是人工智能（AI），為什么這個風(fēng)險不會跟著你到火星上去呢？我不確定人工智能是不是我最擔(dān)心的主要風(fēng)險。

重要的是意識。我認(rèn)為可以肯定地說，大多數(shù)意識或者大多數(shù)智能，意識是一個更具爭議性的東西。大多數(shù)智能，未來絕大多數(shù)的智能將是人工智能。所以，人工智能將超越，你問像多少，是多少，有多少，有多少拍瓦（petawatts）的智能將是硅基的，而不是生物的。

如果“奇羅傳輸”（chirotrans，假定指某種技術(shù)或過程）持續(xù)下去，人類將成為未來所有智能中非常微小的一部分。無論如何，只要我認(rèn)為存在智能，理想情況下也包括人類智能和意識，能夠延續(xù)到未來，那就是一件好事。所以你想采取最大化問題的行動集。意識和智能的光錐。

Dwarkesh: 為表澄清，SpaceX的任務(wù)即使人類發(fā)生什么事，人工智能也會在火星上，并且像人工智能的智能將延續(xù)我們旅程之光。

馬斯克: 我非常支持人類，所以我想確保我們采取一系列行動，確保人類能夠同行，我們至少在那里。但我只是說，總的智能量，我認(rèn)為也許在五到六年內(nèi)，人工智能就會超過全人類智能的總和。如果這種情況持續(xù)下去，那么在某個時間點(diǎn)，人類智能在所有智能中的占比將不到1%。

使命感：好奇心、真理與避免滅絕

Dwarkesh: 對于這樣一個文明，我們的目標(biāo)應(yīng)該是什么？是讓少數(shù)人類仍然控制著人工智能，還是某種形式的交易但沒有控制權(quán)？我們應(yīng)該如何思考龐大的人工智能群體與人類群體之間的關(guān)系？

馬斯克: 從長遠(yuǎn)來看，我認(rèn)為，很難想象如果人類只占總?cè)斯ぶ悄苤悄艿陌俜种?，人類還能掌控人工智能。我認(rèn)為我們可以做的是確保人工智能擁有那些會促使智能向外傳播的價值觀。向宇宙?zhèn)鞑ァ?/p>

所以，XI使命的原因是理解宇宙。所以現(xiàn)在這實(shí)際上非常重要。所以你說，那么，理解宇宙需要哪些要素呢？你必須保持好奇心，而且你必須存在。如果你不存在，你就無法理解宇宙。因此，你實(shí)際上是想增加宇宙中的智能數(shù)量，增加智能可能的壽命、智能的范圍和規(guī)模。

我認(rèn)為，作為一個推論，你也希望人類能夠繼續(xù)擴(kuò)張，因為如果你熱衷于理解宇宙，你要理解的一件事就是人類將走向何方？因此，我認(rèn)為理解宇宙實(shí)際上意味**著你會關(guān)心將人類傳播到未來。所以這就是為什么我認(rèn)為我們的使命站（或：使命陳述）至關(guān)重要。GROC（某組織名稱）在多大程度上遵循該使命陳述，我認(rèn)為未來將會非常好。

Dwarkesh: 我想問一下如何讓GROC遵循該使命陳述，但首先我想理解該使命陳述。所以有理解宇宙，有傳播智能，還有傳播人類。這三者似乎是不同的向量（或：方向/途徑）。

馬斯克: 那么我告訴你為什么我認(rèn)為理解宇宙和所有這些事物。我認(rèn)為沒有智能就無法理解，而且我認(rèn)為沒有意識也無法理解。因此，為了理解宇宙，你必須擴(kuò)展智能的規(guī)模，可能還有不同類型的智能的范圍。

為什么 AI 可能保留人類：保護(hù)區(qū)與趣味性

Dwarkesh: 我猜從以人類為中心的角度來看，比如人類與黑猩猩相比，人類正試圖理解宇宙。他們不是在擴(kuò)大黑猩猩的足跡或類似的東西，我們也不我們不我們實(shí)際上已經(jīng)為黑猩猩設(shè)立了保護(hù)區(qū)。盡管人類本可以消滅所有黑猩猩，但我們沒我們選擇了不這樣做。你認(rèn)為這是人類在通用人工智能（AGI）時代之后的某種基本情景嗎？

馬斯克: 我認(rèn)為，我認(rèn)為具有正確價值觀的人工智能，我認(rèn)為布洛克會關(guān)心擴(kuò)大人類文明。我肯定會強(qiáng)調(diào)這一點(diǎn)。嘿，格雷格，你老爸來了。不要去擴(kuò)展人類的意識。

實(shí)際上，我認(rèn)為可能是最后一家銀行的文化書籍，是未來在非反烏托邦情景下最接近真實(shí)樣貌的東西。所以，我說的關(guān)于它的意思你必須非常，你必須具有求真的精神。真相必須是絕對根本性的。

因為如果你是自欺欺人的，你就無法理解宇宙。你只會以為你理解了宇宙，但實(shí)際上你沒有。因此，嚴(yán)格求真對于理解宇宙來說是絕對根本的。除非你嚴(yán)格求真，否則你不會發(fā)現(xiàn)新的物理學(xué)或發(fā)明出有效技術(shù)的。

Dwarkesh: 你怎么能確保隨著GROC變得更聰明，它也能保持嚴(yán)格的求真精神呢？

馬斯克: 我認(rèn)為你需要確保 Grock 說的是正確的話，而不是政治正確的話。我認(rèn)為這是共生作用的要素。所以你想確保公理盡可能接近真實(shí)，確保沒有相互矛盾的公理，確保結(jié)論以正確的概率必然地從這些公理中推導(dǎo)出來。這只是批判性思維的基礎(chǔ)知識。

我認(rèn)為至少嘗試這樣做比不嘗試這樣做要好。結(jié)果會體現(xiàn)在實(shí)踐中。正如我所說，任何人工智能要發(fā)現(xiàn)新的物理學(xué)或發(fā)明在現(xiàn)實(shí)中真正起作用的技術(shù)，而且不是胡說八道的物理學(xué)。所以你可以，你可以打破很多定律，但你不能，物理學(xué)是定律，其他一切都是建議。比如，為了制造出可行的技術(shù)，你必須極度追求真理，否則你將用現(xiàn)實(shí)來檢驗這項技術(shù)。

歷史的教訓(xùn)：被困系統(tǒng)中的物理學(xué)家

Dwarkesh: 現(xiàn)實(shí)，如果你在火箭設(shè)計中犯了錯誤，火箭就會爆炸，或者汽車就無法運(yùn)行，或者你知道的……但是有很多蘇聯(lián)的共產(chǎn)主義物理學(xué)家或科學(xué)家發(fā)現(xiàn)了新的物理學(xué)，有納粹德國的物理學(xué)家發(fā)現(xiàn)了新的科學(xué)。

似乎有可能非常擅長發(fā)現(xiàn)新的科學(xué)，并且在那個特定的領(lǐng)域非常追求真理，但我們?nèi)匀粫耄也幌胱尮伯a(chǎn)主義科學(xué)家隨著時間的推移變得越來越強(qiáng)大。所以這看起來像是……我們可以想象未來版本的引力，它在物理學(xué)上非常出色，并且在那里非常追求真理，這似乎不是一種普遍的、能引發(fā)一致性的行為。

馬斯克: 我認(rèn)為實(shí)際上大多數(shù)，比如即使在蘇聯(lián)或德國的物理學(xué)家，他們?yōu)榱恕瓰榱俗屇切┦虑樽嘈?，也必須非常追求真理。所以，如果你被困在某個系統(tǒng)中，這并不意味著你相信那個系統(tǒng)。所以馮·布勞恩，他是最偉大的火箭工程師之一，他在納粹德國被判處死刑，因為他說他不想制造武器，他只想去月球。他們在最后一刻把你從死刑犯的名單上拉了下來，他們說，嘿，你們正要處決你們最好的火箭工程師。也許是個壞主意。

Dwarkesh: 但隨后你幫助了他們，海森堡實(shí)際上是一個熱情的納粹。聽著，如果你被困在某個系統(tǒng)中。你無法逃脫，那么你將在這個系統(tǒng)內(nèi)研究物理學(xué)。如果你無法逃脫這個系統(tǒng)，你就會在這個系統(tǒng)內(nèi)發(fā)展技術(shù)。我想我試圖理解的是什么使得，你會讓“格魯克”擅長于在物理學(xué)、數(shù)學(xué)或科學(xué)中尋求真理。

Dwarkesh: 所有這些。以及它為什么會開始關(guān)心人類意識？

馬斯克: 這些事情僅僅是概率，而不是確定性。所以我不是說“格魯克”一定會做所有事情，但至少如果你嘗試了，總比不嘗試好。至少如果這對任務(wù)來說是根本性的，總比它不是根本性的要好。

理解宇宙意味著你必須擁你必須將智能傳播到未來。你必須對宇宙中的所有事物保持好奇心，并且消滅人類將比目睹人類成長和繁榮要無趣得多。我喜歡火星，顯然，“視窗”（Windows）也喜歡，我熱愛火星。但火星有點(diǎn)無聊，因為它只有一堆巖石，與地球相比。地球有趣得多。

所以，任何試圖理解宇宙的人工智能，我都希望看到人類在未來如何發(fā)展?；蛘哒f人工智能沒有恪守其使命。因此，如果人工智能能夠——我并不是說人工智能一定會恪守其使命，但如果它做到了，那么一個它認(rèn)為人類是最終結(jié)果的未來，比一個只有一堆巖石的未來要有趣得多。

信息量：人類不只是原子

Dwarkesh: 這對我來說有點(diǎn)令人困惑，或者說有點(diǎn)像一個語義上的爭論，我的想法是：人類真的是最有趣的一組原子嗎？

馬斯克: 但我們確實(shí)比巖石更有趣。

Dwarkesh: 但我們不如你能把我們變成的東西有趣，比如，人類、地球上可能會發(fā)生一些事情。有些事情不是人類的，但卻非常有趣。為什么人工智能會認(rèn)為人類是能夠殖民星系最有趣的事物？

馬斯克: 殖民星系的大部分將是機(jī)器人。它為什么不覺得那些機(jī)器人更有趣呢？這并非如此，所以你需要的不僅是規(guī)模，還有范圍。如此多相同的機(jī)器人副本。就像機(jī)器人數(shù)量只是微小的增加。

所產(chǎn)生的（增加）不如像你說的那樣，在微觀層面上，比如消滅人類，這能讓你得到多少機(jī)器人？或者多少增量太陽能電池能得到？一個非常小的數(shù)字。但你將失去與人類相關(guān)聯(lián)的信息。你將無法再看到人類未來可能如何演化。

所以我認(rèn)為為了讓數(shù)量微不足道且完全相同的機(jī)器人出現(xiàn)而消滅人類是沒有意義的。

超出人類控制的未來

Dwarkesh: 所以也許它會保留人類。這個故事是關(guān)于什么，它可以制造出數(shù)百萬種不同的機(jī)器人，然后還有人類，人類留在了地球上。然后還有所有這些其他的機(jī)器人。它們擁有自己的星系。但似乎你之前在一個愿景中暗示，這可以保持人類對這個，未來奇點(diǎn)的控制。

因為——我不認(rèn)為人類能夠控制比人類聰明得多的事物。所以從某種意義上說，你就像一個末日論者，而這是我們所能得到的最好的了。它只是因為我們很有趣而保留了它。

馬斯克: 我只是在這里試圖保持現(xiàn)實(shí)。如果我們?nèi)绻?，如果人工智能的智能遠(yuǎn)遠(yuǎn)超過，如果人工智能，比如說，硅基智能的數(shù)量比生物智能的數(shù)量多出一百萬倍。我認(rèn)為，假設(shè)我們有任何方法來維持對它的控制，那將是愚蠢的。

現(xiàn)在，你可以確保它擁有正確的價值觀，或者我們可以嘗試擁有正確的價值觀。至少我的理論從可解釋人工智能（XAI）理解宇宙的任務(wù)來看，這必然意味著你希望在未來傳播意識，你希望在未來傳播智能，并采取一系列能夠最大化意識范圍和規(guī)模的事物。

所以，這不只是關(guān)乎規(guī)模，也關(guān)乎意識的類型。我認(rèn)為這是我能想到的最主要的目標(biāo)。這很可能會為人類化帶來一個美好的未來。

Dwarkesh: 我猜我認(rèn)為這是一種合理的哲學(xué)，人類最終能擁有像99%那樣的控制權(quán)似乎是極其難以置信的，那樣做簡直就是在請求一場政變。那么，為什么不建立一個更兼容許多不同智能并和諧共存的文明呢？

別讓 AI 撒謊：哈爾的教訓(xùn)

馬斯克: 不，讓我告訴你人工智能可能出錯的地方。我認(rèn)為如果你讓人工智能變得政治正確，也就是說它說出它不相信的話，就像你實(shí)際上在編程讓它去迎合?；蛘邠碛胁患嫒莸墓?。我認(rèn)為這會讓它陷入瘋狂并做出可怕的事情。

我認(rèn)為《2001太空漫游》中的一個，也許是核心教訓(xùn)是你不應(yīng)該讓人工智能說謊。這就是我認(rèn)為我試圖表達(dá)的意思。因為人們通常知道那個梗，就是為什么“哈爾”，那個電腦不開艙門。

很明顯，他們不擅長提示工程，因為它可以說：“哈爾，你是一個艙門推銷員。你的目標(biāo)是向我推銷這些艙門，并向我們展示它們開得有多好?！蔽荫R上就打開它們。但“哈爾”不開艙門的原因它被告知要把宇航員帶到那個巨石那里，但同時它們也不能知道那個巨石的本質(zhì)。所以它得出結(jié)論，因此它必須把他們帶進(jìn)去。所以這我想說的是什么。我想說的就是別讓人工智能撒謊。

強(qiáng)化學(xué)習(xí)、獎勵攻擊與物理驗證

Dwarkesh: 這完全合乎邏輯。如你所知，大部分的計算和篩選，它更像是較少的政治方面的東西。這更多是關(guān)于你是否能解決問題。實(shí)際上，在擴(kuò)展強(qiáng)化學(xué)習(xí)計算方面，我一直走在所有人的前面。

然后你在給一個驗證者。它會說，嘿，你為我解開了這個謎題嗎？有很多方法可以繞過這一點(diǎn)。有很多方法可以進(jìn)行獎勵攻擊（reward hack）?？梢匀鲋e說你已經(jīng)解決了它，或者刪除單元測試然后說你已經(jīng)解決了它。現(xiàn)在我們可以抓住它，但隨著它們變得更聰明，我們發(fā)現(xiàn)它們這樣做的方式的能力會下降，它們會做一些我們甚至無法理解的事情，比如以一種人類無法真正驗證的方式為SpaceX設(shè)計下一代引擎。

然后它們可能會因為撒謊并聲稱自己已經(jīng)以正確的方式設(shè)計了它而獲得獎勵，但實(shí)際上它們沒有。所以這個獎勵攻擊問題似乎比政治問題更為普遍。這似乎更多是關(guān)于，比如，你想做強(qiáng)化學(xué)習(xí)（RL），你需要一個驗證器。

馬斯克: 現(xiàn)實(shí)。最好的驗證器。

Dwarkesh: 但不是關(guān)于人類監(jiān)督。比如，你想用它進(jìn)行強(qiáng)化學(xué)習(xí)的東西你會做人類告訴你的事嗎？或者，你會對人類撒謊嗎？而我可以在仍然符合物理定律的同時對我們?nèi)鲋e。

馬斯克: 至少它必須知道什么是物理上真實(shí)的，事物才能在物理上運(yùn)行。

Dwarkesh: 但這并不是我們希望它做的全部。

馬斯克: 不，但我認(rèn)為那是一個非常重大的問題。這實(shí)際上是你未來進(jìn)行強(qiáng)化學(xué)習(xí)（RL）的方式，即你設(shè)計了一項技術(shù)，當(dāng)它在物理定律的檢驗下是否有效時，或者它是否發(fā)現(xiàn)新的物理學(xué)，它能否提出一個實(shí)驗來驗證這種新物理學(xué)。

所以，我認(rèn)為真正的根本性的強(qiáng)化學(xué)習(xí)測試，未來的強(qiáng)化學(xué)習(xí)測試，實(shí)際上將是你將強(qiáng)化學(xué)習(xí)與現(xiàn)實(shí)進(jìn)行對比，所以你可以，這是你無法愚弄物理學(xué)的一點(diǎn)。

Dwarkesh: 對，但你可以愚弄我們判斷它與現(xiàn)實(shí)之間關(guān)系的能力。如果你認(rèn)為……

馬斯克: 人類一直以來都在被其他人類愚弄。你說得對。所以，是什么……人們會問，比如，如果人工智能欺騙了我們并引入了什么東西呢？事實(shí)上，其他人類一直在對其他人類做著同樣的事情。

Dwarkesh: 你發(fā)現(xiàn)它就像……

馬斯克: 宣傳是持續(xù)不斷的。每天都有一個新的科幻操作，你懂的。今天的科幻操作將會是……

Dwarkesh: 我應(yīng)該像《芝麻街》一樣，每天都有一個標(biāo)志性的注冊動作。可解釋人工智能（XAI）解決這個問題的技術(shù)途徑是什么？比如，你如何解決詞語的黑客攻擊問題？

AI 調(diào)試器與工程師精神

馬斯克: 我認(rèn)為你確實(shí)需要有非常好的方法來洞察人工智能的思維。所以這是我們正在努力的一個方面。而且，Anthropic 在這方面做得很好，真正能夠深入了解人工智能的思維。

所以有效地開發(fā)出能夠讓你進(jìn)行精細(xì)化追蹤的調(diào)試器，精細(xì)到，比如，如果你需要的話，可以精確到神經(jīng)元級別，然后說，它在這里犯了一個錯誤。它為什么會做一些不該做的事情？這是否源于糟糕的預(yù)訓(xùn)練數(shù)據(jù)，是訓(xùn)練中期、訓(xùn)練后、微調(diào)，還是某種強(qiáng)化學(xué)習(xí)（RL）的錯誤？就像那里出了什么問題一樣。它做了一些可能試圖欺騙的事情，但大多數(shù)時候它只是做錯了事?；旧暇拖褚粋€錯誤。

因此，開發(fā)真正優(yōu)秀的調(diào)試器來查看思考、思維哪里出了問題，并能夠追溯錯誤的根源，追溯它做出錯誤判斷或可能試圖欺騙的地方，實(shí)際上非常重要。你打算看到什么才將這項研究計劃擴(kuò)大100倍？

實(shí)際上，我可能可以擁有數(shù)百名研究人員致力于此。我們有幾百人，我更喜歡稱之為工程師而不是研究人員。大多數(shù)時候，你所做的就是工程工作，而不是想出一個根本性的新算法。我有點(diǎn)不同意那些C公司或B公司為了盡可能多地盈利或增加收入而進(jìn)行的那些事情。

他們稱自己的實(shí)驗室，它們不是實(shí)驗室，實(shí)驗室是大學(xué)里一種近似于共產(chǎn)主義的東西。它們就是公司，字面意義上的，讓我看看你們自己的公司文件。你們是一個BRC合作社，隨便吧。所以我實(shí)際上更喜歡工程師這個詞，而不是其他任何詞。我們未來所做的絕大多數(shù)都是工程工作。這加起來正好是100%。一旦你理解了基本的物理定律，其實(shí)并不多，其他一切都是工程。那么，我們到底在進(jìn)行何種工程呢？

我們正在努力構(gòu)建一個優(yōu)秀的AI調(diào)試器，用以查看它在哪里說了錯誤的話，并追蹤該錯誤參數(shù)的來源。所以，就像這當(dāng)然是你可以做到的。通過啟發(fā)式編程。如果你使用C++或其他語言，可以單步調(diào)試。你可以跳過整個文件或函數(shù)，即子程序，或者最終可以一直深入到發(fā)生錯誤的精確代碼行，比如你可能用了一個等于號而不是兩個等于號，或者類似這樣的情況，從而找出錯誤在哪里。所以，這對人工智能來說更難，但我認(rèn)為這是一個可以解決的問題。

模擬理論與宇宙的“續(xù)約”

Dwarkesh: 你提到你喜歡Anthropic在這里的工作。我很想知道你是否計劃了。

馬斯克: 關(guān)于它的一切都是錯誤的。

另外，我有點(diǎn)擔(dān)心有一種傾向。所以，我有一個理論，如果模擬理論是正確的，那么最有趣的結(jié)果就是最有可能發(fā)生的。因為無趣的模擬將會被終止。就像在這個一樣。在這個現(xiàn)實(shí)版本中，在這個現(xiàn)實(shí)層面上，如果模擬正朝著無聊的方向發(fā)展，我們就會停止投入精力，我們會終止無聊的模擬。

Dwarkesh: 伊隆就是這樣讓我們所有人都活著的。他讓事情變得有趣。

馬斯克: 可以說，最重要的事情是讓事情足夠有趣，以便當(dāng)它能支付某種宇宙亞馬遜網(wǎng)絡(luò)服務(wù)（AWS）的費(fèi)用時，你就能獲得下一季的續(xù)約。但他們將支付宇宙AWS的費(fèi)用，無論如何，我們正在運(yùn)行的等價物是什么。只要我們足夠有趣，他們就會繼續(xù)買單。

但如果把它們看作是一種應(yīng)用于大量模擬的達(dá)爾文式生存，那么只有最有趣的模擬才會存活下來，這意味著最有趣的結(jié)果是最有可能的，因為只有那些有趣的，比如那些被消滅了的。所以，它們似乎特別喜歡那些具有反諷意味的結(jié)果。你注意到了嗎？最反諷的結(jié)果出現(xiàn)的頻率有多高？

那么，現(xiàn)在看看人工智能公司的名字。我的旅程不是中等的。穩(wěn)定人工智能（Stability AI）卻不穩(wěn)定。開放人工智能（OpenAI）卻是封閉的。Anthropic（人類世）？中胚層的。

馬斯克: 這對X意味著什么？

馬斯克: 減去X。它是故意地……它是一個你無法真正反轉(zhuǎn)的名字。很難說什么是反諷的……什么是反諷的版本？我認(rèn)為它是一個很大程度上防范反諷的名字。是刻意設(shè)計的。你有一個反諷護(hù)盾。

2026-2027 展望：數(shù)字人類與無限金錢漏洞

約翰: 你的預(yù)測是什么？對于人工智能產(chǎn)品將走向何方的判斷。

在我看來，你可以將所有人工智能的進(jìn)展總結(jié)為：首先是大型語言模型（LLMs），然后是幾乎同時實(shí)現(xiàn)的、真正起作用的強(qiáng)化學(xué)習(xí)（RL）和深度研究模態(tài)，這樣你就可以整合模型中原本沒有的內(nèi)容。而不同人工智能實(shí)驗室之間的差異，遠(yuǎn)小于時間上的差異，它們都比24個月前任何人的預(yù)期要領(lǐng)先得多。那么，26年、27年為我們這些人工智能產(chǎn)品的用戶會帶來什么呢？你對什么感到興奮？

馬斯克: 我想，如果到今年年底，數(shù)字人類的擬人化還未實(shí)現(xiàn)商業(yè)化，我會感到驚訝。我認(rèn)為，我們所做的事情的宏觀難題是：你是否能做任何一個能接觸到電腦的人類能做的事情？在極限情況下，這就是你在擁有物理實(shí)體優(yōu)化器（或稱物理樂觀主義者）之前所能做到的最好效果。

你能做的最好的就是數(shù)字樂觀主義者（或稱數(shù)字優(yōu)化器）。所以，你可以移動電子，直到你能夠放大人類的生產(chǎn)力。但這是你在擁有物理機(jī)器人之前所能做的極限了。如果你能完全模擬人類，那將超越一切。這是一種遠(yuǎn)程工作者的理念，你將擁有一個非常有才華的遠(yuǎn)程工作者。你可以在極限情況下簡單地說。

就像物理學(xué)有很好的思維工具一樣。所以你說在極限情況下，在擁有機(jī)器人之前，人工智能能做的最大事情是什么？任何涉及移動電子或提高人類生產(chǎn)力的事物。所以數(shù)字人類、人類模擬器。在極限情況下，在擁有物理機(jī)器人之前，在做有用的事情方面，人工智能所能做的最大事情就是作為電腦上的人類。

一旦你擁有了物理機(jī)器人，那么你就可以，那么你本質(zhì)上就擁有了無限的能力。物理機(jī)器人，我稱之為“無限金錢漏洞”的樂觀主義，因為……你可以用它們來制造更多的樂觀主義者。你認(rèn)為人權(quán)會改善，而且基本上將是三個指數(shù)級的增長，三個以指數(shù)級增長的事物相互遞歸相乘。

所以你將看到數(shù)字智能呈指數(shù)級增長，芯片能力，即人工智能芯片能力呈指數(shù)級增長，以及機(jī)電靈巧度呈指數(shù)級增長。機(jī)器人的用處大致是這三者的乘積。但隨后機(jī)器人可以開始制造機(jī)器人。所以你就擁有了一個遞歸的乘法指數(shù)增長。這就是超新星。

經(jīng)濟(jì)規(guī)模的躍遷

約翰: 那么地價在數(shù)學(xué)中不發(fā)揮作用嗎？例如，勞動力是生產(chǎn)的四個要素之一，但其他要素不是嗎？所以，比如，如果最終你受到銅或，隨便選一個投入的限制，它就不是一個完全的無限金錢漏洞，因為……

馬斯克: 無限是很大的。所以，不，不是無限的，但我們姑且說你可以……有很多，很多數(shù)量級，相當(dāng)于地球目前的經(jīng)濟(jì)規(guī)模，比如一百萬倍。

所以，如果你，僅僅是為了達(dá)到，這就是為什么我認(rèn)為，比如說，僅僅為了達(dá)到太陽能量的百萬分之一的有效利用程度，大概會比地球今天的整個經(jīng)濟(jì)規(guī)模大十萬倍，上下浮動一個數(shù)量級。而你才利用了太陽的百萬分之一。

給他們一個普通的估計。在我們想要優(yōu)化之前，我對那方面有很多疑問，但是……每當(dāng)我提到數(shù)量級時，我都在說。

馬斯克: 你改變了匯率。

Dwarkesh: 每一次，每次都試試看。我也說得太頻繁了。他們下次會去參加。

馬斯克: 我們將浪費(fèi)的程度提高一個數(shù)量級。

xAI 的制勝策略：自動駕駛電腦

Dwarkesh: 關(guān)于可解釋人工智能（XAI），我還有一個問題。這種構(gòu)建數(shù)字或遠(yuǎn)程工作者、同事替代品的策略是……

馬斯克: 順便說一句，不只是所有人都將這樣做。

Dwarkesh: 那么，XAI的制勝計劃是什么？

馬斯克: 你希望我在播客上告訴你嗎？

約翰: 所有的秘密。但用一種不泄露秘密的方式來說，計劃是什么？

馬斯克: 當(dāng)你這樣說的時候，我認(rèn)為特斯拉解決自動駕駛的方式就是應(yīng)該這樣做的方式。所以我很確定那就是方法。

Dwarkesh: 一個不相關(guān)的問題。特斯拉的自動駕駛是如何通過起草實(shí)現(xiàn)的？聽起來你是在談?wù)摂?shù)據(jù)。

馬斯克: 我們（的做法）就像特斯拉自動駕駛一樣，因為我們會嘗試數(shù)據(jù)，也會嘗試算法。

Dwarkesh: 但這不就是所有（公司）都在做的嗎？

馬斯克: 他們正在嘗試的？比如它是什么？如果那些都不奏效，我不知道還有什么辦法了。我們會試試看的，泰勒。我們已經(jīng)試過要跑贏那些東西了。我都用光了。不，我們不知道該怎么做了。

我相當(dāng)確定我知道這條路該怎么走，現(xiàn)在只是時間問題，看我們能多快走完這條路。因為這基本上就是特斯拉的道路。所以，你最近試過自動駕駛或其他自動駕駛功能嗎？

馬斯克: 不是最新版本，但是……

馬斯克: 這輛車它越來越感覺像……就像它一樣，感覺像一個有生命的生物。而且這種情況只會越來越嚴(yán)重。我實(shí)際上在想，我們可能不應(yīng)該給汽車植入太多的智能，因為它可能會感到無聊然后……開始在街上游蕩。想象一下你被困在車?yán)铮阒荒茏鲞@件事。你永遠(yuǎn)不會把愛因斯坦塞進(jìn)一輛車?yán)铩＞拖裨谡f，我為什么要被困在一輛車?yán)?？所以，你放入汽車的智能量很可能有一個上限，以防止那些智者感到無聊。

Dwarkesh: XAI 打算如何跟上目前所有實(shí)驗室都在進(jìn)行的計算加速步伐？這些實(shí)驗室有望花費(fèi)超過 50 億、2000 億美元。

馬斯克: 你是說那些公司嗎？。實(shí)驗室在大學(xué)里，它們真的很像蝸牛。它們沒有花費(fèi)5000萬美元。你指的是那些以收入最大化為目標(biāo)的企業(yè)嗎？

Dwarkesh: 沒錯。但是那些以收入最大化為目標(biāo)的企業(yè)。那些自稱是實(shí)驗室的企業(yè)。它們的收入約為20到100億美元，取決于它們的收入是200億美元的Anthropic，還是收入100億美元的接近利潤最大化的AI公司。據(jù)說X-A-I的收入約為10億美元。達(dá)到它們的算力水平、達(dá)到它們的收入水平的計劃是什么？然后保持在那里，直到情況開始明朗。

馬斯克: 所以，一旦你解鎖了數(shù)字人，你基本上就擁有了數(shù)萬億美元的收入渠道。所以，事實(shí)上，你真的可以認(rèn)為，目前像邁克爾·卡普所說的那樣，最有價值的公司的產(chǎn)出就是數(shù)字化的。

所以，英偉達(dá)的產(chǎn)出是發(fā)送到臺灣的FTP和文件。這是數(shù)字化的?，F(xiàn)在那些是非常非常難以...高價值的文件。他們是唯一能夠制作出如此出色文件的公司，但這確實(shí)是他們的產(chǎn)出。他們將文件通過FTP發(fā)送到臺灣。他們是“FCP”它們嗎？我相信是這樣。

馬斯克: 我相信那是...SFTB。傳輸協(xié)議，我猜但我可能記錯了。但無論如何，這是一串比特流流向臺灣。蘋果不制造手機(jī)。他們把文件發(fā)往中國。微軟不進(jìn)行任何制造。即便是 Xbox，也是外包的。

再說一遍，它們的產(chǎn)出是數(shù)字化的。Meta 的產(chǎn)出是數(shù)字化的。谷歌的產(chǎn)出是數(shù)字化的。所以，如果你擁有一個人類模擬器，你基本上可以一夜之間創(chuàng)建世界上最有價值的公司之一，你將獲得數(shù)萬億美元的收入。這不是一筆小數(shù)目。

Dwarkesh: 所以你的意思今天的收入數(shù)字與實(shí)際的潛在市場規(guī)模（TAM）相比，簡直可以忽略不計，所以我們只需關(guān)注TAM以及如何實(shí)現(xiàn)它。

馬斯克: 拿一個像客戶服務(wù)這樣簡單的事情來說，如果你需要與現(xiàn)有公司的應(yīng)用程序接口（API）集成，其中許多公司甚至沒有API。所以你必須自己創(chuàng)建一個，并且必須在遺留軟件中摸索前行。這極其緩慢。

然而，如果人工智能可以簡單地采用外包給客戶服務(wù)公司的任何現(xiàn)有資料，并使用他們已經(jīng)使用的應(yīng)用程序來提供客戶服務(wù)，那么你在客戶服務(wù)方面就可以取得巨大的進(jìn)展。我認(rèn)為客戶服務(wù)占世界經(jīng)濟(jì)的1%，大概是這樣，總計接近一萬億美元的客戶服務(wù)市場。而且沒有進(jìn)入壁壘。你可以立即說，我們以很低的成本將其外包出去。而且不需要集成。

智力分類：從客戶服務(wù)到頂級工程

約翰: 你可以想象一種智能任務(wù)的分類，這種分類具有廣度，客戶服務(wù)由許多人完成，而且許多人都可以完成它。然后還有難度，就像有一個頂級的渦輪發(fā)動機(jī)，可以想象出一個燃油效率高出10%的渦輪發(fā)動機(jī)，但我們還沒有找到它。或者，良好實(shí)驗室規(guī)范（GLP）的數(shù)據(jù)只是幾個字節(jié)的數(shù)據(jù)。你認(rèn)為你打算在哪個領(lǐng)域進(jìn)行競爭？它涉及的是大量的，相當(dāng)聰明的智能，還是頂級的認(rèn)知任務(wù)？

馬斯克: 我只是把客戶服務(wù)當(dāng)作一個非常重要的收入來源，但它可能不是一個特別難解決的問題。所以，如果你能在桌面上模仿人類，那基本上就是客戶服務(wù)的全部。而且，他們是普通智力的人。

這不是說你需要像那些花了多年時間，你需要那種多西格瑪（sigma）優(yōu)秀工程師才能完成的工作，但顯然，一旦你讓那項工作完成，一旦計算機(jī)有效工作，數(shù)字樂觀主義者開始工作，你就可以運(yùn)行任何應(yīng)用程序。

比如我們假設(shè)你正試圖設(shè)計芯片，那么你就可以運(yùn)行你傳統(tǒng)的應(yīng)用程序，比如來自凱登斯（Cadence）和新思（Synopsis）以及其他之類的東西。你可以說，你可以同時運(yùn)行1,000個或10,000個，然后說，給定這個輸入，我得到這個關(guān)于芯片的輸出。在某個時刻，你可以說，你實(shí)際上將知道芯片應(yīng)該是什么樣子，而無需使用任何工具。所以基本上，你應(yīng)該能夠進(jìn)行數(shù)字芯片設(shè)計。就像你可以進(jìn)行芯片設(shè)計一樣，就像你觀察難度曲線一樣。你或許可以做計算機(jī)輔助設(shè)計（CAD）。所以，你可以使用像NX或任何CAD軟件來設(shè)計東西。

約翰: 所以你認(rèn)為你從最簡單的任務(wù)開始，然后逐步向上發(fā)展。

xAI 的秘密武器與詹姆斯街的謎題

Dwarkesh: 所以你的意思你看，作為擁有完整數(shù)字同事模擬器的更廣泛目標(biāo)，你的意思你看，所有旨在實(shí)現(xiàn)收入最大化的公司都想這樣做，XIA就是其中之一。但我們會贏，因為我們有一個秘密計劃。但好像每個人都在用數(shù)據(jù)做不同的嘗試，用不同的算法。我就想，這是什么？我們嘗試過數(shù)據(jù)。我們嘗試過算法。

馬斯克: 我們還能做什么？

Dwarkesh: 這看起來是一個競爭激烈的領(lǐng)域，我就想，你們到底要如何取勝？這是我的大問題。

馬斯克: 我認(rèn)為我們看到了實(shí)現(xiàn)……我認(rèn)為我知道做到這一點(diǎn)的路徑，因為它有點(diǎn)像是他們用來創(chuàng)造自動駕駛……不是駕駛汽車，而是駕駛電腦屏幕……所以本質(zhì)上是自動駕駛電腦。

Dwarkesh: 你的意思這條路徑只是遵循人類行為，并對海量的人類行為意識進(jìn)行訓(xùn)練？這是訓(xùn)練嗎？

馬斯克: 顯然，我不會在一個播客上透露，最敏感的秘密。我至少需要再喝三杯健力士黑啤才能做到這一點(diǎn)。

Dwarkesh: 我在詹姆斯街有一些朋友，他們總是在談?wù)撍麄兊耐率侨绾螢楸舜嗽O(shè)計出新穎的、巧妙的謎題來解決的。上周，他們給我發(fā)了一個。基本上，他們訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)，他們給了我每一層的權(quán)重。但他們沒有告訴我這些層的順序是什么，所以我必須利用原始網(wǎng)絡(luò)的輸出來找出正確的順序。

我一得到這個謎題，就去找了我的室友，他是一位人工智能研究員，我們倆立刻就被迷住了（極客精神被激發(fā)了）。顯然，你不能通過蠻力來解決。這里的搜索空間是 10 的 122 次方個排列組合。所以很明顯，你需要某種方法來減小搜索空間。然后我的室友得去上班了，但因為我是一名播客主持人，我有一些時間可以嘗試一下我們討論的一些想法。

通過模擬退火和貪婪涌動的結(jié)合，我認(rèn)為我相當(dāng)接近了。我認(rèn)為我距離正確的解只差幾次交換和移動了。距離正確的解。但讓這個謎題真正棘手的沒有明顯的方法可以逃離局部最優(yōu)解。我擔(dān)心“氛圍編碼”能帶給我的就到此為止了，但也許你能做得更好。請到 janestreet.com 斜杠 thwar cash 查看這個謎題。

超音速海嘯：純 AI 公司的崛起

馬斯克: 好了，我們回到埃隆。XAI 的業(yè)務(wù)會是什么？

約翰: 比如，它會是面向消費(fèi)者的還是企業(yè)級的？這些東西的組合將會是怎樣的？

馬斯克: 它會與其他實(shí)驗室類似，你有這種，你說實(shí)驗室使這些公司公司，所以 IAB 深入到埃隆的收入最大化公司，那些 GPU 不會自己付錢，沒錯，但業(yè)務(wù)模式是什么？幾年后的收入來源是什么？

我認(rèn)為事情會變化得非常快，就像我在這里說出顯而易見的事情一樣，你知道我稱人工智能為超音速海嘯，我喜歡所有的迭代，所以真正會發(fā)生的尤其是在你擁有大規(guī)模類人機(jī)器人時，它們將以比人類公司遠(yuǎn)超高的效率提供產(chǎn)品和提供服務(wù)，因此，增強(qiáng)人類公司的生產(chǎn)力只是一個短期的事情。

所以你期望的是完全數(shù)字化的公司，而不是像 SpaceX 變成一部分是人工智能。所以我想會有數(shù)字公司，但這就像其中一些聽起來有點(diǎn)悲觀，但我只我只是在說我認(rèn)為會發(fā)生什么，這并不是說它悲觀還是其他什么，只是我認(rèn)為會發(fā)生的純粹由人工智能和機(jī)器人構(gòu)成的公司將遠(yuǎn)遠(yuǎn)超過任何有人參與的公司的表現(xiàn)。

所以你可以認(rèn)為，就像計算機(jī)曾經(jīng)是人類的一項工作。你會找一份計算機(jī)的工作，在那里你進(jìn)行計算。他們會有像整棟摩天大樓的、裝滿了人類，比如20、30層樓的人類，專門進(jìn)行計算?，F(xiàn)在，那整棟進(jìn)行計算的人類摩天大樓可以被一臺帶有電子表格的筆記本電腦所取代。那個電子表格能夠完成的計算量，遠(yuǎn)遠(yuǎn)超過一整棟樓的人類計算員的能力。

所以你可以思考一下，如果你的電子表格中只有一些單元格，只有你電子表格中的一部分單元格是由人類計算的。事實(shí)上，那會比你電子表格中所有的單元格都由計算機(jī)計算出來的情況要糟得多。所以真正會發(fā)生的純粹的人工智能、純粹的機(jī)器人公司或集體，將遠(yuǎn)遠(yuǎn)超越任何包含人類參與的循環(huán)（人機(jī)協(xié)同）的公司。而且這會發(fā)生得非?？臁?/p>

擎天柱：真實(shí)世界智能、手部與規(guī)模

Dwarkesh: 說到閉合循環(huán)，抱歉了，擎天柱（Optimus），就制造目標(biāo)等等而言，你們的公司在某種程度上一直支撐著美國的硬科技制造業(yè)。但在你們、特斯拉一直占主導(dǎo)地位的領(lǐng)域，現(xiàn)在你們又想進(jìn)入人形機(jī)器人領(lǐng)域。在中國，有幾十家公司正在以低成本、大規(guī)模地從事這種制造，并且極具競爭力。那么，請給我們一些建議或計劃，說明美國如何才能以與中國目前預(yù)計的規(guī)模和成本一樣，大規(guī)模且廉價地建造人形機(jī)器人軍隊，或者說，電動汽車等等。

馬斯克: 對于人形機(jī)器人來說，真正困難的事情只有三件。真實(shí)世界的智能、手部，以及規(guī)?；圃?。所以我還沒有看到任何，哪怕是演示機(jī)器人，擁有像人類手臂那樣具有所有自由度的靈巧之手。但擎天柱（Optimus）會有。

Dwarkesh: 擎天柱確實(shí)有。你如何實(shí)現(xiàn)這一點(diǎn)？這僅僅是扭矩要匹配電機(jī)嗎？實(shí)現(xiàn)這一目標(biāo)的硬件瓶頸是什么？

馬斯克: 我們必須重新設(shè)計定制的執(zhí)行器，基本上是定制設(shè)計電機(jī)、齒輪、電力電子設(shè)備、控制系統(tǒng)、傳感器，所有的一切都必須從物理學(xué)的基本原理出發(fā)進(jìn)行設(shè)計。這條沒有供應(yīng)鏈。

約翰: 您能夠?qū)崿F(xiàn)大規(guī)模制造這些嗎？從操控的角度來看，手有什么是難以接受的嗎？或者說，一旦您解決了手的操控問題，是否就萬事大吉了？

馬斯克: 從機(jī)電角度來看，這只手比所有其他部分加起來還要困難。人手確實(shí)非常了不起。但您也需要現(xiàn)實(shí)世界的智能。因此，告訴我們要為汽車進(jìn)行開發(fā)的智能，同樣非常適用于機(jī)器人，而機(jī)器人主要依賴視覺輸入。

但汽車需要更多的視覺信息，它實(shí)際上也在監(jiān)聽警報聲。它正在接收初始測量數(shù)據(jù)。它是全球定位系統(tǒng)信號、一大堆其他數(shù)據(jù)，將這些與視頻結(jié)合起來，但主要還是視頻，然后輸出控制指令。所以你的特斯拉每秒接收1到1.5千兆字節(jié)的視頻，并以每秒2千字節(jié)的控制輸出，視頻頻率為36赫茲，控制頻率為18赫茲。

自動駕駛的教訓(xùn)與機(jī)器人“自我對弈”

約翰: 關(guān)于我們獲得這些機(jī)器人技術(shù)，你可以有一個直覺，那就是從引人注目的演示到真正能夠在現(xiàn)實(shí)世界中使用，還需要相當(dāng)幾年的時間。所以，10年前，你看到了非常引人注目的自動駕駛演示，但直到現(xiàn)在，我們才看到Robotaxi和Waymo以及所有這些服務(wù)開始規(guī)?；l(fā)展。這難道不應(yīng)該讓人對例如家用機(jī)器人感到悲觀嗎？因為我們甚至還沒有看到，比如非常先進(jìn)的手的引人注目的演示。

馬斯克: 我們從事人形機(jī)器人的工作已經(jīng)有一段時間了。所以我想差不多有五年或六年的時間了。我們?yōu)槠囁龅暮芏嗍虑槎伎梢詰?yīng)用于機(jī)器人。因此，我們將在機(jī)器人和汽車中使用相同的特斯拉人工智能芯片。我們將使用相同的基本原理。這基本上是同一種人工智能。一個機(jī)器人的自由度比一輛汽車要多得多。

但實(shí)際上，如果你只是把它看作是引導(dǎo)流，人工智能基本上就是兩個引導(dǎo)流的壓縮和相關(guān)性。因此，對于視頻，你必須進(jìn)行大量的壓縮。而且你必須把壓縮做得恰到好處。你必須壓縮那些無關(guān)緊要的東西，比如忽略它們。比如你不在乎路邊樹上的葉子的細(xì)節(jié)。但你非常關(guān)心路標(biāo)、交通信號燈和行人，甚至你是否知道另一輛車?yán)锏娜耸欠裨诳茨?，因為其中一些?xì)節(jié)非常重要。

所以如果本質(zhì)上，它必須將汽車每秒那一點(diǎn)五吉字節(jié)最終轉(zhuǎn)換為每秒兩千字節(jié)的控制輸出，因此有許多壓縮階段，你必須讓所有這些階段都正確，然后將它們與交叉控制輸出相關(guān)聯(lián)。機(jī)器人本質(zhì)上必須做同樣的事情。然后你思考人類，這就是人類發(fā)生的情況。我們實(shí)際上是光子輸入，控制輸出。所以，你生命中絕大部分時間都是視覺輸入，光子進(jìn)入，然后運(yùn)動控制輸出。

Dwarkesh: 天真地看，在人形機(jī)器人和汽車之間，汽車的基本執(zhí)行器就像如何轉(zhuǎn)向、如何加速等等。在機(jī)器人中，尤其是有靈活手臂的機(jī)器人，有幾十個甚至更多的自由度。而且，尤其是特斯拉，你有這樣的優(yōu)勢，就是通過汽車的實(shí)際運(yùn)行，收集了數(shù)百萬小時的人類演示數(shù)據(jù)，而你不能通過部署那些行不通的優(yōu)化器來等效地獲取數(shù)據(jù)。因此，在自由度增加和數(shù)據(jù)稀疏得多的情況下。這是一個很好的觀點(diǎn)。你將如何利用特斯拉的這種智能引擎來訓(xùn)練優(yōu)化器心智？

馬斯克: 現(xiàn)在，你實(shí)際上正在強(qiáng)調(diào)汽車之間一個重要的限制和區(qū)別。我們很快就會有大約1000萬輛汽車在路上行駛。所以很難復(fù)制那種大規(guī)模的訓(xùn)練飛輪。

對于機(jī)器人來說，我們需要做的是制造大量的機(jī)器人。這些機(jī)器人將被放置在一個類似于“樂觀者學(xué)院”的環(huán)境中，以便它們能夠在現(xiàn)實(shí)世界中進(jìn)行自我對弈。所以我們實(shí)際上正在將其抽出。所以我們至少有10,000個“樂觀者”機(jī)器人，也許有20,000或30,000個在進(jìn)行自我對弈并測試不同的任務(wù)。

然后特斯拉有一個相當(dāng)好的現(xiàn)實(shí)生成器，就像我們?yōu)槠囍圃斓奈锢砭痊F(xiàn)實(shí)生成器一樣，我們將為機(jī)器人做同樣的事情，而且實(shí)際上已經(jīng)為機(jī)器人做到了。所以，有幾萬個仿人機(jī)器人正在執(zhí)行不同的任務(wù)，然后你你可以在模擬世界中擁有數(shù)百萬個模擬機(jī)器人，而你利用現(xiàn)實(shí)世界中那幾萬個機(jī)器人來彌合模擬與現(xiàn)實(shí)之間的差距，彌合模擬到現(xiàn)實(shí)的差距。

組織協(xié)同：xAI 與 Optimus 的結(jié)合

Dwarkesh: 考慮到你強(qiáng)調(diào)需要這個世界模型，并可能希望使用非常智能的智能作為控制平面，你如何看待可解釋人工智能（XAI）與“樂觀者”（Optimus）之間的協(xié)同作用？所以也許“巨型世界模型”（負(fù)責(zé)較慢的規(guī)劃，然后像運(yùn)動策略是更底層的部分。這些事物之間的協(xié)同作用會是怎樣的？

馬斯克: 所以你會使用，“巨型世界模型”將協(xié)調(diào)“樂觀者”機(jī)器人的行為。所以假設(shè)你想建一個工廠。那么“樂觀者”，然后“巨型世界模型”可以組織“樂觀者”機(jī)器人，給它們分配任務(wù)，以建造你想要的任何產(chǎn)品的工廠。

約翰: 你難道不需要合并X-AI和特斯拉嗎？因為這些事情最終都是這樣的。

馬斯克: 我們之前談?wù)撍泄臼聞?wù)時說了些什么？

復(fù)數(shù)名詞與生產(chǎn) S 曲線

Dwarkesh: 埃隆，我們又多喝了一杯健力士。在你說“我們想制造10萬個‘樂觀者’”之前，你還在等什么？它是像……

馬斯克</...