本篇文章轉(zhuǎn)載自「AI產(chǎn)品阿穎」

如果你留意的話，會發(fā)現(xiàn)最近 OpenAI 在芯片和數(shù)據(jù)中心方向出手頗多。

它一手在自建芯片，另外一手又著手和英偉達、AMD、Oracle 等公司合作，推動新一代的 AI 基礎(chǔ)設(shè)施建設(shè)。

為什么要這么干？芯片、數(shù)據(jù)中心對于 AI 的意義是什么？自研芯片的難點在哪里？目前的芯片熱是泡沫嗎？

Groq 創(chuàng)始人 Jonathan Ross 的最新一期訪談，能很好地回答這些問題。

Groq 是一家專注超低時延 AI 推理的 LPU 芯片與云服務(wù)公司，他們將自己定位為英偉達的最大挑戰(zhàn)者。

這期播客訪談的信息量很大：

• 「如果現(xiàn)在給 OpenAI 的推理算力翻一倍，給 Anthropic 的推理算力翻一倍，那么在一個月之內(nèi)，他們的收入幾乎會翻倍?！?AI 應(yīng)用的增長目前完全受限于算力的供給，誰能獲得更多算力，誰就能服務(wù)更多用戶，賺更多錢。

• AI 與以往的技術(shù)革命不同，其增長幾乎不受單一要素的制約。AI 的三要素：數(shù)據(jù)、算法、算力，只要提升其中任意一項，AI 的整體表現(xiàn)就會變好。而在實踐中，最容易調(diào)整、見效最快的就是算力。

• 傳統(tǒng)觀念認為，產(chǎn)品的護城河在于技術(shù)專利、品牌或網(wǎng)絡(luò)效應(yīng)。但一個差異化且高效的供應(yīng)鏈本身就是一條極深的護城河。

• 在需求近乎無限的市場中，最稀缺的不是「最好的產(chǎn)品」，而是「可獲得的產(chǎn)品」。你的護城河，就是你為客戶提供的確定性和可得性。

• 制造芯片的難度被外界嚴重低估了。芯片的成功不僅在于硬件設(shè)計本身，而是其背后極為復(fù)雜的軟件生態(tài)、持續(xù)的工程優(yōu)化和對整個技術(shù)生態(tài)演進節(jié)奏的精準把握。

• 科技巨頭為什么都在「造芯」？并不是單純?yōu)榱嗽谛阅苌铣接ミ_，而是為了「掌控自己的命運」，關(guān)鍵在于供應(yīng)鏈的博弈和議價權(quán)。

• 一個反直覺的現(xiàn)實是，市場上依然有大量接近五年前發(fā)布的英偉達 H100 GPU 在被高價租用，并且其產(chǎn)生的收入遠高于運營成本。整個市場的算力供給遠不應(yīng)求。

• 在算力稀缺的時代，交付能力的重要度遠超一切，能夠穩(wěn)定、快速地提供產(chǎn)品本身，構(gòu)成了強大的護城河。

原訪談鏈接：https://www.youtube.com/watch?v=VfIK5LFGnlk

超 15000 人的「AI 產(chǎn)品市集」社群！不錯過每一款有價值的 AI 應(yīng)用。

邀請從業(yè)者、開發(fā)人員和創(chuàng)業(yè)者，飛書掃碼加群：

進群后，你有機會得到：

• 最新、最值得關(guān)注的 AI 新品資訊；
  

• 不定期贈送熱門新品的邀請碼、會員碼；
  

• 最精準的AI產(chǎn)品曝光渠道

01

芯片要自建？難得很主持人：我們現(xiàn)在到底處在什么階段？世界的發(fā)展似乎比以往任何時候都要快。

Jonathan Ross：你是問，這是不是一個泡沫嗎？

主持人：到底是不是呢？

Jonathan Ross：關(guān)于是不是泡沫，我的回答是，如果一個人總是問一個問題卻得不到答案，也許他應(yīng)該換個問題。

所以，與其問是不是泡沫，不如去看看那些真正有實力、眼光精準的投資者，他們現(xiàn)在在干什么。

Google 在做什么？Microsoft 在做什么？Amazon 在做什么？還有很多政府，他們都在加碼 AI。

大家的投入在不斷增加，幾乎每次對外公布預(yù)算時，都會比上一次多。

最能體現(xiàn)投資收益的例子之一就是微軟。

有一季度他們部署了一大批 GPU，然后宣布不會把這些 GPU 放在 Azure 上出租，因為他們自己用這些 GPU 賺到的錢，比租出去賺得還多。

所以市場里是真有錢的。

我覺得最好的比喻是，現(xiàn)在就像石油勘探早期，很多地方鉆下去都是空的，只有極少數(shù)地方能噴出大量石油。

據(jù)我聽說，現(xiàn)在大概有 35 或 36 家公司貢獻了 99% 的 AI 收入，或者至少是算力開銷。分布非常不均。

主持人：現(xiàn)在七巨頭是否都意識到，他們需要進入芯片領(lǐng)域，掌控整個垂直鏈條，從頭到尾？

Jonathan Ross：我認為不會有太多人能真正成功進入芯片領(lǐng)域。

很多人把 TPU 看作一個巨大成功，但他們沒意識到，當時 Google 其實有大約三個芯片項目在同時進行，只有一個最終超越了 GPU。

在整個行業(yè)里，也有很多人做芯片，但有些項目會被取消，比如特斯拉的 Dojo 項目最近就被砍掉了。

造芯片非常難。你要是說我自己做一顆 AI 芯片來和英偉達競爭，這就好比說 Google 搜索挺好用的，我來復(fù)制一個吧。

這幾乎是瘋狂的，因為里面涉及的優(yōu)化、設(shè)計和工程深度極其復(fù)雜，幾乎不可能復(fù)制成功。

主持人：我們之前提到過，要想留在七巨頭里，就必須花錢。比如英偉達向 OpenAI 投資 1000 億美元，而 OpenAI 只是再用這筆錢買回英偉達的芯片。這聽起來不就是一個資金在圈子里打轉(zhuǎn)的循環(huán)嗎？

Jonathan Ross：只有當這筆錢沒有真正流向芯片供應(yīng)商去生產(chǎn)時，才叫資金在空轉(zhuǎn)。但只要產(chǎn)生了實際的生產(chǎn)性結(jié)果，就不能算是資金繞圈。

大家可以這樣想：這些錢里有多少百分比是真正花在建設(shè)基礎(chǔ)設(shè)施上的？比如 40%？那么至少 40% 的資金是真正流向了生態(tài)系統(tǒng)。所以這不是無限循環(huán)。

主持人：好吧，那就是說有 60% 是循環(huán)的？

Jonathan Ross：對，部分循環(huán)，60%。

主持人：我們再回到英偉達，他們的股價就能上漲好幾千億美元。

Jonathan Ross：是的。

主持人：你是怎么分析這種情況的？

Jonathan Ross：我們可以從幾個角度來分析。從經(jīng)濟學(xué)角度看，這完全說得通，為什么不一直這么做呢？價值能夠持續(xù)增長，是因為用戶被鎖定在這個生態(tài)里。

當收入增加時，股價漲幅超過收入漲幅，這背后是市場相信這種收入會持續(xù)下去。

英偉達本身優(yōu)秀，更關(guān)鍵的是全世界的算力供給遠遠不夠，對算力的需求幾乎無止境。

我敢打賭，如果現(xiàn)在給 OpenAI 的推理算力翻一倍，給 Anthropic 的推理算力翻一倍，那么在一個月之內(nèi)，他們的收入幾乎會翻倍。

主持人：你能幫我解釋得更清楚一點嗎？

Jonathan Ross：他們受限于算力，這是問題的根源。

對 Anthropic 來說，最大的問題之一就是調(diào)用限制，用戶拿不到足夠的 Token。如果他們有更多算力，就能生產(chǎn)更多 Token，就能收更多錢。

對于 OpenAI 來說，它是一個聊天服務(wù)。那他們怎么控制使用呢？就是讓服務(wù)變慢，結(jié)果就是用戶互動減少。

主持人：你覺得速度有多重要？其實有不少人覺得這沒問題。我完全能接受延遲，我輸入一個提示，然后去做點別的事情，等我回來結(jié)果就出來了。

Jonathan Ross：這些觀點挺有意思。我們來看一下快消品（CPG）。

如果按利潤率來排序，排在最上面的是煙草，接下來是嚼煙，然后是軟飲料，再往下才是水和其他類似的產(chǎn)品。

在 CPG 行業(yè)里，高利潤率最相關(guān)的因素是什么？就是成分對人起作用的速度。也就是說，多巴胺循環(huán)有多快被觸發(fā)，決定了人們對品牌的依賴。

當一種產(chǎn)品能帶來快速反應(yīng)時，你會對它產(chǎn)生強烈的品牌聯(lián)想，進而形成品牌價值。

這也是 Google 為什么那么強調(diào)速度，F(xiàn)acebook 為什么也強調(diào)速度的原因。每當網(wǎng)頁速度提升 100 毫秒，轉(zhuǎn)化率大約會提高 8%。

主持人：所以，他們覺得“沒關(guān)系，后臺可以同時跑很多提示，反正放著讓它慢慢跑也沒問題”。這種判斷是錯誤的。

Jonathan Ross：完全錯了。實際上，當我們剛開始優(yōu)化芯片速度時，我們就清楚自己能做到多快。

我們甚至做了一個演示視頻，人們看了之后會問：為什么要比人類閱讀速度還快？

我回答說：那網(wǎng)頁為什么要比人類閱讀速度加載得更快呢？這里存在一種思維錯位，很多人并沒有在直覺層面真正明白速度有多重要。

人類在判斷什么因素會影響參與度、影響結(jié)果方面，其實很不敏感。我們從早期互聯(lián)網(wǎng)公司建設(shè)中就已經(jīng)深有體會。

主持人：你覺得 OpenAI 未來會不會進入芯片領(lǐng)域？英偉達肯定會擔心 OpenAI 想要縱向整合，把芯片這一層也掌握在自己手里。你覺得他們能成功完成這樣的轉(zhuǎn)型嗎？

Jonathan Ross：我覺得自研芯片的難點在于一開始大家都以為難的是把芯片做出來，但真正做下去會發(fā)現(xiàn)更難的是軟件；再往下還會發(fā)現(xiàn)，跟上整個技術(shù)生態(tài)的節(jié)奏變成了最難的。

我毫不懷疑 OpenAI 有能力做出自己的芯片；我也相信，最終 Anthropic 會做自己的芯片，所有超大規(guī)模云廠商都會做自己的芯片。

我在 Google 時有一次參觀實驗室，那會兒 AMD 還沒像現(xiàn)在這樣出色，他們當時經(jīng)歷了一段艱難期。

實驗室里有 1 萬臺基于 AMD 芯片的服務(wù)器，工程師把服務(wù)器從機架里抽出來，直接把 AMD 芯片撬下來丟進垃圾桶。

好笑的是，這幾乎是注定的，因為大家都知道那一代會是英特爾勝出。那為什么 Google 還要做 1 萬臺 AMD 服務(wù)器？因為他們想借此從英特爾那里拿到更大的折扣。

到了這種規(guī)模，Google 為適配 AMD 去設(shè)計主板、做整機和測試所花的成本，和最終從英特爾拿到的折扣相比，還是劃算的。

所以當我們看到公司去做自研芯片時，要考慮他們背后的各種動機。

他們這么做并不只是為了把芯片量產(chǎn)部署。關(guān)鍵在于，英偉達實際上對 HBM（HBM 是 GPU 的超級顯存）具有買方壟斷的地位。

買方壟斷與賣方壟斷相反：當市場上只有極少數(shù)大買家，而 HBM 的產(chǎn)能又很有限時，就會出現(xiàn)這種格局。

至于 GPU 本體，它用的制造工藝和我們手機芯片的工藝是同一類。

如果只看 GPU 核心，英偉達一年生產(chǎn) 5000 萬顆并非不可能，但現(xiàn)實中今年大概只能生產(chǎn) 550 萬塊整機 GPU。原因就在 HBM 和承載它的中介層（interposer）產(chǎn)能有限。

于是會出現(xiàn)這樣的情況：一家超大規(guī)模客戶說要 100 萬塊 GPU，英偉達回答說抱歉還有別的客戶，對方就說沒關(guān)系，我自己做。

這時英偉達往往就能找出這批 GPU，優(yōu)先滿足這家客戶。

由于產(chǎn)能就是有限的，自研芯片真正帶來的，不僅是有了自己的芯片，更是拿回對自己命運的主導(dǎo)權(quán)。這才是自研芯片的獨特價值所在。

主持人：什么叫掌控自己的命運？

Jonathan Ross：就是英偉達不能再決定買家能分到多少 GPU。自研芯片的部署成本可能更高，因為性能未必能趕上英偉達。

但想想看，為什么英偉達只比 AMD 稍微強一些，卻能在市場上占據(jù)主導(dǎo)？

如果一套系統(tǒng)的整體部署成本遠遠高于芯片本身的成本，那么芯片價格的輕微上漲幾乎可以忽略。

換個角度：假設(shè)一臺服務(wù)器里 GPU 只占物料成本的 20%，而芯片速度提升了 20%，這會給整套系統(tǒng)帶來 20% 的價值提升；相比之下，芯片成本上浮 20% 其實不值一提。

也就是說，只要芯片性能有提升，帶來的價值放大效應(yīng)非常大。于是，哪怕性能只領(lǐng)先一點點，產(chǎn)品價值也會被放大很多，這個小優(yōu)勢就能換來巨大的銷售優(yōu)勢。

02

回本周期的算法
主持人：你剛才提到買方壟斷。在 HBM 市場被買方壟斷的情況下，OpenAI、Anthropic 或七巨頭里的其他公司，乃至其他廠商，還有可能進入芯片這一層嗎？

Jonathan Ross：非常難。雖然英偉達下單多、給的條件也好，但廠商不想被它綁死，所以會主動找別的客戶。

可問題在于：如果 HBＭ 供應(yīng)鏈中的廠商在建設(shè)晶圓廠、封裝廠和相關(guān)產(chǎn)線，而英偉達拿著大額訂單預(yù)付款來下單，他們當然會優(yōu)先為英偉達擴建產(chǎn)能。這樣英偉達就能提前鎖定所需供給。

真正的難點在于，這筆大額預(yù)付款必須提前兩年以上支付。

因為 AI 的需求正在迅猛飆升，即便英偉達現(xiàn)金流充沛，也很難完全提前覆蓋未來的超大需求，因此供給瓶頸仍會存在。

這不僅僅是買方壟斷的問題，還有資本開支巨大，內(nèi)存廠商普遍保守等原因。再者，HBM 的毛利很高，誰都不愿意輕易擴產(chǎn)，因為一旦供給增加，利潤率就會下滑。

主持人：從 OpenAI、Anthropic 這些公司可能自研芯片來看，這是不是他們要大規(guī)模融資的原因？Sam 說需要幾千億美元，是不是也把這些因素算進去了？

Jonathan Ross：不是。大頭其實在數(shù)據(jù)中心。買一套系統(tǒng)很貴，但建數(shù)據(jù)中心更貴。

原因是數(shù)據(jù)中心的攤銷周期更長：假設(shè)把數(shù)據(jù)中心按 10 年攤銷、芯片按 3 到 5 年攤銷，那么每年的成本里，數(shù)據(jù)中心占比會更高。

所以當我們聽到超大規(guī)模廠商說每年投 750 億到 1000 億美元，那主要是因為他們在建設(shè)數(shù)據(jù)中心，這筆錢是為了未來 10 年以上的回報而投入的。

換個角度看，這并沒有想象中那么夸張。

主持人：如果芯片的更新?lián)Q代其實比 3 到 5 年更短，那按 3 到 5 年來做攤銷還合理嗎？

Jonathan Ross：我覺得大家考慮攤銷周期往往比我更長。我們內(nèi)部用得更保守一些的數(shù)字，大概是 5 到 6 年。

主持人：你是說應(yīng)該是 3 年？

Jonathan Ross：甚至更短一些。我們大概按一年一換的節(jié)奏看待芯片升級。

可以這樣理解芯片的價值，它分成兩個階段：第一是我是否愿意買來部署；第二是我是否愿意持續(xù)運行。

兩者的計算完全不同：部署時要覆蓋資本支出（CapEx）；持續(xù)運行時只要覆蓋運營成本（OpEx）。也就是說，今天我把芯片部署上線，必須把 CapEx 賺回來并且獲得回報。

只要能覆蓋運營成本，我就會讓它繼續(xù)跑。也就是說可以接受芯片的價值隨時間下滑。

大家真正押注的是：新芯片出來后，舊芯片的可創(chuàng)造價值不會低到連 OpEx 都覆蓋不了。

以我們來看，把周期拉到 5 年是沒有意義的。

主持人：因為性能差距會被拉得很大，舊芯片創(chuàng)造的價值可能會低于它的運營成本，對嗎？

Jonathan Ross：對，電費、機房費用這些都算在內(nèi)。

03

供給決定勝負主持人：那會發(fā)生什么？我們會不會出現(xiàn)一堆被閑置浪費的芯片？

Jonathan Ross：這確實可能發(fā)生，因為很多公司簽了很長的合同。于是他們要做第三層計算：違約解約，是否比繼續(xù)虧損運行這些芯片更劃算？沒錯，就是要這樣權(quán)衡。

主持人：你們現(xiàn)在已經(jīng)在看到這種情況了嗎？

Jonathan Ross：接下來會怎樣，這個我沒法告訴你，因為我們正努力避免那種局面。

我們做法是把回本周期壓得更短，我不愿意把賭注押在太長的周期上。下注周期越短，結(jié)果就越可控、越清晰。

主持人：也就是說，核心是盡量縮短回本周期，同時把運營成本壓到最低，這樣當芯片性能落后時就能更快淘汰。

Jonathan Ross：是的，但還有個反直覺的點：如果完全按會計的賬算，我們可能會覺得這主意太糟了。

但從實際情況看，大家現(xiàn)在還在租用 H100。這批芯片都快五年了，依然跑得不錯，而且收入遠高于運營成本。

我們今天不會再去新部署 H100，但讓它們繼續(xù)運行仍是賺錢的，對吧？這就是我說的第二階段。

原因很簡單：市場算力供不應(yīng)求。否則 H100 的租價早就掉到現(xiàn)在的幾分之一了。只要算力短缺還在，這種情況就會持續(xù)。

問題在于：有沒有不那么受供給約束的替代方案？這正是我們想切入的點。

說到我們的價值主張，你一開始問的是速度，你知道有多少客戶一上來就跟我們談速度嗎？

主持人：不知道。

Jonathan Ross：幾乎所有人。一旦他們意識到外部供給受限，你知道還有多少人繼續(xù)糾結(jié)速度嗎？一個也沒有。

大家一開始都談速度，因為他們知道這對終端客戶很重要。接著他們會發(fā)現(xiàn)：等等，我連足夠的算力都拿不到。

真正的價值主張就變成了供應(yīng)商是否有能力提供足夠的算力容量。兩周前有個客戶來找我們，要增加 5 倍總算力容量。

他們從任何一家超大規(guī)模云廠商都拿不到，從別人那也拿不到，我們也給不了，沒有人能給。

所以我們拿不下這個客戶，超大規(guī)模云也拿不下，因為算力不夠。

在這樣的市場里，供應(yīng)商的抉擇就是：誰能買到算力，誰就能拿到客戶。這也是我之前說的：如果 OpenAI 或 Anthropic 的算力翻倍，他們的收入也會翻倍。

對那些算力不夠、服務(wù)不了客戶的公司來說，他們會不惜一切代價去拿算力，因為先拿下客戶就能形成鎖定價值。

因而我們的首要價值主張是：我們的供應(yīng)鏈不同于 GPU 的供應(yīng)鏈。GPU 通常要提前兩年下大單。

而在我們這里，客戶為一百萬片 LPU1 支付訂單后，首批 LPU1 會在 6 個月……

主持人：6 個月后就到貨。哇，那跟 18 個月的周期相比，差距太大了。

Jonathan Ross：對，差距巨大。我之前和一家超大規(guī)模云的基礎(chǔ)設(shè)施負責人開會，談了速度、成本等等。

但當我說我們能把交付周期做到 6 個月時，他立刻打斷，要求深入聊這一點。這是他最關(guān)心的。

主持人：在模型演進這么快的情況下，兩年的周期還說得通嗎？

Jonathan Ross：這正是問題所在。你知道 Sara 嗎？她寫過一篇論文《The Hardware Lottery（硬件彩票）》，我大概說下主要內(nèi)容，就是大家其實是在按硬件來設(shè)計模型。

也許有一些架構(gòu)理論上優(yōu)于注意力機制，但注意力在 GPU 上特別好用。對既有玩家而言，這構(gòu)成明顯優(yōu)勢，因為模型通常會圍繞其硬件進行設(shè)計與優(yōu)化。

即便外部出現(xiàn)理論上更優(yōu)的架構(gòu)，只要在現(xiàn)有硬件上運行效果不佳，在實踐中就很難說更好。

這會形成硬件生態(tài) -> 模型設(shè)計 -> 進一步強化硬件生態(tài)的正反饋閉環(huán)。

對行業(yè)領(lǐng)頭企業(yè)來說，提前兩年規(guī)劃產(chǎn)品線仍可行；而對新進入者而言，幾乎不會有團隊提前兩年為其芯片做適配，因此必須將產(chǎn)品與生態(tài)的迭代周期大幅縮短。

04

開源不等于更省錢

主持人：按你說的，大家都在往芯片層走，OpenAI 會有自己的，Anthropic 也會有。在那樣的世界里，英偉達會怎么做？

Jonathan Ross：英偉達依然會持續(xù)賣芯片。

主持人：是因為客戶高度集中，對吧。

Jonathan Ross：沒有人能準確預(yù)測增長會有多快。我們一開始討論 AI 是否是泡沫，回看過去 10 年，數(shù)據(jù)中心基礎(chǔ)設(shè)施通常要提前兩到五年規(guī)劃。

結(jié)果怎么樣？大家的預(yù)測全錯了，建設(shè)總是偏少。這 10 年基本都是這樣。

如果連續(xù)多年都建少了，大家會怎么做？就會嘗試超量建設(shè)，按最樂觀的預(yù)期再多建一點，但還是不夠，于是再上調(diào)預(yù)期、再多建。

現(xiàn)實就是這樣循環(huán)，然而算力依舊供不上，人的直覺在這件事上一直不太準，只是大家還沒完全意識到。

AI 和 SaaS 不一樣。SaaS 里是工程師把產(chǎn)品做出來，產(chǎn)品質(zhì)量主要由工程投入決定。

AI 不是這樣。在 AI 里，我可以對同一個問題跑兩次推理，選更好的答案，從而提升質(zhì)量；我可以在每次查詢上多花算力，讓結(jié)果更好；甚至可以給更重要的客戶分配更多算力，提供更好的結(jié)果。

這類似于 OpenAI 最近宣布的做法，有些產(chǎn)品的算力成本很高，承受不起，就先只開放給一部分用戶，并且定價很高。

目的就是觀察在增加算力投入后，AI 的效果會怎樣、產(chǎn)品會變好到什么程度。未來會越來越多是這種模式。

只要給應(yīng)用投入更多算力，質(zhì)量就會上升。這也是為什么很多公司的按量計費（Token 即服務(wù)）成本幾乎貼著營收走，因為大家在爭奪客戶。只要多花算力，產(chǎn)品就會更好。

主持人：我明白。不過直說一點，大家看 GPT-5 的敘事都在強調(diào)效率，認為 Sam 把重心從追求性能轉(zhuǎn)到了追求效率，因為增加算力并不總能帶來同等幅度的性能提升。你覺得這個判斷公平、真實嗎？這和你剛才的觀點不矛盾嗎？

Jonathan Ross：不矛盾。你得看他們要實現(xiàn)的目標不一樣。以 OpenAI 為例，它已經(jīng)進入了對成本極其敏感的市場。

比如印度，如果他們想在印度做，就得把訂閱價做到每月 99 盧比，按當前匯率大概 1.13 美元。

主持人：但還有開源選項。我的意思是，他們也可以用開源方案啊。

Jonathan Ross：這又是市場上的一個誤解。那我們就從澄清這些誤解開始說起吧。

當中國的模型出來時，大家的反應(yīng)都是：天哪，他們把模型訓(xùn)練出來了，幾乎趕上美國的模型了。我們之前也做過一期播客聊這個話題。

剛開始連我自己都有點被帶偏了，會想這些模型運行成本是不是更低。

現(xiàn)在我更了解大家在用的基礎(chǔ)模型和中國模型之間的差別后，我的結(jié)論是并不更便宜，運行成本大概高出十倍。

具體來說，以最近發(fā)布的 GPT 開源模型為例，它的優(yōu)化方向和中國模型不同，但質(zhì)量很高，就其專注的領(lǐng)域而言，我認為明顯優(yōu)于中國的模型。

中國模型關(guān)注點不一樣。不過，這個開源模型的運行成本大約只有中國模型的十分之一。

那為什么很多人定價更低呢？因為當某個模型在一個被鎖定的市場里，用戶只想要這個模型，而且只有一個提供方時，它就能把價格抬到十倍。

也就是說，價格被抬高了，但大家把成本和價格混淆了。中國的模型更偏向把訓(xùn)練做得更便宜，而不是把推理運行做得更便宜。

主持人：為什么美國有算力優(yōu)勢？是因為更容易拿到芯片嗎？

Jonathan Ross：沒錯。

主持人：那中國呢，不只是補貼。我理解推理和運行的成本更高。如果運行成本更高，但有政府補貼，這還重要嗎？

Jonathan Ross：這里其實存在主場和客場的區(qū)別。主場是指在本國境內(nèi)建設(shè)算力，比如美國在美國本土、中國在中國本土。

客場則是指在盟友國家建設(shè)算力，比如在歐洲、韓國、日本、印度等地。

在主場，中國具備很強的優(yōu)勢。比如，他們計劃建 150 座核電機組。這樣一來，即便芯片的能效不是最好的，也可以依靠充足的能源供應(yīng)和政府補貼把算力規(guī)模堆上去。

但在客場，情況就完全不同了。假設(shè)一個國家只有 100 兆瓦的電力儲備，你能怎么辦？難道還能再建一座核電站？對很多國家來說，這是不現(xiàn)實的。在中國可以做到，但在別的國家很難。

因此，在客場，更高能效的芯片就是關(guān)鍵優(yōu)勢。我的判斷是，未來兩三年，美國會在客場占據(jù)明顯的上風。如果他們行動夠快，就能把一批盟友拉進這場 AI 競賽中來。

05

能源與算力的比拼主持人：現(xiàn)在已經(jīng)在做了嗎？你覺得我們是否應(yīng)該開放模型，讓中國用他們擅長的方式去做蒸餾？

Jonathan Ross：我覺得模型本身并不是決定性優(yōu)勢。還記得你第一次請我上播客時，我預(yù)測 OpenAI 會把模型開源嗎？我的依據(jù)就是它的品牌力。

坦白說，即便 OpenAI 現(xiàn)在用的還是兩年前的 Llama 2 模型，依然會有很多人去用它，這就是品牌的力量。

當然，他們的模型確實也很強，但有了品牌優(yōu)勢，不一定非要靠最新最強的模型。

我認為 Anthropic 應(yīng)該把上一代模型開源，讓大家用它們而不是用中國模型。

因為愿意用中國模型的人，至少也可以用 Anthropic 的模型，而且他們現(xiàn)有的提示詞還能繼續(xù)復(fù)用。

就像軟件有兼容性，提示詞也有兼容性。以 OpenAI 的開源模型為例，許多人從中國模型轉(zhuǎn)用它，一個關(guān)鍵原因是原有的提示詞可以不做改動直接沿用。

當然，如果有人場景成本敏感、付不起 OpenAI 的溢價，就會用這些開源模型；等業(yè)務(wù)做大、賺錢更多時，就會希望用更高端的閉源模型，而提示詞仍然可復(fù)用。

這樣開源能雙贏：一方面拉動采用，另一方面也促使基礎(chǔ)設(shè)施提供方圍繞該模型降本增效，帶來大量創(chuàng)新。

主持人：明白了。我再問一個問題。既然我們要盡可能多地建設(shè)算力，能源需求會非常大。要滿足這波算力浪潮的能源需求，是否只有核電這一條路？

Jonathan Ross：不，不止核電。核電高效且成本可控，可再生能源同樣高效且成本可控。

我給一個簡單的辦法：美國及其盟友只要愿意把算力中心建在能源便宜的地方，就能獲得比中國更多的可用能源。

再拿歐洲和美國對比。美國相比歐洲，更厭惡風險。不只是能源領(lǐng)域，幾乎在所有方面都是。

但關(guān)鍵是分清風險類型：一種是作為性錯誤，做了錯事；另一種是不作為性錯誤，該做的不做。

美國現(xiàn)在非常害怕不作為的錯誤。在高速增長的經(jīng)濟里，錯過機會往往比做錯一件事代價更昂貴。而歐洲對不作為的風險反而更能接受。

所以歐洲嘗試競爭的方式更多是通過立法，比如要求數(shù)據(jù)必須留在歐洲或留在本國。

如果歐洲真想在 AI 上競爭，其實可以這樣做：比如讓挪威部署大量風電。為什么是挪威？

因為挪威風電的可利用率大約有 80%，也就是 80% 的時間都能發(fā)電；同時挪威水電富足，如果把風電裝機擴到水電的 5 倍，挪威一國提供的電力就能接近美國全國水平，而且能穩(wěn)定供給。

這只是歐洲的一個國家。還有多少非核能的潛力可以被釋放出來。同時也可以部署核能，現(xiàn)代核能的安全性已經(jīng)很高。

主持人：那我們?yōu)槭裁床贿@么做呢……

Jonathan Ross：因為害怕。

主持人：真的是這樣嗎？

Jonathan Ross：是的。

主持人：當你和歐洲各國政府交流時，他們怎么回應(yīng)你？

Jonathan Ross：我一般不主動談核能，因為這是一個很容易引發(fā)反對的能源話題。

但我最近在日本時，他們在討論重啟核反應(yīng)堆。外界常說日本做事很慢，這種看法缺少細節(jié)。真實情況是日本做決策慢，一旦決定了就推進很快。

舉個例子，日本決定建設(shè)一座 2 納米工廠。我去的時候他們已經(jīng)展示了自己做出的 2 納米晶圓。

良率還不到位，還達不到量產(chǎn)標準，但他們的 2 納米工廠已經(jīng)建起來并且開始出片了，接下來會迅速把缺陷密度降下來。

他們?yōu)?AI 預(yù)留了 650 億美元預(yù)算，而且會很快花出去。他們會重啟核電機組。日本要重啟核電這件事，歐洲應(yīng)該警醒，趕緊在能源上追趕。

主持人：追趕正是我在想的，因為建這些東西的速度很慢。你剛才說到風能的可利用率，以及我們?nèi)绾卫盟?。但事實是，要建成大?guī)模的風機群需要好多年。為什么你覺得挪威政府會掏錢裝上上萬臺風機呢？

Jonathan Ross：不一定要挪威政府自己買單。超大規(guī)模云廠商呢？還有想把數(shù)據(jù)中心設(shè)在當?shù)氐钠渌麌艺?？沙特阿拉伯有?shù)吉瓦級的電力，他們正為此建設(shè)數(shù)據(jù)中心。

為什么歐洲不和沙特合作？沙特提出數(shù)據(jù)大使館計劃，歐洲可以對自身數(shù)據(jù)保持主權(quán)監(jiān)管，同時利用當?shù)啬茉?，為什么不用?/p>

這樣問題就解決了。他們很快就會建成 3 到 4 吉瓦的產(chǎn)能。

主持人：也就是說，由超大規(guī)模云廠商出錢，去使用挪威的可再生能源，然后把它用起來。

Jonathan Ross：超大規(guī)模云廠商經(jīng)常抱怨的是流程和審批太慢。我和一家建設(shè)核電站的大型能源公司董事聊過，他說在美國，辦理許可的花費是電站本身建設(shè)費用的三倍。

歐洲我不太清楚，但通常美國在這方面都比歐洲效率更高。大家要記住的是，誰掌握算力，誰就掌控 AI；而沒有能源，就不可能有算力。

06

先把電和算力建好

主持人：歐洲到底落后多少？我們有沒有辦法追上？會不會已經(jīng)太晚了？我不想消極，也不算悲觀，但這種差距還能追得上嗎？

Jonathan Ross：如果歐洲現(xiàn)在就行動，我認為完全來得及。中國在執(zhí)行上走在前面，但歐洲有 5 億人口，美國有 3 億多。

如果把盟友都團結(jié)起來，比如韓國，他們非常懂得建核電站，阿聯(lián)酋那座核電站就是韓國建的，他們也可以在歐洲建；法國也會建核電站。

為什么不搞一個類似曼哈頓計劃的能源建設(shè)項目？夏天的歐洲，熱得厲害，冬天又冷得厲害。這種體驗在其他地方不常見。多建設(shè)能源設(shè)施吧。

主持人：我贊同你的觀點，但也得現(xiàn)實一點。無論單個政府還是跨國協(xié)作，我們的效率都很慢，達不到需要的速度。如果速度達不到，會發(fā)生什么？

Jonathan Ross：那歐洲的經(jīng)濟就會變成旅游經(jīng)濟，大家來這兒看看古老的建筑，就這樣了。沒有新經(jīng)濟所需的基礎(chǔ)資源，就無法參與競爭。新經(jīng)濟就是 AI，而它建立在算力之上。

主持人：僅靠模型主權(quán)就能贏嗎？

Jonathan Ross：站在服務(wù)提供方的角度看，如果沒有算力，就跑不動 AI，模型再好也沒用。

就算你的模型比 OpenAI 的聰明十倍，只要 OpenAI 的算力多你十倍，OpenAI 的實際效果就會更好。

主持人：所以對某些歐洲廠商來說，如果他們說我們有歐洲本地模型主權(quán)，德國的醫(yī)療系統(tǒng)、克羅地亞的交通部會用我們的模型，因為我們是歐洲選項，僅憑這一點并不足以取勝，對嗎？

Jonathan Ross：那它的獨特賣點是什么？

主持人：它是歐洲模型，不受美國公司控制，也不受某屆美國政府的影響。

Jonathan Ross：這和有沒有足夠算力有什么關(guān)系？這解決的是不被別人控制的問題，但沒有解決是否有足夠算力的問題。順便說一句，我不是讓大家別用 Mistral。

我們和 Mistral 有合作，我們很支持他們。我的意思是，要建設(shè)足夠的算力，讓 Mistral 也能公平競爭。

主持人：照你這么說，人們會不會就想去瘋狂采購某些云服務(wù)商的資源？畢竟他們按需供給，看起來很香。

Jonathan Ross：是的，那家公司很好，但他們拿到的 GPU 配額是有限的。每個人的配額都有限。

主持人：之前你說過，GPU 并不是最適合推理的基礎(chǔ)設(shè)施。隨著訓(xùn)練走向成熟，行業(yè)會越來越偏向推理。這難道不意味著英偉達的地位會進一步削弱嗎？

Jonathan Ross：不會。英偉達造出來的每一塊 GPU 都能賣出去。就算我們最終提供的 LPU1 數(shù)量是 GPU 的十倍，結(jié)果只會讓對 GPU 的需求更大，讓他們的利潤率更高。

主持人：為什么會這樣？

Jonathan Ross：因為推理越多，就越需要追加訓(xùn)練來優(yōu)化推理效果；訓(xùn)練越多，又需要鋪更多推理來攤薄訓(xùn)練成本。兩者之間形成了正向循環(huán)。

主持人：全球有 10% 的人口每周都在使用 GPT，這不是很驚人嗎？

Jonathan Ross：是的。但限制它進一步發(fā)展的還是算力。算力限制影響質(zhì)量。如果能支持更多語言，會有更多人用。全球最常見的反饋就是這點。解決辦法還是更多算力、更多數(shù)據(jù)。

有了更多數(shù)據(jù)，就能做更多訓(xùn)練，但這需要更多算力。反過來，有了更多算力，也能生成更多數(shù)據(jù)，從而繼續(xù)訓(xùn)練。

AI 有三要素：數(shù)據(jù)、算法、算力。提升其中任意一項，其他兩項并不會馬上成為瓶頸。不是說算力不提升就不能多用數(shù)據(jù)，也不是說數(shù)據(jù)不提升就不能多用算力。

只要有一項變好，AI 整體就會變好。這也讓改進 AI 變得更可操作，因為可以先在某一個維度發(fā)力。

實踐中，最容易調(diào)整，最快見效的，就是算力這一項。算法進步并不頻繁，數(shù)據(jù)更難獲取。我們還沒完全把合成數(shù)據(jù)這條路走通。我們做得越來越好，但還沒到把算力直接變成更多優(yōu)質(zhì)數(shù)據(jù)的程度。

算力之所以最容易調(diào)整，見效最快，是因為它幾乎年年在進步。只要花足夠的錢，再等一段時間，就能拿到更多算力。這是整個鏈條里最可預(yù)測的部分。

07

算力沒有上限主持人：既然它是整個鏈條里最可預(yù)測的部分。

Jonathan Ross：但我們?nèi)匀坏凸懒藢λ懔Φ恼鎸嵭枨罅俊?/p>

主持人：你覺得我們現(xiàn)在嚴重低估了所需的規(guī)模嗎？

Jonathan Ross：是的，確實如此。

主持人：大概低估到什么程度？

Jonathan Ross：回到我之前說的，只要增加算力，產(chǎn)品就會更好。從可用規(guī)模上看，算力沒有上限。

這和工業(yè)革命不一樣。工業(yè)革命時期，只有先有機器才能用上能源，而且要先把機器造出來，這需要時間。

比如想讓路上有更多汽車，必須先把車造出來，光從地下多挖點油是沒用的。AI 不是這樣。

沒錯，把模型做得更好，的確可以在同樣算力下做更多事；但如果把算力翻倍，用戶數(shù)會翻倍，模型質(zhì)量也會提升。這很不一樣。

只要給社會配上更多可用的計算能力，整體經(jīng)濟活動就會隨之變強。

以往從沒出現(xiàn)過這種狀況，不再被某個環(huán)節(jié)卡??；只要把其中一個關(guān)鍵要素加大投入，整體表現(xiàn)就會隨之一起提升。

主持人：你說經(jīng)濟會更強，這背后的前提是什么？是不是基于全球大約 10 萬億美元的人力支出向 AI 遷移，而我們能分到一部分？你覺得未來五年，GDP 構(gòu)成或勞動力支出會不會明顯向 AI 轉(zhuǎn)移？

Jonathan Ross：我認為 AI 會帶來大規(guī)模的用工短缺。我們可能沒有足夠的人來填補即將出現(xiàn)的崗位。

AI 會帶來三件事：第一是強烈的通縮壓力。咖啡會更便宜，住房會更便宜，很多東西都會更便宜，這意味著人們所需的錢會更少。

主持人：為什么咖啡會更便宜？

Jonathan Ross：因為會有機器人更高效地種植咖啡，有更好的供應(yīng)鏈管理；貫穿整條供應(yīng)鏈都會提效。

甚至可以用基因工程讓咖啡豆在同樣日照下產(chǎn)量更高。所有環(huán)節(jié)一起作用，就會產(chǎn)生強烈的通縮壓力。這是第一點。

隨之而來，第二點是人們可以減少工作：每周工作時長更少、工作天數(shù)更少、職業(yè)生涯更短，能更早退休，因為用更少的工作就能維持生活。

第三點是會出現(xiàn)全新的崗位、公司和產(chǎn)業(yè)，這些現(xiàn)在還不存在。

想想一百年前，美國 98% 的勞動力在農(nóng)業(yè)，只有 2% 做其他事。后來農(nóng)業(yè)從業(yè)降到 2% 后，我們也為那 98% 的人找到了新工作。

一百年后的很多職業(yè)，現(xiàn)在根本想象不到。就像一百年前，軟件工程師這個概念也不存在。再過一百年，軟件工程師可能也會變得沒意義，因為人人都會 Vibe Coding。

網(wǎng)紅這種職業(yè)一百年前也難以想象，但現(xiàn)在是真實存在而且能賺很多錢。

所以總結(jié)一下：第一，通縮壓力；第二，因通縮而更多人選擇減少工作；第三，會誕生當下不可能存在的新崗位和新公司，它們需要勞動力，而我們可能沒有足夠的人。

主持人：這和常見敘事完全相反。大家都在說會有大量失業(yè)，但你的意思是恰恰相反，我們反而會出現(xiàn)人手不夠？

Jonathan Ross：一百年前最著名的預(yù)測是什么？說人類會大饑荒，因為無法養(yǎng)活自己。事實是，每次技術(shù)進步，人們總是低估經(jīng)濟會發(fā)生的深刻變化。

主持人：從能源需求，以及你剛才說的勞動力變化來看，你覺得特朗普及其政府對美國的 AI 發(fā)展是更有幫助還是更有傷害？

Jonathan Ross：明顯是幫助。近期出臺的一系列舉措都有利于 AI，比如在許可審批方面的改革?？傮w上對 AI 很積極。

主持人：你提到過 Vibe Coding，我必須追問一下。你覺得這個市場能長期存在嗎？現(xiàn)在很多用例看起來比較短期。你自己也玩過一些，你也說過實習生很會用，你怎么看 Vibe Coding 的前景？

Jonathan Ross：我認為 Vibe Coding 會像讀寫能力的變遷一樣。過去識字寫字是一種職業(yè)技能，抄寫員因為會讀寫而受雇，收入也比一般人高，因為那是稀缺技能。

編程一直也是這樣，只有少數(shù)人掌握，要學(xué)好得花上幾年。

但今天人人都會讀寫，已不再是稀缺技能；未來編程也會變成常識，幾乎所有崗位都需要。做市場要會編程，做客服也要會編程。

我和一位經(jīng)營 25 家咖啡連鎖店的人吃飯，他從未寫過代碼，但用 Vibe Coding 搭了個供應(yīng)鏈工具，可以查庫存。沒寫一行代碼就讓它跑起來了。

有趣的是，他也遇到了軟件工程師常見的問題：員工反饋這個功能不行、那個邊界情況出錯，他就不斷修補，這一切都通過 Vibe Coding 完成。

08

是真實價值還是情緒價值？主持人：原諒我問個財務(wù)問題?，F(xiàn)在標普快到 7000，七巨頭拉升得厲害，價值高度集中，很多人開始覺得有點見頂。我該如何同時看待這兩種想法？

Jonathan Ross：價值可以分成兩部分：一部分像秤，衡量真實價值；另一部分像選美，看的是人氣。

有些資產(chǎn)幾乎完全取決于人氣，比如加密貨幣。我從沒買過比特幣。是的，我錯過了，因為我不擅長玩這種人氣游戲，也看不準什么會火、什么不會。我能做的，就是盯著秤上的真實價值。

看 AI，我看到的是實打?qū)嵲趦冬F(xiàn)的價值。最好的例子是，私募基金紛紛來找我們要便宜的 AI 算力，因為拿到更多廉價算力，他們就能直接改善所投企業(yè)的利潤表。這是真價值，不是選美。

公司之所以拿到高估值，要么是市場相信真實價值會長期沉淀，要么是被情緒炒高，成了純粹的選美。

市場參與者各不相同，有的人在玩選美，有的人在看秤，他們可能因為不同理由得出相似結(jié)論。

從秤的角度看，經(jīng)濟中最寶貴的是勞動。如今我們可以通過提供更多算力和更強的 AI，等于向經(jīng)濟體中增加勞動。這在經(jīng)濟史上從未出現(xiàn)過。

主持人：你擔不擔心如果短期內(nèi)出現(xiàn)波動或挫折，因為價值過度集中在少數(shù)幾家公司，會把經(jīng)濟的很多領(lǐng)域一起拖慢？大家現(xiàn)在漲得很猛，但如果英偉達、谷歌、微軟突然遇到障礙，AI 的快車減速，連鎖效應(yīng)會非常大。你會擔心嗎？

Jonathan Ross：會的，而且這與 AI 的內(nèi)在價值無關(guān)，更像控制理論里的動態(tài)反饋。

股市可以長期向上，但也會過熱，過熱會導(dǎo)致失控，人們把價格抬得過高，隨后發(fā)現(xiàn)錯誤，價格回落，甚至跌破合理區(qū)間，支出收縮，企業(yè)拿不到建設(shè)所需資金。

很多好公司會在下行期倒下，但同樣也常在這種周期里誕生最好的公司。我們會一次次看到，低谷之后涌現(xiàn)出一批了不起的新企業(yè)。

主持人：你覺得宏觀層面會出現(xiàn)下行嗎？

Jonathan Ross：我無法預(yù)測會不會出現(xiàn)下行。預(yù)測能力很大程度取決于預(yù)測會不會反過來影響結(jié)果。

如果預(yù)測會改變結(jié)果，那它就無法被準確預(yù)測，因為你的預(yù)測會改變結(jié)局。只有那些預(yù)測不會改變結(jié)果的事情才可預(yù)測。

比如一顆小行星正朝地球飛來，而我們觀測到了。如果我們沒有阻止它的技術(shù)，它就會撞上地球；但如果我們能提前觀測并做出預(yù)測，我們也許就會發(fā)展出攔截它的技術(shù)。

你明白問題所在了吧。在經(jīng)濟中，我們不需要造出什么實體，只要資金在不同地方流動，人們根據(jù)預(yù)測做出反應(yīng)，就會產(chǎn)生快速的短期波動，這反而讓走勢更難預(yù)測。

我無法告訴你經(jīng)濟接下來會怎樣。我能說的是，目前我在 AI 領(lǐng)域看到的最大問題是，只要是原本我們想要聘用的優(yōu)秀工程師，他們現(xiàn)在幾乎可以自己去融資，籌到一兩千萬、上億美元，甚至十億美元。

于是他們就去創(chuàng)辦自己的公司，而不是加入現(xiàn)有的 AI 創(chuàng)業(yè)公司，這導(dǎo)致任何一家初創(chuàng)公司都很難聚攏足夠的人才。

另一方面，AI 又在提升這些公司里每個人的生產(chǎn)力。至于經(jīng)濟是否過熱，我認為一個很好的判斷指標是，宏觀是否已經(jīng)開始妨礙企業(yè)的成功。如果沒有妨礙，我就不覺得它過熱。

主持人：你不覺得它已經(jīng)開始妨礙了嗎？從根本上說，資金供給過于充裕，反而讓你組建頂尖工程團隊變難了。因為資本把人才推到極致，他們可以自己融到巨款，而不是來加入 Groq。

Jonathan Ross：是的，請別再這樣了。不過，AI 正在提高生產(chǎn)力，所以也有可能在經(jīng)濟持續(xù)繁榮的同時，各家公司依舊非常成功。我們不確定，因為我們從未經(jīng)歷過這種情形。

主持人：當下的人才爭奪是不是已經(jīng)瘋狂了？

Jonathan Ross：確實比歷史上的任何時候都更激烈，但主要發(fā)生在科技行業(yè)。體育圈一直很瘋狂，或者至少近些年很瘋狂。

回看二三十年前，體育的薪資結(jié)構(gòu)很像現(xiàn)在的科技業(yè)，人們只是更清楚地認識到了價值。

不同在于體育有球隊數(shù)量上限，還有工資帽等約束；而在科技領(lǐng)域沒有這些限制，團隊和初創(chuàng)公司可以無限多。

想象一下，如果任何人都能創(chuàng)建自己的橄欖球隊，薪資會怎樣膨脹，俱樂部的價值又會如何被重塑？

主持人：在現(xiàn)有大公司中，你最看好誰？最擔心誰？

Jonathan Ross：我會說，在這場轉(zhuǎn)變中，谷歌的動作幅度是最大的，而且它在這方面本身就有結(jié)構(gòu)上的優(yōu)勢。

歷史上谷歌更依賴工程師提出好點子，只要管理層少干預(yù)，谷歌就會冒出很多好東西。從文化角度看，這是一種系統(tǒng)性優(yōu)勢，對他們有利。

主持人：我覺得 Gemini 最終算是他們的一次成功。

Jonathan Ross：看采用數(shù)據(jù)就知道，表現(xiàn)不錯。

主持人：那在面向消費者產(chǎn)品的落地上，你怎么看？

Jonathan Ross：消費者產(chǎn)品這塊我沒那么看好。你會看到他們把 Gemini 東一榔頭西一棒子塞進很多產(chǎn)品里，比如塞進了 Gmail 但幾乎不可用，幾乎每個產(chǎn)品都塞了點，看起來想法并不成熟。

不過也別太早下結(jié)論，至少他們在獲取真實使用反饋，從而確定真正該做什么。想想 Google Chrome，當初起步還是 Google TV，完全失敗，后來迭代成了 Chrome。

這就是典型過程：有人先把東西放出來，大家一頓吐槽，但我們沒意識到他們愿意承受這些吐槽來把產(chǎn)品打磨得更好。

主持人：只要分發(fā)優(yōu)勢的窗口期還在，挨罵也無所謂。難點在于這個窗口不再那么大了。OpenAI 把這道鴻溝大幅縮小了。

Jonathan Ross：確實如此，谷歌可能已經(jīng)有點晚了。

主持人：你懂我的意思吧？這是個經(jīng)典問題，老牌公司能否在初創(chuàng)公司拿到分發(fā)之前完成創(chuàng)新？現(xiàn)在初創(chuàng)已經(jīng)拿到分發(fā)了，觸達全球約 10% 的人，挺驚人的。

Jonathan Ross：是的，很難想象 OpenAI 會消失，我看不到這種可能。至少從現(xiàn)在起，賽道里會有兩個長期對手相互競爭。

主持人：是哪兩個？OpenAI 和 Anthropic，還是 OpenAI 和谷歌？

Jonathan Ross：OpenAI 和谷歌。Anthropic 做的有些不同，更偏向編程工具；OpenAI 做聊天機器人；谷歌做聊天機器人，也做編程工具。谷歌幾乎什么都在做。

主持人：不過 OpenAI 也在做編程工具呀。

Jonathan Ross：對，而且我們工程師最近用 Codex 的頻率已經(jīng)超過了 Anthropic 的工具。

有意思的是，這幾乎是按月輪換的。我們的理念是，不規(guī)定工程師用哪款工具，但必須用 AI，否則沒有競爭力。

我們看到他們先用 Sourcegraph，后來用 Anthropic，再后來用 Codex。下個月可能又回到 Sourcegraph。工具使用在循環(huán)往復(fù)地更替。

主持人：切換得這么隨意，那這些工具還有持久價值嗎？畢竟遷移成本這么低。

Jonathan Ross：我們的工程師是前沿用戶，會在某個工具成為當下最佳時立即切換。但不是所有人都這樣。

主持人：不過還是有很多人是這樣的吧。

Jonathan Ross：你接觸到的很多人是這樣沒錯。但企業(yè)客戶往往會簽長期合同，然后在相當長時間內(nèi)沿用一年前定下的工具。

09

護城河與毛利的取舍

主持人：如果讓你選，5000 億估值投 OpenAI，還是 1800 億投 Anthropic？

Jonathan Ross：我兩個都投。它們都被低估了，嚴重低估。我們現(xiàn)在看它們，好像是在一個有限市場里爭奪有限結(jié)果；但實際上，它們通過持續(xù)研發(fā)在擴大整個市場的價值。

主持人：那展開說說，如果做一個多頭情景，它們會發(fā)展成什么樣？

Jonathan Ross：我認為當下的大型科技公司還能明顯提升估值；同時，AI 實驗室也會追趕到這些科技巨頭的體量。

七巨頭的價值會上升，而 AI 實驗室的價值會追到與七巨頭相當，但彼時七巨頭又更高了。問題在于，AI 實驗室最終會不會反超七巨頭。

主持人：什么因素會決定結(jié)果？

Jonathan Ross：坦白說，我覺得最終會從七巨頭變成九巨頭、十一巨頭，甚至二十巨頭。

主持人：你覺得這些 AI 實驗室會大舉進入應(yīng)用層，把大部分應(yīng)用生態(tài)都收歸旗下嗎？

Jonathan Ross：這正是成功科技公司的自然傾向。他們一開始做客戶在做的事，逐步往上游延伸，最后把客戶原本做的部分吞并掉。隨后會有新一代公司再在他們之上構(gòu)建。

OpenAI 的做法也是如此。我記得 Sam Altman 在你的節(jié)目里說過，如果一款產(chǎn)品只是基于 OpenAI 做點小改進，終有一天會被他們碾過去。他只是坦誠說明他們的策略。

我們則劃了一條界線，不和客戶在模型層競爭，也就是我們不自研通用模型。通過明確這條界線，我們在傳遞一個信號：在我們的基礎(chǔ)設(shè)施上構(gòu)建是安全的，因為我們不會去搶你的業(yè)務(wù)。

當然，這個決定也可能是錯的，將來我們也許會被某個客戶反向吞并。但至少現(xiàn)在他們可以放心地在我們之上開發(fā)。我承認這可能是個很大的賭注。

主持人：確實可能。而且要自己做模型也需要很多資金。說到錢，你們這輪新融資是多少？

Jonathan Ross：我們?nèi)诹?7.5 億美元。

主持人：7.5 億美元，對應(yīng)的估值是 60 億？

Jonathan Ross：對，接近 70 億。

主持人：明白了，這聽起來相當夸張。那這些錢夠用嗎？

Jonathan Ross：夠的。其實我們原本只打算融 3 億。你剛提到盈利性之類的問題，硬件公司在這方面更有優(yōu)勢，因為和很多公司不同，我們賣的東西本身就賺錢。我們賣硬件的單品毛利是正的。

主持人：我以為你們毛利是負的。

Jonathan Ross：至少賣硬件不是。

主持人：那賣軟件呢？

Jonathan Ross：軟件要看具體模型。我們當前在量產(chǎn)芯片上跑的最受歡迎的模型是正毛利的。

但也有一些模型，運營成本可以覆蓋，但我們對資本開銷回收不滿意。別人可能覺得那樣也行，但我們更保守。

所以更容易表述的是：賣硬件這塊基本都是正毛利，因為到交付那一刻，售價和成本就已經(jīng)鎖定了。至于模型側(cè)的利潤，還取決于硬件能用多久。

主持人：總體毛利率隨時間會怎么走呢？

Jonathan Ross：作為未上市公司，好處之一是我不需要披露。

主持人：確實不需要，但如果你愿意說就更好了。

Jonathan Ross：這幾乎是未上市公司唯一的優(yōu)勢了。

主持人：不不不，優(yōu)勢多著呢。沒有鎖定期、變現(xiàn)也更自由。

Jonathan Ross：是，但我不賣股份。

主持人：你從沒賣過一股？你顯然不太懂玩法，沒事我可以教你?；氐矫?，長期看會不會明顯提升？你是怎么考慮的？我也不是一定要你說得特別具體。

Jonathan Ross：還是那句話，在保證業(yè)務(wù)穩(wěn)定的前提下，我希望毛利盡量低。

高毛利的意義主要在于，當你需要資金時，可以通過提價迅速拿到現(xiàn)金；而在平常，你則有空間把毛利壓低，以保持競爭優(yōu)勢。

算力需求極強，如果有人現(xiàn)在就需要而我們正好有貨，他們愿意支付更高費用。這樣一來，我們整體上就可以用更低的毛利率來運營業(yè)務(wù)。

10

從芯片到系統(tǒng)視角

主持人：幫我描繪下五年后的芯片市場格局。你說 OpenAI、Anthropic 等都會有自研芯片基礎(chǔ)設(shè)施，同時還有英偉達。整體會是什么樣？

Jonathan Ross：我的預(yù)測是，五年后英偉達的營收份額仍會超過 50%，但芯片出貨量占比會低于半數(shù)?？赡苁菭I收占 51%，出貨只占 10%。

主持人：這個怎么理解？

Jonathan Ross：品牌溢價的價值巨大，可以把價格定得更高，但這也會削弱企業(yè)進取心，從而傾向于維持高毛利。

很多客戶也愿意買單，因為選英偉達沒人會因此丟工作。這位置非常舒服、業(yè)務(wù)也會長期很值錢，投英偉達大概率沒問題。

但從大客戶視角看，當市場像現(xiàn)在這樣，高度集中在三四十家頭部買家手里，他們做決策會更少看品牌，更看業(yè)務(wù)成敗所需，因為他們有足夠話語權(quán)。

所以你會看到其他芯片也被采用，因為這些客戶能自己拍板。

主持人：你說投英偉達不會差。我有個朋友常說一句話：這些都很好，可跟我有什么關(guān)系？所以直截了當問一句，以五年為期，英偉達 10 萬億美元市值，是高還是低？

Jonathan Ross：如果五年后英偉達不到 10 萬億美元，我會驚訝。更該問的是：五年后 Groq 會不會到 10 萬億？有可能。

我們不受同樣的供應(yīng)鏈約束，我們能造出比任何人都多的算力。現(xiàn)在最稀缺、被高價競購的資源是算力，而我們幾乎可以無限量供給。

主持人：關(guān)于 Groq，市場最沒理解到，但應(yīng)該理解的點是什么？

Jonathan Ross：這每個月都在變。以前大家以為我們做不到在同一硬件上服務(wù)多用戶，后來我們就現(xiàn)場演示了多用戶并發(fā)。他們還以為……

主持人：是因為你們的 SRAM 架構(gòu)對吧。

Jonathan Ross：其實和 SRAM 有關(guān)。再說一個常見疑問。

主持人：上次學(xué)到了不少，謝謝你。我真的從你這學(xué)到很多。

Jonathan Ross：最常被問的是：SRAM 不是比 DRAM 貴嗎？答案是貴。直觀理解，按位算，SRAM 天生就要貴 3 到 4 倍，撇開其他細節(jié)不談。

主持人：給不熟悉的觀眾再科普一下，SRAM 和 DRAM 的區(qū)別，盡量講簡單點。

Jonathan Ross：我盡量通俗點講（不完全嚴格）。可以把 SRAM 理解為芯片內(nèi)的存儲，DRAM 是外部存儲，本質(zhì)更多在設(shè)計實現(xiàn)上。

DRAM 每個位由一個電容 + 一個晶體管組成，SRAM 每個位需要 6 到 8 個晶體管，所以單位存儲位面積更大、硅用量更多、成本更高。

再加上 SRAM 常部署在更先進的芯片工藝上，比如 3nm，單位面積成本也更貴。

綜合下來，按位成本可能是 DRAM 的 10 倍。但關(guān)鍵在系統(tǒng)層面，比如我們把 Kimi 這樣的模型跑在 4000 顆我們的芯片上，而你把同一個模型跑在 8 塊 GPU 上。

我們這邊芯片數(shù)量是對方的 500 倍，意味著 GPU 側(cè)要復(fù)制 500 份模型，用到 500 倍的外部內(nèi)存。

所以即便 SRAM 按位貴 10 倍，對方在 DRAM 上用的內(nèi)存是 500 倍，整體內(nèi)存成本反而更高。這就是只從芯片單體看問題，和從系統(tǒng)整體看問題的經(jīng)典差別。

我們的所有設(shè)計都堅持從系統(tǒng)視角出發(fā)，現(xiàn)在更擴展到全球視角。

我們會在全球數(shù)據(jù)中心之間做負載均衡?，F(xiàn)在有 13 個數(shù)據(jù)中心，分布在美國、加拿大、歐洲、中東。做到全球分布后，決策就不能只停留在單個機房層面。

我們會根據(jù)各地區(qū)的使用情況，在某些機房多部署某些模型實例，并做不同的編譯優(yōu)化以適配輸入或輸出。

某個模型在某個機房可能根本不放，而是放在別處；然后通過全球調(diào)度來平衡。

這意味著我們的優(yōu)化單位是全球，而不是單個數(shù)據(jù)中心。

11

算力供需差距太大

主持人：如果你不害怕，你會怎么做？

Jonathan Ross：我換個說法，我在哪些方面可以把業(yè)務(wù)的風險再加碼？

主持人：我問的就是這個。

Jonathan Ross：我們還沒做的是，把供應(yīng)鏈的訂單直接翻倍。對，我們的供給周期是六個月，所以響應(yīng)市場會比任何人都快。

主持人：你們的供給相對需求有多緊？

Jonathan Ross：就像我說的，上周有人找我們要五倍于他們現(xiàn)有總產(chǎn)能的算力。我們之所以沒一股腦兒把籌碼全壓上去，原因只有一個。

主持人：在通用供給上加碼嘛，為什么不就這么做？

Jonathan Ross：因為存在門檻。比如說，就算我們把產(chǎn)能翻倍，也拿不下那個客戶，他們要的是 5 倍。翻倍還不夠，必須 5 倍才夠。那問題來了，產(chǎn)能翻倍之后，能不能覆蓋這種級別的客戶？

主持人：所以你們可加碼的風險，具體是指什么？

Jonathan Ross：我們可以把產(chǎn)能建設(shè)的速度直接翻倍。這輪融資我們拿到的金額超過原計劃的兩倍，超額認購也達到了已募金額的四倍。

其實還能多融很多，但那樣股權(quán)稀釋會更嚴重。我得替投資人和團隊考慮稀釋問題。另一方面，我們也可以選擇再多融，然后大規(guī)模把算力砸下去。

我們還有一個優(yōu)勢，在同等速度下，我們的每 Token 成本很占優(yōu)。這意味著我們可以比市場更低價，這對做這類生意很關(guān)鍵。

不是因為大家摳門，而是因為只要我們把價格降一半，客戶就會買兩倍的量，他們花得越多，輸出質(zhì)量就越高，花費和收益是一起的。

主持人：你們會考慮上市嗎？

Jonathan Ross：我們現(xiàn)在只專注執(zhí)行。上市與否是另一種玩法，和我們當下做的不是一回事。眼下唯一重要的是，我們能不能滿足算力需求。

主持人：接下來是快問快答。關(guān)于英偉達，如今最大的誤解是什么？

Jonathan Ross：認為英偉達的軟件是它的護城河。

主持人：所謂靠軟件把客戶鎖死是扯淡？

Jonathan Ross：在訓(xùn)練階段這點成立，但在推理階段并不成立。我們現(xiàn)在平臺上注冊的開發(fā)者有 220 萬了。

主持人：哇，那英偉達有多少？

Jonathan Ross：他們宣稱有……

主持人：600 萬。如果你在今天創(chuàng)辦 Groq，英偉達市值四萬億，AI 大潮正盛，你會有什么不同做法？

Jonathan Ross：我不會做芯片了。那班車已經(jīng)開走了，造芯片周期太長。

主持人：可現(xiàn)在也有新芯片公司不斷冒出來，他們從頭部機構(gòu)那里融到很多錢。

Jonathan Ross：現(xiàn)在已經(jīng)晚了。說說我當初做芯片的理由，我做過 Google TPU。離開前我還和 Google Brain 的同事在分類模型（比如 ResNet-50）上拿過最佳成績。

我們做了實驗，把當時所有結(jié)果都超了，所以我本可以轉(zhuǎn)去算法方向。其實當初融資時我也沒 100% 確定要做芯片，還想過做算法，尤其是形式化推理，慶幸后來沒走那條路。

我選芯片的主要動機是護城河，時間護城河。VC 常問怎么防止別人抄襲？答案是就算照抄，也會比我們晚三年，這還是在一切順利、從設(shè)計到量產(chǎn)只需三年的理想情況下。

我們現(xiàn)在已經(jīng)做了三款量產(chǎn)芯片，全部都是一次流片成功（A0）。但行業(yè)里首版成功率只有 14%，也就是說我們有 86% 的概率需要重轉(zhuǎn)一次。

我們做 V2 時甚至先把重轉(zhuǎn)的排期都訂好了，結(jié)果意外地首版就通了，這不應(yīng)被當作常態(tài)。所以說三年是萬事俱備的理想情況。

英偉達一代芯片通常要 3—4 年，他們是多代并行。Groq 現(xiàn)在是一年一更：V2 之后一年是 V3，再過一年是 V4。

主持人：你怎么看拉里·埃里森和甲骨文這波重新加速的騰飛？

Jonathan Ross：既做出了聰明的商業(yè)決策，又敢于迅速推進。大多數(shù)人當下都在猶豫，AI 會不會過熱？要不要加碼？他們沒有猶豫，立刻全力投入，打法非常激進。

別人恐懼時就該大膽出手，別人貪婪時反而要收斂。眼下大環(huán)境更偏恐懼。你看到的那些有人很貪，還賺了大錢，本質(zhì)上只是少數(shù)聰明又動作迅速的人抓住了機會。

主持人：那作為投資人，我什么時候該貪婪，什么時候該恐懼？

Jonathan Ross：其實很簡單，護城河在哪，大家心里都清楚。我們都知道 Hamilton Helmer 的戰(zhàn)略 7 力理論，看到護城河，就該貪婪。

主持人：但真正有護城河的不多。

Jonathan Ross：是啊，尤其在偏早期的投資階段更少。

主持人：確實。

Jonathan Ross：所以你得提前判斷它未來能長出護城河。

主持人：那如果有護城河，Pre……也配得上十億美元估值？

Jonathan Ross：是啊，叫它“Pre-seed、Pre-moat”（種子前、護城河前）都行。投資人可以直接標注成“Pre-moat”。

主持人：過去 12 個月里，你哪件事改主意了？

Jonathan Ross：與其說我改變了想法，不如說我在調(diào)整資源配比，把更多精力壓到更少的重點方向上。我們每個月都更聚焦，拒絕更多事，業(yè)務(wù)反而表現(xiàn)更好。

以前我覺得最重要的是保留選擇權(quán)，現(xiàn)在我認為更重要的是聚焦。當然，早期的選擇權(quán)至關(guān)重要，它讓我們摸到最有勝算的賽道；而到了現(xiàn)在，重心就是聚焦。

主持人：聊了很多 OpenAI 和 Anthropic。你覺得埃隆·馬斯克能把 xAI 和 Grok 做成嗎？

Jonathan Ross：能，但路數(shù)可能不同。每當一個新領(lǐng)域出現(xiàn)，很多人以為彼此在同一條賽道廝殺，其實不然。做基礎(chǔ)模型的這些人，常以為在為同一目標競爭。

Anthropic 的高明之處在于不在所有方面都競爭，而是聚焦在編程，這對他們很有用。再看 xAI，他們有社交網(wǎng)絡(luò)，并把聊天機器人和它結(jié)合。

我不會用那個聊天機器人做深度研究或復(fù)雜分析，也不會用它來寫代碼。雖然他們也有寫代碼的模型，但缺少在代碼領(lǐng)域的分發(fā)。

他們能借社交分發(fā)切進編程嗎？也許能，但專注度就會被分散。他們走的是另一條路。

市場最終會分化。七巨頭之間業(yè)務(wù)有重疊，但各自主業(yè)不同。不做差異化，就會被淘汰。

主持人：在谷歌、微軟、亞馬遜里，你會買誰、賣誰？

Jonathan Ross：看時間維度。短期內(nèi)，微軟因為與 OpenAI 的關(guān)系在做一些重置；長期看，他們大概率仍會表現(xiàn)不錯。

主持人：明白。那這是實質(zhì)性傷害嗎？

Jonathan Ross：不是。所以我才說這是短期影響。長期就未必。

主持人：他們不是從中獲益良多嗎？既持有 OpenAI 的財務(wù)權(quán)益，又能在很多場景里靈活用 Anthropic。

Jonathan Ross：而且他們已經(jīng)部署了龐大的算力。就算 OpenAI 多元化，去別處拿算力，微軟自己也握有充足的算力，算力就像黃金，有算力就有 AI。

至于亞馬遜，我覺得它缺少 AI 的基因。你剛沒提 Meta。Meta 和谷歌一直有 AI 基因，微軟則通過 OpenAI 買來了這種基因，也為自己贏得了時間。亞馬遜仍然缺這層基因，但它有算力。

主持人：最后一個問題。展望未來 5 到 7 年，你最期待什么？我想以積極的調(diào)子收尾。

Jonathan Ross：大多數(shù)人害怕的事，恰恰讓我興奮。大家擔心 AI 會帶來什么，我覺得可以用伽利略做比喻。幾百年前，伽利略讓望遠鏡普及，為此惹了大麻煩。

因為望遠鏡讓我們看到了真相，宇宙比想象中更遼闊，于是我們感到自身渺小。后來我們發(fā)現(xiàn)，人類很小，宇宙卻廣闊而動人。

我認為大模型是心智的望遠鏡。它們現(xiàn)在讓我們覺得自己很渺小，但一百年后，我們會意識到智能的廣闊超乎想象，而那同樣是美的。

主持人：每次和你聊我都記一大堆筆記。非常感謝你來做這期節(jié)目，這期播客太棒了。

Jonathan Ross：謝謝。

轉(zhuǎn)載原創(chuàng)文章請?zhí)砑游⑿牛篺ounderparker