編輯｜冷貓、澤南

太貴了。

時值美國圣誕購物季，喜歡電子產品的朋友們，卻發(fā)現(xiàn)了這樣恐怖的景象：

英偉達的頂配 GPU RTX 5090 官方起售價為 1999 美元（經過市場溢價可能達到了 3000 美元以上），而一根單條 256GB 的 DDR5 內存如今的市場價卻也飆升到了 3500-5000 美元之間。

電腦內存，這個長期以來在配置里不占大頭的組件，現(xiàn)在的價格已經漲到了令人乍舌的程度，這在個人消費領域已經成了個荒誕但又現(xiàn)實的寫照。而且根據各種新聞，短期看來 PC 內存還要繼續(xù)漲價，手機據說也要漲價。

這一波內存漲價的根本原因在于：產能都被 AI 截胡了，目前的內存市場正處于一場由 AI 算力需求引發(fā)的「結構性緊缺」中。

AI 訓練與推理能力取決于 GPU、TPU 以及數據中心的整體性能，而 GPU / TPU 需要 HBM，AI 數據中心需要 LPDDR 內存。全球只有三家公司具備生產高端 HBM 與 LPDDR 的能力：SK 海力士、三星電子、美光。

今年 10 月，OpenAI 以「星際之門」項目的名義，與三星和 SK 海力士簽下協(xié)議，鎖定了每月高達 90 萬片 DRAM 晶圓供應（HBM 本質上就是將多層 DRAM 芯片垂直堆疊在一起），這相當于全球 DRAM 月產量的 40%。這種規(guī)模的采購，瞬間抽走了大量本可用于消費市場的產能，直接導致合約價在交易公布后跳漲。

內存廠家的產能是存在上限的。由于 AI 服務器對內存的出價極高（向英偉達出售 HBM 內存的利潤是向消費者出售 DDR5 內存的 5 倍），廠家會優(yōu)先將生產線分配給大客戶。這直接導致了供應給 PC 市場的常規(guī) DDR5 晶圓減少，從而引發(fā)全球性的普漲。

不單單是內存，AI 著實是電腦配件價格上漲的強力驅動力。

不僅是 AI 基礎設施的內存，現(xiàn)在「AI PC」的概念也要求更大的內存來運行本地大模型（LLM）。以前 16GB 的 PC 看起來已經能夠處理所有任務，現(xiàn)在為了流暢運行 10B 以上參數的模型，32GB 甚至 64GB 逐漸成為新的門檻。這種需求疊加正在讓內存緊缺進一步加劇。

前些天，硬盤存儲的價格也同樣遇到一波飆升。但最離譜的自然是顯卡市場，逛了逛某二手交易平臺，炙手可熱的 RTX 4090 仍要近兩萬的價格。小編當年購入的 4090，在猛猛用了兩年之后出手甚至還能掙錢…

內存漲價的行情不僅牽動著 GPU 廠商和消費者，也深刻影響到了科技公司，最近有消息稱，谷歌的一些采購人員因為未能保證內存供應而遭解雇。

本月初，微軟采購高管訪問韓國，與 SK 海力士就長期供貨協(xié)議及價格展開談判。在會議中，SK 海力士明確表示：「在微軟提出的條件下，供貨存在困難?！挂晃话雽w業(yè)內人士透露：「聽到這個答復后，一名微軟高管當場情緒失控，憤然離席?！?/p>

據產業(yè)界 25 日消息，隨著全球 AI 半導體供應緊張局勢加劇，包括微軟、谷歌在內的全球科技巨頭采購負責人正蜂擁至韓國，爭搶產能

半導體行業(yè)相關人士表示：「為了與三星電子和 SK 海力士簽署存儲器供貨合同，微軟、谷歌、Meta 等大型科技公司總部的采購負責人幾乎是長期駐扎在韓國?！?/p>

目前，谷歌 TPU 所搭載的 HBM 中約 60% 由三星電子供應。隨著近期 TPU 需求遠超預期，谷歌試圖向 SK 海力士與美光尋求追加產能，但得到的回復是：「不可能?！?/p>

據悉，谷歌管理層因此解雇了相關采購負責人，認為其未能提前簽署長期供貨協(xié)議，導致嚴重供應鏈風險，是對一線人員的問責性人事處分。

這些科技巨頭為了內存供應而焦頭爛額的時候，被認為是 AI 時代吃到最多紅利的英偉達，同樣也在為內存短缺煩惱。

尤其是在谷歌推出 TPU 芯片，向推理與規(guī)?；渴饍?yōu)先的戰(zhàn)略轉型，挑戰(zhàn)英偉達在人工智能芯片的領先地位之后。

昨天，人工智能芯片初創(chuàng)公司 Groq 已與英偉達就推理技術達成了非排他性許可協(xié)議，同時英偉達挖走了 Groq 創(chuàng)始人兼 CEO Jonathan Ross、總裁 Sunny Madra 及多名核心工程師。詳細信息可以參閱我們的報道。

Groq 的 LPU（Language Processing Unit）芯片未采用英偉達 GPU 常用的高帶寬內存（HBM），而是將靜態(tài)隨機存取存儲器（SRAM）直接集成在芯片內部。這種設計使單芯片內存帶寬高達 80TB/s，是傳統(tǒng) HBM 方案的 20 倍以上。Groq 方案在物理空間和功耗上付出了代價：一個標準機架滿載功耗約為 26kW 至 30kW，且需要比 GPU 方案更多的機架數量來承載同等規(guī)模的模型參數。

聯(lián)系到瘋漲的 HBM 內存價格，有業(yè)內人士提出了一種觀點：

英偉達與 Groq 的交易，是為了對沖 DRAM 的價格瘋漲和產能短缺，探索在內存上的新的技術路徑。

Groq 在推理領域將一種設計哲學推向極端，核心賭注在于 SRAM。模型權重完全駐留在片上，并非作為緩存，而是作為主存儲介質存在。

而 SRAM 的帶寬比片外 HBM 高出若干個數量級，這一點至關重要，因為在推理過程中，每一個生成 token 的瓶頸受限于內存訪問，而非浮點計算（FLOPs）。在此基礎上，Groq 采用靜態(tài)調度機制，計算與通信在編譯階段即被規(guī)劃到時鐘周期級別，從而消除了 GPU 架構時代大量存在的系統(tǒng)復雜性。

這場溢價接近 3 倍的收購，或許也是英偉達在「內存荒」的大背景下，正在開辟的第二條戰(zhàn)線。

不過，對這部分說法也有不少反對意見，畢竟使用 SRAM 做主內存屬實有些匪夷所思。

SRAM 之所以是 Mb 級別 而不是 Tb 級別，是因為 SRAM 非?？?，但只有與邏輯電路集成在一起時才能發(fā)揮這一優(yōu)勢。換句話說，SRAM 的成本是在處理器芯片上制造高性能晶體管極其昂貴。英偉達的 Tensor Core 的芯片尺寸已經非常巨大，因此增加大量 SRAM 單元也會很快出現(xiàn)問題。

最后，對于我們這些普通消費者來說，是應該抓緊時間換機，還是等待這一波瘋狂漲價過程的消退呢？