芯東西（公眾號(hào)：aichip001）
編譯 劉煜
編輯 陳駿達(dá)

芯東西4月14日消息，4月12日，據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，多位分析人士稱，谷歌3月25日發(fā)布的可提升內(nèi)存利用效率的TurboQuant算法，非但不會(huì)削弱存儲(chǔ)芯片需求，反而將進(jìn)一步推高市場(chǎng)對(duì)存儲(chǔ)芯片的整體需求。

上個(gè)月，谷歌發(fā)布TurboQuant算法相關(guān)博文后，三星與SK海力士股價(jià)一度大幅跳水，引發(fā)了資本市場(chǎng)對(duì)存儲(chǔ)芯片的焦慮。

4月7日，三星電子公布的第一季度業(yè)績(jī)指引稱，該公司第一季度利潤(rùn)預(yù)計(jì)將超過(guò)去年全年總和，合并營(yíng)業(yè)利潤(rùn)約為57.2萬(wàn)億韓元（約合人民幣2652.75億元），同比增長(zhǎng)超755%。這份盈利預(yù)期推動(dòng)三星股價(jià)逼近歷史高點(diǎn)，也一定程度上平息了近兩周因TurboQuant引發(fā)的市場(chǎng)焦慮。

▲圖為三星電子的股價(jià)走勢(shì)圖（圖源：英國(guó)《金融時(shí)報(bào)》）

TurboQuant是在AI交互時(shí)長(zhǎng)增加以及用戶數(shù)量攀升的背景下誕生的。

當(dāng)前，市場(chǎng)對(duì)更長(zhǎng)上下文、更低成本的AI服務(wù)需求持續(xù)提升，AI服務(wù)面臨的存儲(chǔ)成本壓力持續(xù)加大，而大模型在長(zhǎng)上下文推理時(shí)會(huì)產(chǎn)生大量重復(fù)計(jì)算，鍵值緩存（KV Cache）正是通過(guò)復(fù)用歷史計(jì)算結(jié)果降低這類開(kāi)銷。但緩存本身會(huì)占用內(nèi)存資源，于是AI產(chǎn)業(yè)鏈對(duì)KV緩存優(yōu)化技術(shù)的需求急劇增長(zhǎng)。

而TurboQuant能夠壓縮鍵值緩存，即壓縮ChatGPT、Claude等模型用于保存對(duì)話上下文的短期存儲(chǔ)單元，并在需要時(shí)對(duì)其進(jìn)行重構(gòu)，這個(gè)過(guò)程中幾乎不會(huì)造成明顯的精度損失。

TurboQuant底層算法模塊PolarQuant和QJL的核心研究者、谷歌研究院的客座研究員韓仁洙（Insu Han）稱，該算法“有望成為實(shí)現(xiàn)此前難以完成的高難度任務(wù)的基礎(chǔ)，例如在有限存儲(chǔ)資源下處理更長(zhǎng)的上下文且不損失精度，或是在小型設(shè)備上部署高性能AI”。

谷歌稱，TurboQuant能夠降低單token成本，即AI系統(tǒng)處理每單位數(shù)據(jù)所需的算力與存儲(chǔ)開(kāi)銷。其研究人員稱，該方法可將存儲(chǔ)占用最多削減至原來(lái)的六分之一。

但谷歌發(fā)布TurboQuant算法相關(guān)博文后，隨即引發(fā)了市場(chǎng)圍繞高帶寬內(nèi)存（HBM）未來(lái)需求的激烈且持續(xù)的爭(zhēng)論。

韓仁洙稱：“我們從未想到，一項(xiàng)源于‘如何更完美地壓縮數(shù)據(jù)’這一學(xué)術(shù)問(wèn)題的技術(shù)，竟會(huì)引發(fā)如此巨大的社會(huì)與經(jīng)濟(jì)連鎖反應(yīng)?！?/p>

部分投資者認(rèn)為存儲(chǔ)芯片的繁榮將走向破滅，另一些人則認(rèn)為TurboQuant影響甚微。

有樂(lè)觀觀點(diǎn)指出，若該技術(shù)確實(shí)能降低AI成本，只會(huì)催生更多AI應(yīng)用需求，進(jìn)而帶動(dòng)更多芯片需求。

韓國(guó)的研究型綜合大學(xué)首爾成均館大學(xué)教授權(quán)錫俊稱：“TurboQuant有望將LLM的運(yùn)行成本降低四至八成。乍看之下，這似乎會(huì)沖擊HBM的需求?！钡a(bǔ)充道：“推理成本大幅下降，會(huì)解鎖此前因成本過(guò)高而無(wú)法落地的算力任務(wù)”，例如實(shí)時(shí)編碼助手以及多AI Agent并行運(yùn)行等場(chǎng)景，“最終將推動(dòng)整體算力需求上升，而非下降”。

半導(dǎo)體分析機(jī)構(gòu)SemiAnalysis的王磊說(shuō)道：“市場(chǎng)很大程度上誤解了TurboQuant。我們始終認(rèn)為，隨著AI模型迭代與技術(shù)創(chuàng)新，無(wú)論是訓(xùn)練還是推理環(huán)節(jié)，存儲(chǔ)需求都將持續(xù)增長(zhǎng)。”他還稱，AI服務(wù)商為鎖定供應(yīng)正越來(lái)越多地簽訂長(zhǎng)期合約，這將緩沖韓國(guó)芯片廠商可能面臨的沖擊。

此外，王磊補(bǔ)充道：“受AI需求持續(xù)、快速增長(zhǎng)驅(qū)動(dòng)，存儲(chǔ)芯片行業(yè)的周期性正在減弱，如今合約定價(jià)的重要性已超過(guò)現(xiàn)貨定價(jià)。”

未來(lái)資產(chǎn)證券分析師金英建在研報(bào)中用“似曾相識(shí)”類比了谷歌此前推出的容器編排技術(shù)Kubernetes。該技術(shù)可在單臺(tái)服務(wù)器上運(yùn)行多個(gè)應(yīng)用，大幅提升硬件利用效率。

那是在2010年代末，Kubernetes開(kāi)始普及，由于該技術(shù)能提高服務(wù)器效率，市場(chǎng)擔(dān)憂企業(yè)用更少資源即可實(shí)現(xiàn)同等業(yè)務(wù)效果，進(jìn)而導(dǎo)致服務(wù)器與存儲(chǔ)需求下滑。但后續(xù)事實(shí)證明，實(shí)際情況與市場(chǎng)預(yù)期恰恰相反，成本下降催生了更廣泛的應(yīng)用落地。

目前，TurboQuant仍停留在博客論文階段。待4月下旬其在巴西舉辦的國(guó)際學(xué)習(xí)表征會(huì)議（ICLR）正式發(fā)布，且開(kāi)放對(duì)外測(cè)試后，其實(shí)際影響才能顯現(xiàn)。該技術(shù)最終能否成功，取決于大型科技企業(yè)能否規(guī)?；涞貞?yīng)用。

結(jié)語(yǔ)：TurboQuant攪動(dòng)短期估值，訓(xùn)練剛需驅(qū)動(dòng)HBM長(zhǎng)期成長(zhǎng)

與TurboQuant提升存儲(chǔ)效率卻可能帶動(dòng)更大存儲(chǔ)芯片需求的邏輯相似，1865年，經(jīng)濟(jì)學(xué)家威廉?斯坦利?杰文斯在其著作《煤炭問(wèn)題》中曾指出：詹姆斯?瓦特改良的高效率蒸汽機(jī)并未減少煤炭消耗，反而讓煤炭動(dòng)力在更多場(chǎng)景具備經(jīng)濟(jì)可行性，最終大幅推高了煤炭的整體使用量。

當(dāng)前行業(yè)對(duì)TurboQuant爭(zhēng)論的核心，本質(zhì)或是HBM的需求結(jié)構(gòu)將如何被重新調(diào)整。

著眼存儲(chǔ)芯片市場(chǎng)，短期來(lái)看，推理環(huán)節(jié)的HBM使用效率顯著提升，單顆GPU可支持更長(zhǎng)上下文，引發(fā)市場(chǎng)對(duì)存儲(chǔ)芯片估值的階段性重估。長(zhǎng)期來(lái)看，訓(xùn)練環(huán)節(jié)仍需高精度HBM支撐千億乃至萬(wàn)億參數(shù)模型訓(xùn)練。

以TurboQuant為代表的壓縮技術(shù)主要影響推理場(chǎng)景，并不會(huì)改變訓(xùn)練側(cè)對(duì)高端HBM的核心需求，反而可能推動(dòng)存儲(chǔ)架構(gòu)向訓(xùn)練側(cè)重容量與帶寬、推理側(cè)重高效利用的方向分化。

不過(guò)，TurboQuant等技術(shù)紅利能否真正轉(zhuǎn)化為AI效率提升，關(guān)鍵或取決于大型科技企業(yè)能否將其規(guī)?；涞貞?yīng)用，以及與Chiplet先進(jìn)封裝、CXL內(nèi)存互聯(lián)等技術(shù)是否能協(xié)同融合。