高帶寬內(nèi)存（HBM）的激增需求正在影響DRAM內(nèi)存芯片和NAND存儲(chǔ)器的成本和可用性，進(jìn)而推高了從筆記本電腦到AI數(shù)據(jù)中心部署的所有成本。這一由多重事件引發(fā)的狀況可能需要數(shù)年時(shí)間才能緩解，同時(shí)也正在改變HPC（高性能計(jì)算）和AI（人工智能）團(tuán)隊(duì)構(gòu)建存儲(chǔ)集群的方式。

如果你今年計(jì)劃購(gòu)買(mǎi)新筆記本電腦，可能需要額外準(zhǔn)備數(shù)百美元——標(biāo)準(zhǔn)DDR4和DDR5內(nèi)存套件的價(jià)格在過(guò)去六個(gè)月內(nèi)上漲了 200% 以上。與 DRAM 和HBM 在同一工廠制造的NVMe驅(qū)動(dòng)器，其價(jià)格在某些情況下也上漲了100%以上。用于基于Nvidia和AMD GPU的AI集群中的 HBM 成本也在上升。

價(jià)格上漲和短缺有多個(gè)根本原因。主要原因是三星電子、SK 海力士和美光科技優(yōu)先考慮 HBM 產(chǎn)能，以滿足 AI 數(shù)據(jù)中心的激增需求。據(jù)美光介紹，每生產(chǎn) 1GB HBM 所需的晶圓產(chǎn)能約為標(biāo)準(zhǔn) DRAM 的 3 倍。這種轉(zhuǎn)向 HBM 導(dǎo)致低利潤(rùn)率消費(fèi)產(chǎn)品（如 DRAM 和 NVMe 驅(qū)動(dòng)器）的產(chǎn)能減少。

還有一個(gè)原因是，由于之前的供應(yīng)過(guò)剩問(wèn)題以及 2022 年和 2023 年的產(chǎn)能縮減，制造商的內(nèi)存和NVMe產(chǎn)能受限。制造商在COVID-19疫情期間小型電子產(chǎn)品需求激增后擴(kuò)大了產(chǎn)能，但需求未能持續(xù)，促使供應(yīng)商限制制造產(chǎn)能以防止價(jià)格暴跌。

再一個(gè)因素是 Nvidia 決定轉(zhuǎn)向LPDDR（低功耗雙倍數(shù)據(jù)速率）內(nèi)存，這種內(nèi)存?zhèn)鹘y(tǒng)上主要用于智能手機(jī)和其他手持設(shè)備。這一轉(zhuǎn)變相當(dāng)于增加了一個(gè)主要智能手機(jī)廠商的需求量，Counterpoint Research研究總監(jiān)黃智善去年 11 月表示：“這對(duì)供應(yīng)鏈來(lái)說(shuō)是一次地震般的轉(zhuǎn)變，供應(yīng)鏈無(wú)法輕易吸收這種規(guī)模的需求�！�

這種內(nèi)存和 NVMe 制造產(chǎn)能的縮減，結(jié)合 AI 驅(qū)動(dòng)的 HBM 需求激增和LPDDR 內(nèi)存轉(zhuǎn)移，現(xiàn)在正困擾著芯片制造商。雖然建設(shè)內(nèi)存或NVMe工廠的成本和時(shí)間消耗不像采用最新工藝的芯片制造工廠那樣夸張，但仍然需要數(shù)月的規(guī)劃和數(shù)年的建設(shè)時(shí)間。

短缺問(wèn)題已經(jīng)持續(xù)數(shù)月，制造商正在采取措施緩解這一狀況。例如，美光三年前在愛(ài)達(dá)荷州開(kāi)始建設(shè)其新的 ID1 設(shè)施，但目前該設(shè)施計(jì)劃要到 2027 年中期才能投入運(yùn)營(yíng)。據(jù)美光移動(dòng)和客戶端業(yè)務(wù)部營(yíng)銷副總裁Christopher Moore介紹，到 2028 年之前，ID1 設(shè)施不會(huì)對(duì) NAND 供應(yīng)短缺產(chǎn)生實(shí)質(zhì)性影響。

“整個(gè)行業(yè)都處于短缺狀態(tài)，”Moore在最近接受科技媒體 Wccftech 采訪時(shí)表示�！斑@不是美光的問(wèn)題，而是整個(gè)行業(yè)的問(wèn)題——我們和我們的同行或競(jìng)爭(zhēng)對(duì)手都在竭盡全力服務(wù)這些市場(chǎng)細(xì)分領(lǐng)域，但供應(yīng)就是不足。”

雖然 NAND 制造商正忙于建設(shè)新生產(chǎn)線，但制造工藝限制卻在阻礙他們前進(jìn)。Moore 表示，結(jié)果是 DRAM 短缺可能會(huì)持續(xù)到 AI 繁榮期開(kāi)始回落之后�！斑@確實(shí)是個(gè)不幸的情況�！彼a(bǔ)充道，“但我認(rèn)為人們需要理解的是，我們?nèi)栽诜⻊?wù)消費(fèi)市場(chǎng)�！�

VAST Data 市場(chǎng)（GTM）執(zhí)行副總裁 Phil Manez 表示，短缺問(wèn)題已開(kāi)始影響 HPC 和 AI 客戶�！翱蛻舻恼Z(yǔ)調(diào)從以前對(duì)所需NVMe 存儲(chǔ)類型非�！_定’，迅速轉(zhuǎn)變?yōu)椤隳芙o我什么，能夠在合理的交付時(shí)間內(nèi)可用？’”他說(shuō)�！拔覀兛吹娇蛻粼诜e極采購(gòu)，打電話詢問(wèn)大量容量的情況�！�

NVMe 驅(qū)動(dòng)器的銷售額預(yù)計(jì)將從2025 年的全球 1150 億美元增長(zhǎng)到 2030 年的 4050 億美元。

Manez 表示，短缺問(wèn)題并未導(dǎo)致客戶撤回建設(shè)大型AI和HPC集群的決定，因?yàn)闅v史上存儲(chǔ)支出只占其他組件支出的一小部分，尤其是相對(duì)于CPU和GPU，更不用說(shuō)熟練人才及其薪水了。

然而，成為NVMe驅(qū)動(dòng)器存儲(chǔ)介質(zhì)的NAND晶圓短缺正在促使客戶考慮改變其存儲(chǔ)集群的架構(gòu)方式�！澳承�(qū)動(dòng)器尺寸需求量更大，某些需求量較小，”Manez告訴媒體。“我們正在與客戶討論‘您最初可能考慮的是這個(gè)驅(qū)動(dòng)器容量。如果您考慮重新格式化集群或重新構(gòu)建系統(tǒng)以適應(yīng)我們能獲取到的產(chǎn)品，您感覺(jué)如何？’”

VAST Data 的軟件定義存儲(chǔ)架構(gòu)專為 NVMe 閃存（特別是 QLC——四層單元閃存，效率最高的閃存類型）而設(shè)計(jì)，盡管它也可以在其他類型的 NVMe 驅(qū)動(dòng)器上運(yùn)行。在某些方面，它比那些能夠完全或部分運(yùn)行在傳統(tǒng)磁盤(pán)上的并行存儲(chǔ)供應(yīng)商受到的影響更大，盡管 Manez 指出，機(jī)械硬盤(pán)也有其自身的供應(yīng)問(wèn)題。

然而，在NAND短缺期間，VAST正將其整體存儲(chǔ)效率作為競(jìng)爭(zhēng)優(yōu)勢(shì)進(jìn)行推廣�！叭绻次覀兊男誓芰�，我們擁有地球上最高效的糾刪碼�！盡anez 說(shuō)。“因此，當(dāng)您構(gòu)建 VAST 集群時(shí)，我們的糾刪碼開(kāi)銷在大規(guī)模情況下低于3%，這意味著我的原始容量轉(zhuǎn)化為可用容量的比例要高得多。我們還擁有地球上最先進(jìn)的數(shù)據(jù)縮減技術(shù)。我們使用重復(fù)數(shù)據(jù)刪除、壓縮和基于相似性的數(shù)據(jù)縮減這幾種技術(shù)的組合�！�

基于相似性的數(shù)據(jù)縮減使用算法查找與其他數(shù)據(jù)片段相似的數(shù)據(jù)片段。VAST 不存儲(chǔ)這兩個(gè)數(shù)據(jù)片段的全部?jī)?nèi)容，而是使用哈希算法計(jì)算它們之間的差異，并存儲(chǔ)差異。據(jù) Manez 介紹，這可以將數(shù)據(jù)壓縮高達(dá) 25%。當(dāng)與其他形式的數(shù)據(jù)縮減（包括壓縮和經(jīng)典的數(shù)據(jù)去重）結(jié)合時(shí)，VAST 聲稱原始數(shù)據(jù)總量可減少 50%。

HPC和AI存儲(chǔ)供應(yīng)商DDN也在適應(yīng) NAND 短缺。這家位于加州查茨沃思的公司表示，它可以使用 NVMe、HDD 和一種基于 SATA的較老類型 SSD 的組合，后者速度較慢且容量較低。

“AI 依賴于越來(lái)越快、可擴(kuò)展且成本效益高的數(shù)據(jù)基礎(chǔ)設(shè)施，全球 NAND 短缺使傳統(tǒng)的依賴閃存的架構(gòu)難以維持，”DDN 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Alex Bouzari 在 12 月的新聞稿中表示。“DDN 的 EXAScaler 和Infinia 平臺(tái)允許客戶使用任何存儲(chǔ)介質(zhì)實(shí)現(xiàn)完整的 GPU 性能，保護(hù)他們的預(yù)算、供應(yīng)鏈和 AI 路線圖在未來(lái)幾年不受影響�！�

該公司表示，使用多種驅(qū)動(dòng)器類型的靈活性有助于降低與依賴 NVMe 驅(qū)動(dòng)器的存儲(chǔ)供應(yīng)商相比的風(fēng)險(xiǎn)�！巴ㄟ^(guò)這些創(chuàng)新，組織可以在減少高端 SSD 需求 35-65% 的情況下實(shí)現(xiàn)相同或更好的 AI 成果，將存儲(chǔ)總CAPEX（資本性支出）降低 40-70%，并將OPEX（運(yùn)營(yíng)性支出）降低30-60%。”

Pure Storage 建議客戶和潛在客戶與其存儲(chǔ)供應(yīng)商保持密切溝通，以確定NAND短缺將如何影響其項(xiàng)目�！皼](méi)有人擁有水晶球，但目前看來(lái)，NAND 定價(jià)不太可能很快下降�！痹摴驹谧罱囊黄┪闹袑�(xiě)道�！皳碛袊�(yán)格供應(yīng)鏈實(shí)踐的供應(yīng)商可以緩沖一些波動(dòng)，但沒(méi)有誰(shuí)能完全免疫全球趨勢(shì)�！�

Pure表示，客戶應(yīng)該規(guī)劃他們預(yù)期的存儲(chǔ)容量增長(zhǎng)，并盡早、頻繁地與存儲(chǔ)供應(yīng)商接洽。提前購(gòu)買(mǎi)將有助于客戶鎖定訂單并確保他們所需的容量。該公司還建議考慮其他消費(fèi)模式，例如使用存儲(chǔ)即服務(wù)�！皩�(duì)于IT領(lǐng)導(dǎo)者來(lái)說(shuō)，最好的方法不是緊急或恐慌——而是清晰、規(guī)劃和與在波動(dòng)環(huán)境中具備持續(xù)交付能力的供應(yīng)鏈韌性供應(yīng)商合作�！笔尽�

在內(nèi)存和 NAND 短缺的陰霾中看到一線希望的是 Hailo，該公司開(kāi)發(fā)用于邊緣應(yīng)用場(chǎng)景的AI加速器。該公司表示，其Hailo-8和Hailo-8L芯片完全消除了對(duì) DRAM 的依賴。

“通過(guò)將完整的推理流水線保持在芯片上，Hailo-8/8L消除了系統(tǒng)中成本最高且供應(yīng)受限的組件�！盚ailo 首席技術(shù)官 Avi Baum 通過(guò)電子郵件告訴媒體�！皩�(shí)際上，避免使用 DRAM可以使每臺(tái)設(shè)備的物料清單（BOM）成本減少高達(dá) 100 美元，同時(shí)還能提高電源效率和系統(tǒng)可靠性�！�