由AI大模型驅(qū)動(dòng)的新一輪AI熱潮，引爆了AI芯片需求，也帶火了HBM。

隨著AI芯片需求持續(xù)大增，作為目前AI芯片當(dāng)中極為關(guān)鍵的器件，HBM（High Bandwidth Memory，高帶寬內(nèi)存）已出現(xiàn)供不應(yīng)求。

近日美光在發(fā)布最近一季財(cái)報(bào)時(shí)表示，HBM今年已售罄，明年絕大多數(shù)產(chǎn)能已被預(yù)訂。此前，SK海力士也曾透露，旗下的HBM今年已經(jīng)全部售罄。

HBM為什么這么搶手？

因?yàn)镠BM可以有效解決“內(nèi)存墻”問題。隨著人工智能發(fā)展和數(shù)據(jù)爆炸式增長(zhǎng)，存儲(chǔ)器訪問速度跟不上處理器數(shù)據(jù)處理速度，出現(xiàn)了 “存”“算”性能失配的“內(nèi)存墻”。

HBM通過堆疊多個(gè)DRAM芯片，形成了高度集成的模塊，可以在更小的空間內(nèi)提供更大的容量和更高的帶寬。同時(shí)，HBM的電壓和電流也低于傳統(tǒng)存儲(chǔ)，從而降低了能耗。

與傳統(tǒng)DRAM相比，HBM具備高帶寬、高容量、低延時(shí)與低功耗等優(yōu)勢(shì)，可以加快AI數(shù)據(jù)處理速度，更適用于大模型等高性能計(jì)算場(chǎng)景。

據(jù)了解，在面對(duì)AI大模型的千億乃至萬億級(jí)別的參數(shù)時(shí)，服務(wù)器中的計(jì)算核心GPU幾乎必須搭載HBM，如NVIDIA H100、A100、A800以及AMD MI250、MI250X系列，基本都配備了HBM。

自2014年首款硅通孔HBM產(chǎn)品問世至今，HBM技術(shù)已經(jīng)發(fā)展至第四代，分別是HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代），HBM芯片容量從1GB升級(jí)至24GB，帶寬從128GB/s提升至819GB/s，數(shù)據(jù)傳輸速率也從1Gbps提高至6.4Gbps。

伴隨AI芯片迅速迭代，所需HBM搭載量和技術(shù)要求隨之提高。如近日GTC 2024上英偉達(dá)發(fā)布的新一代架構(gòu)Blackwell及B200 GPU，通過搭載8顆HBM3E實(shí)現(xiàn)192GB內(nèi)存容量和8TB/s的帶寬。

可以說，HBM已成為GPU的“強(qiáng)助攻”。

英偉達(dá)聯(lián)合創(chuàng)始人兼CEO黃仁勛曾表示“HBM是一個(gè)技術(shù)奇跡。”他認(rèn)為，HBM可以提高能源效率，并且隨著耗電的人工智能芯片變得更加普遍，可以幫助世界變得更加可持續(xù)。

根據(jù)市場(chǎng)研究公司Yole Group 2月8日發(fā)布的數(shù)據(jù)，2023年至2028年間，HBM供應(yīng)的年復(fù)合增長(zhǎng)率將達(dá)到45%。

目前全球只有SK海力士(SK Hynix)、三星電子(Samsung)和美光科技(Micron Technology)3家公司能夠量產(chǎn)HBM。 受市場(chǎng)需求推動(dòng)，這三家HBM大廠正紛紛加大產(chǎn)能擴(kuò)張力度。

據(jù)報(bào)道，為了確保HBM的穩(wěn)定供應(yīng)，英偉達(dá)已向SK海力士和美光支付了數(shù)億美元的預(yù)付款。近期，三星電子也結(jié)束了產(chǎn)品測(cè)試，并與英偉達(dá)簽訂了HBM產(chǎn)品供應(yīng)協(xié)議。

從全球市場(chǎng)格局看，韓國(guó)企業(yè)處于絕對(duì)領(lǐng)先的第一梯隊(duì)。

SK海力士是技術(shù)領(lǐng)先并擁有最高市場(chǎng)份額的公司，其市場(chǎng)占有率為50%。SK海力士實(shí)際上是AI芯片領(lǐng)導(dǎo)者英偉達(dá)的HBM3芯片的唯一供應(yīng)商。

緊隨其后的是三星，市場(chǎng)占有率約為40%。三星一直在HBM上投入巨資追趕，于2月份宣布開發(fā)出HBM3E 12H——這是迄今為止容量最高的HBM產(chǎn)品。三星表示，將于今年上半年開始量產(chǎn)該芯片。

韓國(guó)政府高度重視HBM，最近將HBM指定為國(guó)家戰(zhàn)略技術(shù)，并列出多項(xiàng)措施鼓勵(lì)相關(guān)企業(yè)。

2月27日，韓國(guó)企劃財(cái)政部公布了《2023年稅法修正案后續(xù)執(zhí)行規(guī)則修正案草案》，對(duì)被納入韓國(guó)國(guó)家戰(zhàn)略技術(shù)的高帶寬存儲(chǔ)器（HBM）等，進(jìn)一步擴(kuò)大稅收支持。該項(xiàng)政策將惠及SK海力士、三星等企業(yè)。

美光作為美國(guó)企業(yè)，占據(jù)了大約10%的市場(chǎng)份額，屬于第二梯隊(duì)。

美光2月27宣布量產(chǎn)8層24GB HBM3E，確認(rèn)供貨英偉達(dá)H200。美光于3月出樣12層36GB HBM3E，預(yù)期25年量產(chǎn)。隨著HBM3E實(shí)現(xiàn)量產(chǎn)，美光力圖實(shí)現(xiàn)份額追趕。

過去一年,美光股價(jià)上漲了70%

HBM需求激增推高了美光的業(yè)績(jī)，該公司剛剛公布的最新財(cái)季營(yíng)收同比大增57.7%，遠(yuǎn)高于華爾街預(yù)期。HBM有望成為美光的“創(chuàng)收新引擎”。美光管理層預(yù)計(jì)，整個(gè)2024財(cái)年HBM產(chǎn)品將帶來“數(shù)億美元”級(jí)別的營(yíng)收。

海外HBM大廠在比拼，國(guó)內(nèi)廠商也在行動(dòng)。

據(jù)武漢新芯近期發(fā)布的《高帶寬存儲(chǔ)芯粒先進(jìn)封裝技術(shù)研發(fā)和產(chǎn)線建設(shè)》招標(biāo)項(xiàng)目稱，利用三維集成多晶圓堆疊技術(shù)，打造國(guó)產(chǎn)高帶寬存儲(chǔ)器(HBM)產(chǎn)品，擬新增16臺(tái)套設(shè)備，實(shí)現(xiàn)月產(chǎn)出能力3000片的目標(biāo)。

除了武漢新芯外，國(guó)內(nèi)還有包括材料供應(yīng)商和封裝公司等對(duì)HBM興趣濃厚，如同富微電子、捷電和SJ半導(dǎo)體，已經(jīng)具備了HBM封裝技術(shù)，開發(fā)了專為HBM設(shè)計(jì)的高密度扇出封裝解決方案。

總體來說，國(guó)產(chǎn)HBM正處于0到1的突破期。隨著國(guó)產(chǎn)AI芯片需求快速增長(zhǎng)，對(duì)HBM也將有強(qiáng)烈的供應(yīng)保障訴求和國(guó)產(chǎn)化訴求，國(guó)內(nèi)加快發(fā)展HBM勢(shì)在必行！