JEDEC固態(tài)技術協(xié)會正在開發(fā)一種方法，通過延長通道距離來增加高帶寬內存（HBM）的整體容量，從而使每個GPU能夠配備更多的HBM堆棧。

JEDEC是聯(lián)合電子設備工程委員會。標準封裝高帶寬內存（SPHBM4）與HBM4設備類似，都采用硅基板，但在不同的基礎接口芯片設計中使用了更少的引腳，可以安裝在標準有機基板上。

JEDEC董事會主席Mian Quddus表示："JEDEC成員正在積極制定標準，這些標準將定義用于AI數(shù)據(jù)中心的下一代模塊，推動基礎設施和性能創(chuàng)新的未來。"

HBM3擁有1024個引腳。HBM4設備擁有2048個引腳，數(shù)字信號通過這些引腳傳輸，使其性能翻倍。計劃中的SPHBM4設備只有512個引腳，是HBM4的四分之一，但工作頻率更高，采用4:1串行化技術，因此能夠提供與HBM4相同的總吞吐量。這意味著在帶寬方面，一個SPHBM4引腳可以完成四個HBM4引腳的工作量。

由于引腳數(shù)量更少，它們可以設置得更寬。JEDEC表示，這一變化使得連接到有機基板所需的寬松凸點間距成為可能。

硅基板支持高互連密度，線路間距超過10微米，而有機基板的間距小于20微米。有機基板的成本也更低。

HBM4和SPHBM4設備預計將具有相同的內存容量。安裝在有機基板上的設備可以距離HBM4設備更遠（具有更長的通道長度）。這可能會增加允許的SPHBM4堆棧數(shù)量，從而相比HBM4增加整體內存容量。

采用4:1引腳數(shù)量減少的SPHBM4內存堆棧將需要重新設計基礎邏輯芯片。

基礎邏輯芯片半導體公司Eliyan在LinkedIn上發(fā)表評論稱："我們的NuLink D2D/D2M互連解決方案已經(jīng)證明能夠在標準封裝中實現(xiàn)4TB/s的帶寬，這是最近發(fā)布的HBM4標準所需帶寬的2倍，因此我們期待利用JEDEC在SPHBM4方面所做的工作，使有機基板成為解決高性能計算內存墻挑戰(zhàn)的可行實施選項。"

連接SPHBM4內存堆棧及其基礎邏輯芯片與加速器的中介層將從硅設計改為有機基板設計。

Quddus同時也是三星標準與技術推進副總裁。HBM供應商美光、三星和SK海力士都是JEDEC成員，正在開發(fā)HBM4E及相關技術。他們需要支持SPHBM4才能使其成為真正的標準。更高的HBM容量和更低的制造成本似乎是好主意，但這些收益是否足以說服三家HBM4供應商？JEDEC的SPHBM4公告最后指出："JEDEC標準在開發(fā)過程中及之后可能會發(fā)生變化，包括被JEDEC董事會否決。"

Q&A

Q1：SPHBM4與HBM4有什么區(qū)別？

A：SPHBM4是標準封裝高帶寬內存，與HBM4類似但引腳數(shù)量更少。HBM4有2048個引腳，而SPHBM4只有512個引腳（四分之一），但通過更高頻率和4:1串行化技術，能夠提供與HBM4相同的總吞吐量。SPHBM4可以安裝在成本更低的有機基板上，而不是硅基板。

Q2：SPHBM4技術能帶來哪些優(yōu)勢？

A：SPHBM4技術主要帶來三個優(yōu)勢：首先，由于引腳間距更寬，可以使用成本更低的有機基板；其次，設備之間可以有更長的通道距離，允許每個GPU配備更多的內存堆棧；最后，這些改進能夠增加整體內存容量，同時降低制造成本。

Q3：SPHBM4標準能否成為行業(yè)標準？

A：目前還不確定。雖然美光、三星和SK海力士這三家主要HBM供應商都是JEDEC成員，但他們需要支持SPHBM4才能使其成為真正的標準。JEDEC也明確表示，該標準在開發(fā)過程中及之后可能會發(fā)生變化，甚至可能被JEDEC董事會否決。