C114訊 2月5日消息（水易）近日，英偉達(dá)在一場“面向千兆瓦級AI工廠的共封裝硅光交換技術(shù)”的網(wǎng)絡(luò)研討會上，英偉達(dá)網(wǎng)絡(luò)高級副總裁Gilad Shainer深入介紹了英偉達(dá)打造AI超級計算機(jī)的方法，以及CPO技術(shù)在提升能效和系統(tǒng)可靠性方面所扮演的關(guān)鍵角色。

CPO破局光互連功耗挑戰(zhàn)

Gilad Shainer表示，現(xiàn)代AI基礎(chǔ)設(shè)施的核心理念是“數(shù)據(jù)中心即計算機(jī)”。他強(qiáng)調(diào)，AI工作負(fù)載依賴大量計算單元協(xié)同運(yùn)作，而網(wǎng)絡(luò)正日益成為決定整個系統(tǒng)能力的關(guān)鍵因素。

他將AI超級計算機(jī)描述為由四大基礎(chǔ)設(shè)施組成：一是Scale-up，通過NVLink將英偉達(dá)H100 GPU互連，形成所謂的“機(jī)架級GPU”；二是Scale-out，采用Spectrum-X以太網(wǎng)作為端到端網(wǎng)絡(luò)架構(gòu)，連接多個機(jī)架，支持跨數(shù)十萬顆GPU的分布式AI工作負(fù)載；三是上下文內(nèi)存存儲，滿足推理階段對低延遲、高吞吐存儲的需求；四是Scale-across，基于Spectrum-X的技術(shù)方案，當(dāng)單個站點(diǎn)受電力或物理空間限制時，可將多個數(shù)據(jù)中心連接成一個統(tǒng)一的計算引擎，目標(biāo)是構(gòu)建“千兆瓦級”AI工廠。

光互連技術(shù)在其中發(fā)揮著重要作用。不過他指出，隨著每一代帶寬翻倍，光網(wǎng)絡(luò)的功耗也在持續(xù)上升，目前已接近計算資源總功耗的10%。因此，在電力受限的數(shù)據(jù)中心中，降低光互連功耗可直接轉(zhuǎn)化為更高的有效算力。

CPO技術(shù)將原本置于外部可插拔光模塊中的光引擎，集成到交換芯片的同一封裝內(nèi)。通過縮短電通道長度并減少信號轉(zhuǎn)換環(huán)節(jié)，英偉達(dá)預(yù)計可顯著降低功耗并提升信號質(zhì)量。他提到，當(dāng)前可插拔光模塊功耗約為20-25瓦，而CPO方案可在Scale-out基礎(chǔ)設(shè)施中實(shí)現(xiàn)最高5倍的功耗節(jié)省。

除能效外，CPO還能減少組件和所需激光器數(shù)量，提升數(shù)據(jù)中心整體可靠性，并延長“首次中斷時間”（time to first interrupt）。Gilad Shainer表示，英偉達(dá)已為Spectrum-X以太網(wǎng)平臺和Quantum-X InfiniBand平臺開發(fā)了支持CPO的交換機(jī)，并與生態(tài)合作伙伴共同推進(jìn)封裝工藝、光纖連接方式及液冷設(shè)計方案。

正面回應(yīng)規(guī)模部署“質(zhì)疑”

在問答環(huán)節(jié)，Gilad Shainer表示，英偉達(dá)預(yù)計CPO的部署將于今年啟動。目前已宣布三家合作伙伴CoreWeave、Lambda和德克薩斯高級計算中心（TACC）將在今年上半年部署基于Quantum-2 InfiniBand平臺的CPO系統(tǒng)。Spectrum-X以太網(wǎng)平臺的CPO產(chǎn)品計劃于今年下半年開始出貨。

關(guān)于CPO的可靠性，他指出，可插拔光模塊的可靠性問題多源于人為操作，如清潔、插拔、意外觸碰等都容易損壞光模塊。而CPO將光引擎集成到交換機(jī)封裝內(nèi)部，并對整個系統(tǒng)進(jìn)行一體化驗(yàn)證，可有效減少灰塵污染和人為操作風(fēng)險，從而提升系統(tǒng)韌性。英偉達(dá)已經(jīng)與合作伙伴打造全系統(tǒng)制造測試流程，確保部署前整機(jī)100%驗(yàn)證，而非單一組件。

被問及與臺積電的合作時，Gilad Shainer強(qiáng)調(diào)，雙方共同開發(fā)的共封裝工藝注重可靠性和可測試性。他還提到，早期CPO嘗試多采用較大的基于MZM的光引擎，而英偉達(dá)則采用基于微環(huán)調(diào)制技術(shù)的小型化光引擎，以適配高密度大端口AI網(wǎng)絡(luò)。此外，英偉達(dá)還開發(fā)了光纖對準(zhǔn)技術(shù)和高功率激光器，以進(jìn)一步減少所需激光器數(shù)量。

針對CPO相比可插拔方案在靈活性方面的劣勢，Gilad Shainer承認(rèn)CPO需預(yù)先選定特定技術(shù)，但他稱英偉達(dá)的方案已覆蓋典型數(shù)據(jù)中心內(nèi)部距離，甚至可連接園區(qū)內(nèi)不同建筑，從而減少數(shù)據(jù)中心內(nèi)對多種光模塊類型的需求。對于超長距離，如跨城市數(shù)據(jù)中心互連，他仍建議使用傳統(tǒng)可插拔光模塊。

面對“按需付費(fèi)”（pay-as-you-go）模式下可插拔光模塊更具成本彈性的質(zhì)疑，Gilad Shainer回應(yīng)稱，AI超級計算機(jī)通常以高利用率為目標(biāo)，并采用高度優(yōu)化的拓?fù)浣Y(jié)構(gòu)，客戶往往會一次性部署滿配基礎(chǔ)設(shè)施。在此場景下，CPO不僅能降低資本開支（CAPEX）和運(yùn)營支出（OPEX），還能提升系統(tǒng)可靠性。

基于上述優(yōu)勢，Gilad Shainer認(rèn)為，超大規(guī)模云服務(wù)商會積極采用CPO。對于下一代產(chǎn)品的演進(jìn)方向，他表示，主要包括更大端口數(shù)交換機(jī)、更高光連接密度與數(shù)據(jù)吞吐量、新型光纖-交換機(jī)連接技術(shù)、更高密度全液冷機(jī)架等。