在當(dāng)今激烈的全球AI競賽之中，除了AI大模型的較量之外，AI基礎(chǔ)設(shè)施的競爭亦是核心焦點。

Gartner預(yù)測，到2026年，全球AI總支出將攀升至2.52萬億美元，其中構(gòu)建 AI 基礎(chǔ)設(shè)施的支出增長率高達49%。當(dāng)AI大模型參數(shù)量進化到萬億規(guī)模、算力集群規(guī)模攀升至萬卡乃至十萬卡，用戶“算力焦慮”與AI集群算力利用率（MFU）低下形成極為尖銳的供需矛盾時，如何提升AI基礎(chǔ)設(shè)施的協(xié)同效率就成為整個產(chǎn)業(yè)界亟待突破的一道“難題”。

而解決這道“難題”的本質(zhì)在于提升數(shù)據(jù)在計算、存儲與網(wǎng)絡(luò)間流轉(zhuǎn)和處理效率，讓數(shù)據(jù)不斷突破極限跑得再快一些。為此，中科曙光發(fā)布首款全棧自研400G無損高速網(wǎng)絡(luò)--scaleFabric，同時結(jié)合超級隧道等技術(shù)，構(gòu)筑起“存算傳一體化”緊耦合架構(gòu)，為AI集群提供高效、安全、穩(wěn)定的數(shù)據(jù)供給。

AI基礎(chǔ)設(shè)施步入強協(xié)同階段

近年來，AI基礎(chǔ)設(shè)施的發(fā)展脈絡(luò)逐漸有跡可循。自從AI大模型爆發(fā)，迅速帶動算力等AI基礎(chǔ)設(shè)施建設(shè)的興起。隨著最近幾年完成階段性的建設(shè)之后，AI基礎(chǔ)設(shè)施又迎來了一個新的關(guān)鍵階段：政府工作報告首次提出要發(fā)展超大規(guī)模智算集群等新基建，而如何將AI集群龐大的算力資源充分發(fā)揮出效能，從而滿足用戶迫切的需求和進一步推動AI發(fā)展，成為當(dāng)下行業(yè)面臨的現(xiàn)實問題。

在曙光信息產(chǎn)業(yè)（北京）有限公司總裁助理、分布式存儲產(chǎn)品部總經(jīng)理石靜看來，當(dāng)前AI基礎(chǔ)設(shè)施在計算、存儲與網(wǎng)絡(luò)三個層面主要面臨著以下核心挑戰(zhàn)：

其一、AI集群的規(guī)模在持續(xù)擴張，在堆砌大量AI算力之后，算力效能成為制約整個AI發(fā)展的瓶頸所在。中國信息通信研究院報告顯示，大模型訓(xùn)練的算力需求大約每3.5個月就會翻一番，這意味著萬卡級別甚至更大規(guī)模的AI集群未來會越來越多，且亟待充分釋放算力的能效。

其二、與數(shù)據(jù)密切相關(guān)的存儲，需要更好地匹配算力需求，充分協(xié)助算力將效能發(fā)揮出來。

其三、如果是算力是AI時代的內(nèi)核、數(shù)據(jù)是倉庫，那么網(wǎng)絡(luò)就是脈絡(luò)。隨著AI集群規(guī)模持續(xù)增加，網(wǎng)絡(luò)層面的“通信墻”正在成為成為制約AI集群性能的突出挑戰(zhàn)，網(wǎng)絡(luò)性能是影響AI集群效率的關(guān)鍵變量�！癆I集群的網(wǎng)絡(luò)性能越來越重要�，F(xiàn)在很多新建集群，基本都過渡到400G網(wǎng)絡(luò)�！笔锕庑畔a(chǎn)業(yè)（北京）有限公司scaleFabric產(chǎn)品經(jīng)理縱瑞博介紹道。

事實上，中科曙光發(fā)布的國內(nèi)首款原生無損RDMA高速網(wǎng)絡(luò)scaleFabric，即是針對當(dāng)下AI集群愈發(fā)突出的網(wǎng)絡(luò)性能挑戰(zhàn)。據(jù)悉，scaleFabric面向超大規(guī)模智算集群設(shè)計，中科曙光從核心關(guān)鍵IP、芯片、網(wǎng)卡到交換機、驅(qū)動與管理軟件均實現(xiàn)自主研發(fā)，構(gòu)建起scaleFabric從硬件到軟件的完整技術(shù)體系。

毫無疑問，隨著AI快速發(fā)展帶來對于性能的持續(xù)需求，除了局部突破性能瓶頸之外，AI基礎(chǔ)設(shè)施作為一個整體的重要性愈發(fā)關(guān)鍵，需要計算、存儲和網(wǎng)絡(luò)形成一體化、高效協(xié)同，“AI基礎(chǔ)設(shè)施步入緊耦合、強協(xié)同的新發(fā)展階段，只有這樣才能讓用戶的投資建設(shè)回報率最高�！笔o如是說。

算存?zhèn)饕惑w化離不開這個法寶

如果說scaleFabric相當(dāng)于將數(shù)據(jù)中心網(wǎng)絡(luò)從國道升級到超級高速公路，那么曙光分布式存儲“超級隧道”技術(shù)則賦予了這條高速公路的智能化調(diào)度能力，可以根據(jù)AI集群的不同IO類型來設(shè)計路線，設(shè)計出一條條專屬數(shù)據(jù)通道，讓數(shù)據(jù)沿最優(yōu)路徑高速流動，有效減少網(wǎng)絡(luò)擁堵和資源競爭，從而串聯(lián)起計算、存儲與網(wǎng)絡(luò)，實現(xiàn)AI基礎(chǔ)設(shè)施的一體化和高效協(xié)同。

事實上，AI對于數(shù)據(jù)存儲有著高性能、高帶寬、低時延的顯著需求。此外AI的預(yù)訓(xùn)練、推理等不同工作負(fù)載的IO特征又有著明顯差異。例如，在預(yù)訓(xùn)練階段的數(shù)據(jù)加載，需要短時間完成海量數(shù)據(jù)的順序讀�。挥�(xùn)練階段的Checkpoint則需要大量的并發(fā)讀寫；而越來越多的推理任務(wù)，則對于小IO的隨機吞吐要求更高……

因此，“超級隧道”技術(shù)的設(shè)計思路在當(dāng)前很有必要。那么，曙光存儲是如何實現(xiàn)“超級隧道”技術(shù)，并且讓其與自研RDMA高速網(wǎng)絡(luò)scaleFabric深度適配、協(xié)同工作的？

石靜介紹，“超級隧道”技術(shù)在硬件層面為各數(shù)據(jù)域配置獨享的RDMA網(wǎng)絡(luò)連接和PCIe通道，并通過NUMA親和性優(yōu)化資源分配；在軟件層面實現(xiàn)線程、內(nèi)存與存儲資源的綁定調(diào)度；同時通過軟硬件協(xié)同優(yōu)化設(shè)計，來實現(xiàn)數(shù)據(jù)高速流動最優(yōu)化路徑，從而實現(xiàn)計算、存儲與網(wǎng)絡(luò)的一體化，并持續(xù)為AI計算提供穩(wěn)定的數(shù)據(jù)負(fù)載支撐。

具體來看，“超級隧道”技術(shù)充分利用了RDMA高速網(wǎng)絡(luò)的高性能和低延時的特點，利用獨有的虛擬網(wǎng)卡技術(shù)虛擬出多個小網(wǎng)卡，既實現(xiàn)了不同數(shù)據(jù)的鏈路均衡保障，又讓資源得到隔離，使得不同數(shù)據(jù)鏈路之間互不干擾和爭搶資源。

傳統(tǒng)做法是針對計算、存儲與網(wǎng)絡(luò)之間每一筆聯(lián)接都先分配好內(nèi)存等資源，這種模式不夠靈活，一旦AI集群規(guī)模提升、業(yè)務(wù)應(yīng)用快速增長，尤其是當(dāng)前智能體涌現(xiàn)趨勢下，推理業(yè)務(wù)呈現(xiàn)出爆炸性態(tài)勢，海量的數(shù)據(jù)聯(lián)接很容易耗盡寶貴的基礎(chǔ)設(shè)施資源，并形成性能瓶頸。

“超級隧道”技術(shù)賦予了數(shù)據(jù)傳輸?shù)膭討B(tài)化和智能化。在確保基本服務(wù)啟動的情況，“超級隧道”技術(shù)為每一個聯(lián)接靈活分配資源，既能夠快速確保每一個聯(lián)接啟動起來，還能根據(jù)聯(lián)接流量大小變化來動態(tài)分配內(nèi)存等資源，確保了整個數(shù)據(jù)中心數(shù)據(jù)流轉(zhuǎn)與傳輸?shù)母咝А?/p>

在石靜看來，“超級隧道”技術(shù)這項法寶之所以能夠在存算傳一體化中發(fā)揮重要作用，得益于中科曙光堅持多年的全棧自研戰(zhàn)略，在硬件層基于國產(chǎn)化組件構(gòu)建，在軟件層面擁有完整源代碼，實現(xiàn)基礎(chǔ)架構(gòu)與軟件棧的全面自主可控，為存算傳高效協(xié)同提供了堅實基礎(chǔ)，完美支撐起AI工作負(fù)載的需求。

實戰(zhàn)驗證，讓數(shù)據(jù)跑得更快

技術(shù)在紙面上的優(yōu)美，終究需要在AI現(xiàn)實世界繁雜業(yè)務(wù)中經(jīng)過洗禮。

今年2月在國家超算互聯(lián)網(wǎng)核心節(jié)點，3套scaleX 萬卡超集群同時上線試運行，成為了中國首個實際投運的最大國產(chǎn) AI 算力池，這正是中科曙光存算傳一體化緊耦合、強協(xié)同架構(gòu)的最佳證言。

據(jù)悉，憑借原生RDMA網(wǎng)絡(luò)的零門檻部署優(yōu)勢，這3套scaleX萬卡集群從交換機上電到應(yīng)用上線，僅用時36小時。超集群已經(jīng)歷近1年的穩(wěn)定測試，服務(wù)作業(yè)逾10萬個，性能、擴展性和穩(wěn)定性均經(jīng)受了考驗。

實際應(yīng)用中，超集群依托RDMA高速網(wǎng)絡(luò)+超級隧道技術(shù)，各類應(yīng)用均獲得了效能的大幅提升。例如，助力某氣象模擬客戶將應(yīng)用性能提升達到2倍左右、支撐國內(nèi)頂級科研團隊將蛋白質(zhì)研究效率提升3-6個數(shù)量級等。

此外，國內(nèi)主流大模型廠商也在scaleX 集群中驗證了RDMA高速網(wǎng)絡(luò)+超級隧道技術(shù)的優(yōu)勢，其預(yù)訓(xùn)練的數(shù)據(jù)準(zhǔn)備、訓(xùn)練階段的Checkpoint以及推理等AI全鏈路環(huán)節(jié)均實現(xiàn)了高性能支撐�！耙惶状鎯粗纹鹪摽蛻粲�(xùn)推場景的全業(yè)務(wù)流�！笔o補充道。

無疑，RDMA高速網(wǎng)絡(luò)+超級隧道技術(shù)對于對多樣化工作負(fù)載的兼容和支撐能力，未來將會為“算存?zhèn)饕惑w化”架構(gòu)帶來更加廣闊的應(yīng)用前景。

綜合觀察

未來的數(shù)據(jù)中心，將是一個以數(shù)據(jù)為中心、計算、存儲、網(wǎng)絡(luò)深度融合的有機體。只有消除數(shù)據(jù)流動的一切障礙，才能將算力的價值最大化。

在 scaleFabric 發(fā)布之前，中國在高性能網(wǎng)絡(luò)領(lǐng)域幾乎是一片空白。廣大客戶只能在性能卓越但封閉的國外方案與兼容性好但時延較高的傳統(tǒng)以太網(wǎng)方案之間艱難權(quán)衡 。

如今，曙光分布式存儲超級隧道技術(shù)與scaleFabric緊密結(jié)合，補齊了國產(chǎn)AI 基礎(chǔ)設(shè)施版圖上的最后一塊拼圖，構(gòu)建起AI基礎(chǔ)設(shè)施領(lǐng)域完整的國產(chǎn)化技術(shù)閉環(huán)，推動著中國人工智能產(chǎn)業(yè)向著更深邃、更遼闊的星辰大海進發(fā)。

大數(shù)據(jù)在線是聚焦人工智能、大數(shù)據(jù)、云計算等前沿科技領(lǐng)域深度觀察的深度媒體。目前，大數(shù)據(jù)在線在微信公眾號、今日頭條號、新浪財經(jīng)、36氪、雪球號、觀察號等主流自媒體平臺均有入駐，積累粉絲超過20W；并榮獲今日頭條十大科技新銳媒體、商業(yè)新知十大人工智能媒體等多項殊榮。商務(wù)聯(lián)系請?zhí)砑游⑿牛篛wen_Inter，添加請備注具體信息。