国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

別再盲目堆卡了!企業(yè)AI算力,這種超節(jié)點才是剛需

0
分享至

隨著國內(nèi)掀起“全民養(yǎng)蝦”熱潮,人們逐漸發(fā)現(xiàn),算力才是數(shù)字化轉(zhuǎn)型的“硬通貨”。然而,隨著LLM、Agent應(yīng)用爆發(fā)式增長,企業(yè)卻紛紛陷入了焦慮。

當(dāng)前,8卡服務(wù)器是主流,在模型研發(fā)初期,它能從容承接小模型訓(xùn)練、輕量推理及原型驗證等需求,是入門利器??僧?dāng)AI產(chǎn)業(yè)邁入商業(yè)化深水區(qū),8卡服務(wù)器的局限性便徹底暴露,淪為發(fā)展瓶頸。有人試圖通過堆卡解決問題,可動輒數(shù)百卡、上千卡的大規(guī)模超節(jié)點集群,對絕大多數(shù)企業(yè)而言都堪稱天文數(shù)字。

算力瓶頸已成為企業(yè)數(shù)字化轉(zhuǎn)型的“攔路虎”。在此背景下,中科曙光3月26日在中關(guān)村論壇發(fā)布的世界首個無線纜箱式超節(jié)點scaleX40,就尤其值得關(guān)注。對此,行業(yè)人士分析,在8卡的性能瓶頸與大集群的高成本之間,定位在普及型超節(jié)點的sacleX40有望快速填補(bǔ)市場空白,成為破局關(guān)鍵。

算力選型的誤區(qū)

首先,傳統(tǒng)8卡服務(wù)器因部署簡便、成本可控,一度成為企業(yè)的主流優(yōu)選。不過,隨著大模型參數(shù)量向千億、萬億發(fā)展,MoE架構(gòu)成為主流,8卡服務(wù)器開始顯存容量吃緊、多驟機(jī)協(xié)同效率降、并發(fā)推理能力不足,很明顯不夠用了。此外,傳統(tǒng)8卡服務(wù)器還有高TCO、升級改造復(fù)雜、適配難度大等多重問題,已難以滿足日益增長的AI訓(xùn)練與推理需求。就像用手機(jī)處理簡單日常工作沒啥問題,但想做點復(fù)雜工作,哪怕多買幾部手機(jī)拼一起也解決不了問題,除非換PC。

其次,很多企業(yè)認(rèn)為只要不斷堆料,粗暴疊加卡的數(shù)量就能解決問題了。且不說上百卡乃至數(shù)百卡的集群采購成本足夠燒光公司幾年的預(yù)算,后續(xù)的機(jī)房、運(yùn)維、電力成本也非常巨大,對絕大多數(shù)都過于昂貴,根本難以負(fù)擔(dān)。實際上,對這些公司來說,幾十卡已經(jīng)足夠,就算手持上百卡,大多時候系統(tǒng)也會閑置。就像每天拉幾十噸貨跑,一輛貨車裝不下,但也犯不上買火車。

最后,不少人轉(zhuǎn)而選擇云算力,看似靈活省心,可長期高頻使用下來,按次計費的成本居高不下,綜合算下來并不劃算,也難以支撐穩(wěn)定、規(guī)模化的業(yè)務(wù)運(yùn)行。更重要的是,最近短短三個月內(nèi),AWS、谷歌云等廠商集體重塑定價策略,半年前AI創(chuàng)業(yè)者還能跟云廠商談?wù)劭?,現(xiàn)在能拿到配額就不錯了。

所以,綜合來看,在8卡入門配置與超大規(guī)模集群之間,還需要一個過渡。

中小規(guī)模的“算力甜點區(qū)”

如果你時刻關(guān)注行業(yè),可以看到迄今至少有8家廠商推出了自己的“超節(jié)點技術(shù)”。產(chǎn)品規(guī)格也不斷沖高,規(guī)模從64到上百,價格門檻層層抬升,但在這背后,真的能讓中小企業(yè)買得起、能落地的產(chǎn)品反而成為稀缺品。

行業(yè)普遍認(rèn)為,超節(jié)點規(guī)模存在性能收益邊際遞減,32卡~256卡為高性價比投資“甜點區(qū)”,越往大規(guī)模靠攏,性能冗余越多,資源浪費也越嚴(yán)重。

32卡是千億級模型商業(yè)化落地的基本門檻,能覆蓋更廣泛的行業(yè)級應(yīng)用,顯存池可完整承載模型、梯度與訓(xùn)練數(shù)據(jù),既能支撐千億模型訓(xùn)練,也能滿足中等并發(fā)推理,是兼顧性能與成本的實用配置。

不過,企業(yè)業(yè)務(wù)始終動態(tài)變化,模型規(guī)模與并發(fā)量隨時可能大幅提升,需要在32卡的基礎(chǔ)上進(jìn)一步拓展能力邊界。此時就存在一個兼顧性能與成本的“算力甜點區(qū)”,不僅能夠?qū)⒉少忛T檻從“億元級”拉低至“千萬級”,同時適配90%企業(yè)場景。



買得起、用得上、用得好的超節(jié)點

“算力甜點區(qū)”的存在并非秘密,但市場上真正落地又好用的產(chǎn)品卻寥寥無幾。中科曙光便推出了全球首個箱式無線纜超節(jié)點scaleX40,讓超節(jié)點成為中國算力標(biāo)配。

在此之前,曙光發(fā)布了面向大規(guī)模算力需求的超節(jié)點scaleX640,證明了自身在“大算力”領(lǐng)域的實力。然而,要讓更多企業(yè)真正享受到超節(jié)點的技術(shù)紅利,就必須向下兼容,這正是scaleX40的使命。從scaleX640的極致性能到scaleX40的普及落地,曙光實現(xiàn)了從“頂配”到“標(biāo)配”的全場景覆蓋。

scaleX40采用標(biāo)準(zhǔn)19英寸箱式設(shè)計,打破傳統(tǒng)柜式超節(jié)點的高門檻,以無線纜、即插即用為特色,讓企業(yè)無需改造機(jī)房、無需專業(yè)運(yùn)維即可擁有超節(jié)點級算力。為了能夠一站式搞定超節(jié)點運(yùn)維管理、大模型和智能體開發(fā),曙光還推出了SothisAI平臺。

scaleX40的目標(biāo)場景包括互聯(lián)網(wǎng)、金融、科教、電網(wǎng)、醫(yī)療、運(yùn)營商六大領(lǐng)域,典型應(yīng)用比如,智能客服、智能投研、風(fēng)險控制、網(wǎng)絡(luò)故障預(yù)測、醫(yī)學(xué)影像輔助、虛擬實驗、智能教學(xué)等。

scaleX40超節(jié)點共有五個亮點:一是內(nèi)置40張AI加速卡,總算力超過28 PFLOPS(FP8精度),總顯存超過5TB,訪存帶寬突破80TB/s;二是40張加速卡實現(xiàn)一級Scale-Up全互連,持內(nèi)存語義與統(tǒng)一顯存編址,聚合帶寬超過17TB/s;三是采用正交架構(gòu),相比傳統(tǒng)銅纜方案可用性提升10倍,對比光纖連接功耗降低40%~70%;四是設(shè)備尺寸采用標(biāo)準(zhǔn)19英寸規(guī)格,兼容主流機(jī)柜,支持單柜單Pod或單柜雙Pod的靈活部署方式;五是開箱即用,兼容主流軟件生態(tài),擁有配套的開發(fā)工具、基礎(chǔ)軟件、AI大模型與應(yīng)用,用戶可輕松完成大模型遷移,開箱即用。

與傳統(tǒng)8卡機(jī)方案相比,scaleX40在成本幾乎持平的前提下,訓(xùn)練性能提升20%,推理性能更是大幅提升40%。與組合柜式超節(jié)點相比,采購門檻數(shù)量級下降。



值得一提的是,通過“scaleX40(計算)+ ScaleFabric(網(wǎng)絡(luò))+ ParaStor F9000(存儲)”的存算傳三級強(qiáng)協(xié)同技術(shù)架構(gòu),訓(xùn)推帶寬提升2倍以上,大模型推理TTFT降低97%,GPU利用率提升,KV cache offload卸載顯存壓力。

經(jīng)過測試,在vLLM+ParaStor+XDS+KV cache offload框架、scaleX40+scaleFabric(400G IB互連+ParaStor F9000的環(huán)境下,DeepSeek-R1-0528-671B的TTFT時場降低了97.3%,破局了當(dāng)下推理性能瓶頸。



此外,scaleX40也支持OpenClaw私有化部署,為每位用戶提供專屬AI智能助手,聯(lián)動平臺skill、API及Agent,實現(xiàn)超節(jié)點高效管理與應(yīng)用。

回歸理性,敏捷超節(jié)點是AI富場景落地的最優(yōu)解

最佳算力不是最貴的,而是最匹配業(yè)務(wù)的,理性選型的核心是“剛剛好”。40卡之所以成為行業(yè)共識,正是因為它既足夠敏捷,又在“夠用”與“不浪費”之間找到了黃金平衡點。

scaleX40的發(fā)布,一方面定義了性能上限,展現(xiàn)了頂尖的互連拓?fù)渑c集成能力,為多種AGI技術(shù)路線提供了極致算力支撐,另一方面提升了全系標(biāo)準(zhǔn),其核心架構(gòu)(統(tǒng)一互連、全局內(nèi)存、異構(gòu)支持)將惠及整個產(chǎn)品矩陣,確??蛻魺o論從小規(guī)模起步驗證技術(shù)路線,還是擴(kuò)展至大規(guī)模部署,都能獲得一致的體驗。

這意味著,無論客戶的集群規(guī)模大小、技術(shù)路線如何選擇,都能依托源自同一技術(shù)藍(lán)圖的先進(jìn)架構(gòu)優(yōu)勢,獲得適配自身需求的最優(yōu)方案。

更重要的是,scaleX40在性能與成本間取得平衡,向下可兼容32卡配置,向上則可通過擴(kuò)展構(gòu)建更大規(guī)模的集群,這種靈活性,使企業(yè)能夠根據(jù)自身業(yè)務(wù)節(jié)奏分步投入,而非一次性押注。

技術(shù)的價值一定要回歸千行百業(yè),喧囂退去,務(wù)實才是長久之道,曙光的scaleX40無疑做到了這一點。

來源:電子工程世界(EEWorld)作者:付斌

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
“最快女護(hù)士”張水華辭職86天交出矚目成績單:參加4場馬拉松,奪得2個冠軍1次打破賽會紀(jì)錄,已獲20萬元+價值10萬元汽車

“最快女護(hù)士”張水華辭職86天交出矚目成績單:參加4場馬拉松,奪得2個冠軍1次打破賽會紀(jì)錄,已獲20萬元+價值10萬元汽車

極目新聞
2026-03-29 14:53:27
“以軍瀕臨崩潰”,內(nèi)塔尼亞胡還能打多久?| 京釀館

“以軍瀕臨崩潰”,內(nèi)塔尼亞胡還能打多久?| 京釀館

新京報評論
2026-03-29 19:05:41
女子家門未關(guān)嚴(yán),流浪狗尾隨入室咬傷其腿,3天后狗死了,狂犬病毒檢測呈陽性;多方回應(yīng)事件進(jìn)展

女子家門未關(guān)嚴(yán),流浪狗尾隨入室咬傷其腿,3天后狗死了,狂犬病毒檢測呈陽性;多方回應(yīng)事件進(jìn)展

大風(fēng)新聞
2026-03-29 13:28:09
郭麒麟、劉昊然,嚴(yán)浩翔,被曝疑組團(tuán)去商K聚會,本人火速回應(yīng)

郭麒麟、劉昊然,嚴(yán)浩翔,被曝疑組團(tuán)去商K聚會,本人火速回應(yīng)

興史興談
2026-03-28 22:53:56
中國石油:2025年凈利潤為1573億元

中國石油:2025年凈利潤為1573億元

每日經(jīng)濟(jì)新聞
2026-03-29 18:11:53
東風(fēng)導(dǎo)彈泄密案!間諜郭萬鈞一家三口,全部被處以死刑

東風(fēng)導(dǎo)彈泄密案!間諜郭萬鈞一家三口,全部被處以死刑

談史論天地
2026-03-29 16:10:03
單依純明目張膽侵權(quán)他人作品,拒不道歉,李榮浩4連問硬剛到底

單依純明目張膽侵權(quán)他人作品,拒不道歉,李榮浩4連問硬剛到底

上觀新聞
2026-03-29 17:56:07
魂歸故里,長眠桑梓!張雪峰安葬地選址原因披露

魂歸故里,長眠桑梓!張雪峰安葬地選址原因披露

史海流年號
2026-03-29 12:14:27
享界汽車就“S9‘麋鹿測試’視頻”發(fā)布聲明:經(jīng)核實,相關(guān)測試存在惡意、刻意操控行為,已固定相關(guān)證據(jù),并對涉嫌機(jī)構(gòu)及賬號采取維權(quán)行動

享界汽車就“S9‘麋鹿測試’視頻”發(fā)布聲明:經(jīng)核實,相關(guān)測試存在惡意、刻意操控行為,已固定相關(guān)證據(jù),并對涉嫌機(jī)構(gòu)及賬號采取維權(quán)行動

瀟湘晨報
2026-03-29 14:11:09
大學(xué)生怒砸食堂后續(xù)!人已被抓,知情人爆猛料,賠幾十萬只是一角

大學(xué)生怒砸食堂后續(xù)!人已被抓,知情人爆猛料,賠幾十萬只是一角

潮鹿逐夢
2026-03-29 14:54:28
“周大生門店賣周大金戒指”涉事金店已退貨賠款,負(fù)責(zé)人:顧客催得太急,自己就從其他店調(diào)了貨

“周大生門店賣周大金戒指”涉事金店已退貨賠款,負(fù)責(zé)人:顧客催得太急,自己就從其他店調(diào)了貨

極目新聞
2026-03-29 17:42:47
網(wǎng)友分享細(xì)思恐極事件,呼吁大家相信直覺!

網(wǎng)友分享細(xì)思恐極事件,呼吁大家相信直覺!

特約前排觀眾
2026-03-23 00:10:06
張雪峰遺體轉(zhuǎn)運(yùn)畫面流出!前妻和現(xiàn)任妻子現(xiàn)身,下屬向遺像三叩首

張雪峰遺體轉(zhuǎn)運(yùn)畫面流出!前妻和現(xiàn)任妻子現(xiàn)身,下屬向遺像三叩首

博士觀察
2026-03-29 11:52:26
今天南北經(jīng)濟(jì)的失衡,達(dá)到了歷史上最嚴(yán)重的時期。

今天南北經(jīng)濟(jì)的失衡,達(dá)到了歷史上最嚴(yán)重的時期。

流蘇晚晴
2026-03-28 13:37:46
淡季的大西北,需要一點逆流而上的小勇氣

淡季的大西北,需要一點逆流而上的小勇氣

吳佩頻道
2026-03-29 15:24:17
北京男子靠龍蝦OpenClaw實現(xiàn)36小時買房:龍蝦迅速篩出周邊房源,2小時內(nèi)獨自對比大量中介并選定,精準(zhǔn)摸清歷史最低成交價

北京男子靠龍蝦OpenClaw實現(xiàn)36小時買房:龍蝦迅速篩出周邊房源,2小時內(nèi)獨自對比大量中介并選定,精準(zhǔn)摸清歷史最低成交價

揚(yáng)子晚報
2026-03-29 19:35:46
歌手吳向飛喊話李榮浩道歉:未取得授權(quán)公開演唱其歌曲;李榮浩回應(yīng):并未在個人演唱會或音樂節(jié)晚會唱過,請列明場次,若侵權(quán)一定賠償?shù)狼?>
    </a>
        <h3>
      <a href=極目新聞
2026-03-29 18:56:41
汪峰定律!李榮浩撕單依純侵權(quán),吳向飛撕李榮浩!汪峰又開演唱會

汪峰定律!李榮浩撕單依純侵權(quán),吳向飛撕李榮浩!汪峰又開演唱會

露珠聊影視
2026-03-29 20:39:00
全國累計器官捐獻(xiàn)志愿登記人數(shù)超過733萬

全國累計器官捐獻(xiàn)志愿登記人數(shù)超過733萬

環(huán)球網(wǎng)資訊
2026-03-29 12:57:07
以色列最擔(dān)心的事發(fā)生:伊朗送出“大禮”,特朗普的反應(yīng)出人意料

以色列最擔(dān)心的事發(fā)生:伊朗送出“大禮”,特朗普的反應(yīng)出人意料

空天力量
2026-03-28 17:14:31
2026-03-30 00:20:49
EEWorld電子工程世界 incentive-icons
EEWorld電子工程世界
即時參與討論電子工程世界最火話題,搶先知曉電子工程業(yè)界資訊。
262文章數(shù) 22關(guān)注度
往期回顧 全部

科技要聞

馬斯克承認(rèn)xAI"建錯了",11位創(chuàng)始人均離職

頭條要聞

中國警告美國:勿將"沖突戰(zhàn)亂"引入亞太地區(qū)

頭條要聞

中國警告美國:勿將"沖突戰(zhàn)亂"引入亞太地區(qū)

體育要聞

絕殺衛(wèi)冕冠軍后,他單手指天把勝利獻(xiàn)給父親

娛樂要聞

汪峰定律再現(xiàn)!李榮浩喊話單依純侵權(quán)

財經(jīng)要聞

Kimi、Minimax 們的算力荒

汽車要聞

嵐圖泰山X8配置曝光 四激光雷達(dá)/華為新一代座艙

態(tài)度原創(chuàng)

房產(chǎn)
手機(jī)
數(shù)碼
本地
健康

房產(chǎn)要聞

首日430組來訪,單日120組認(rèn)籌!??谑讉€真四代,徹底爆了!

手機(jī)要聞

蘋果重返第一,華為微弱差距屈居第二,OPPO穩(wěn)居第三!

數(shù)碼要聞

僅花48元!成功撿漏64GB DDR5內(nèi)存:血賺好幾千

本地新聞

在濰坊待了三天,沒遇到一個“濰坊人”

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

無障礙瀏覽 進(jìn)入關(guān)懷版