国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

昇騰AI開發(fā)者峰會(huì)2025: 技術(shù)升級(jí)與產(chǎn)業(yè)共振 共赴AI新征程

0
分享至

[中國(guó),北京,2025年5月23日]鯤鵬昇騰開發(fā)者大會(huì)2025——昇騰AI開發(fā)者峰會(huì)2025在北京中關(guān)村國(guó)際創(chuàng)新中心召開。本次峰會(huì)以“與時(shí)代 共昇騰?攜手全球開發(fā)者一起向上”為主題,聚焦最前沿的AI技術(shù)趨勢(shì)、熱門行業(yè)應(yīng)用開發(fā)實(shí)踐,以及頂尖AI學(xué)者和企業(yè)家的高端對(duì)話,致力于為開發(fā)者打造一場(chǎng)高規(guī)格的思想盛宴。峰會(huì)帶來(lái)多項(xiàng)重磅技術(shù)升級(jí),通過(guò)構(gòu)建全面開放的創(chuàng)新生態(tài)與極致效能的算力底座,攜手全球開發(fā)者加速AI技術(shù)向千行萬(wàn)業(yè)滲透,以智能算力革命重塑產(chǎn)業(yè)創(chuàng)新范式。

華為ICT Marketing部部長(zhǎng)周軍在致辭中表示,華為將圍繞昇騰,堅(jiān)持技術(shù)創(chuàng)新,聚焦模型趨勢(shì),打造更高效的AI算力系統(tǒng);堅(jiān)持深度開放,聚焦易用好用,打造更豐富的AI開發(fā)體系;堅(jiān)持共同成長(zhǎng),聚焦人才培養(yǎng),打造更健康的AI產(chǎn)業(yè)未來(lái)。

在主題演講環(huán)節(jié),華為昇騰計(jì)算業(yè)務(wù)總裁張迪煊圍繞“一起昇騰 共綻光芒”解讀了昇騰AI的前沿創(chuàng)新技術(shù)。

昇騰異構(gòu)計(jì)算架構(gòu)CANN作為本次峰會(huì)技術(shù)焦點(diǎn)之一,張迪煊著重介紹了其通過(guò)分層開放架構(gòu),為AI創(chuàng)新按下“加速鍵”。他談到,當(dāng)前,CANN開源算子加速庫(kù)、通信算法、AscendC、集合通信庫(kù)等組件已在Gitee社區(qū)上線260+算子、10+通信算法參考樣例,顯著提升開發(fā)效率。同時(shí),runtime運(yùn)行時(shí)的開放,提供底層原子級(jí)能力,支持靈活組合,充分釋放硬件性能潛力。在生態(tài)建設(shè)上,通過(guò)畢昇編譯器的升級(jí)與開放,實(shí)現(xiàn)與Triton、FlagTree等第三方編程框架的無(wú)感對(duì)接。截至目前,昇騰已攜手互聯(lián)網(wǎng)、運(yùn)營(yíng)商、金融等30多個(gè)伙伴,創(chuàng)新開發(fā)260多個(gè)高性能算子,大幅提升業(yè)務(wù)場(chǎng)景性能表現(xiàn)。此外,CANN持續(xù)升級(jí),在計(jì)算加速、通信加速、內(nèi)存優(yōu)化三大領(lǐng)域協(xié)同發(fā)力,不斷突破算力瓶頸、優(yōu)化數(shù)據(jù)傳輸效率、提升資源利用效能,推動(dòng)人工智能應(yīng)用邁向更廣闊天地。

峰會(huì)上全新發(fā)布的昇騰算子模板庫(kù)CATLASS可提供從接口調(diào)用到單條指令的多層可復(fù)用模板,基于Gitee開源20+高性能算子樣例,成功將Matmul算子開發(fā)周期從4周縮短至2周,極大降低開發(fā)成本與時(shí)間。

針對(duì)制約AI發(fā)展的集群算力瓶頸,昇騰384超節(jié)點(diǎn)顛覆傳統(tǒng)計(jì)算范式,創(chuàng)新提出了對(duì)等計(jì)算架構(gòu),并把總線從服務(wù)器內(nèi)部,擴(kuò)展到整機(jī)柜、甚至跨機(jī)柜,從而解決了集群互聯(lián)瓶頸。采用業(yè)界最大規(guī)模的384卡高速總線互聯(lián)體系,對(duì)比傳統(tǒng)以太,通信帶寬提升15倍,單跳通信時(shí)延降低了10倍,使大規(guī)模集群如同單一計(jì)算機(jī)般運(yùn)行流暢,整體訓(xùn)練性能較傳統(tǒng)方案提升3倍,顯著加速模型訓(xùn)練效率。

深度思考模型引發(fā)推理能力爆發(fā),Tokens成為衡量AI智能水平的新量綱。面對(duì)復(fù)雜任務(wù),MoE模型憑借大規(guī)模專家并行(大EP)機(jī)制,實(shí)現(xiàn)“一份投入N份輸出”,成為推理最優(yōu)解。昇騰率先推出大規(guī)模專家并行方案,全新發(fā)布MindIEMotor推理服務(wù)加速庫(kù),通過(guò)動(dòng)態(tài)專家冗余與親和調(diào)度技術(shù)均衡負(fù)載,結(jié)合AutoPD分離部署智能調(diào)配Prefill/Decode資源,同時(shí)可基于精細(xì)異步調(diào)度使服務(wù)化吞吐達(dá)到模型峰值的93%。同時(shí),依托三重RAS防護(hù)體系將推理實(shí)例MTTR從小時(shí)級(jí)縮短至7分鐘。此外,昇騰基于業(yè)界唯一的384超節(jié)點(diǎn)架構(gòu),通過(guò)全高速總線互聯(lián)實(shí)現(xiàn)專家一卡一域分布,突破性達(dá)成Decode時(shí)延15ms的極致性能,在同等50ms時(shí)延下單卡吞吐達(dá)傳統(tǒng)集群4倍。

"我們正站在AI普惠化的關(guān)鍵轉(zhuǎn)折點(diǎn)。"張迪煊強(qiáng)調(diào),除了昇騰社區(qū),昇騰還以開放姿態(tài)共建AI生態(tài):硬件層面開放模組、板卡及參考設(shè)計(jì),推動(dòng)硬件多樣化創(chuàng)新;軟件生態(tài)通過(guò)0day支持主流開源模型、深度優(yōu)化PyTorch/vLLM等框架,加速訓(xùn)練與推理創(chuàng)新落地;同時(shí)積極聯(lián)動(dòng)魔搭、啟智、Gitee等開發(fā)者社區(qū),整合共享適配模型、工具及源碼資源,大幅降低開發(fā)門檻,助力生態(tài)成果高效轉(zhuǎn)化應(yīng)用。

會(huì)上,華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授、博士生導(dǎo)師陸璐現(xiàn)場(chǎng)演示昇騰CANN算子模板庫(kù)CATLASS的使用,展示如何通過(guò)自定義模板編程釋放Ascend C高性能算子開發(fā)潛能。華南理工算力并行加速團(tuán)隊(duì)致力于昇騰平臺(tái)核心算子性能優(yōu)化,通過(guò)模板庫(kù)和編譯優(yōu)化等技術(shù)手段,使大模型訓(xùn)練推理一體化算子的開發(fā)更加簡(jiǎn)單高效,持續(xù)推動(dòng)完善昇騰生態(tài)體系。

科大訊飛星火大模型訓(xùn)練工程資深技術(shù)專家張海俊現(xiàn)場(chǎng)分享了基于昇騰超節(jié)點(diǎn)架構(gòu)的MoE模型訓(xùn)練實(shí)踐,過(guò)去一年,訊飛完成了長(zhǎng)思考強(qiáng)化學(xué)習(xí)、MoE訓(xùn)練推理等多個(gè)關(guān)鍵技術(shù)在昇騰算力底座上的突破和率先應(yīng)用,未來(lái),將攜手昇騰和廣大開發(fā)者,繼續(xù)全力推進(jìn)自主創(chuàng)新的星火大模型研發(fā)迭代,通過(guò)算法與算力的協(xié)同創(chuàng)新優(yōu)化,構(gòu)建技術(shù)領(lǐng)先優(yōu)勢(shì),加速行業(yè)應(yīng)用落地。

清華大學(xué)博士生、vLLM社區(qū)Maintainer游凱超帶來(lái)開源社區(qū)的最新動(dòng)態(tài),通過(guò)與昇騰的全面技術(shù)合作,共建更加繁榮的生態(tài)。面向未來(lái),vLLM和昇騰將進(jìn)一步深化技術(shù)創(chuàng)新,通過(guò)結(jié)合vLLM社區(qū)極速至簡(jiǎn)的推理框架和昇騰穩(wěn)定、可靠、高性能的硬件能力,為廣大用戶和開發(fā)者提供更極致的大模型推理體驗(yàn)。

峰會(huì)上,昇騰AI創(chuàng)新大賽2025啟動(dòng)儀式隆重舉辦,該賽事旨在激發(fā)全球開發(fā)者的創(chuàng)新活力,推動(dòng)昇騰AI在各行業(yè)的應(yīng)用落地。大賽設(shè)置豐厚獎(jiǎng)項(xiàng)與資源支持,鼓勵(lì)開發(fā)者基于昇騰平臺(tái)開發(fā)前沿AI解決方案。

圓桌討論環(huán)節(jié),科大訊飛副總裁、AI工程院院長(zhǎng)潘青華、硅基流動(dòng)創(chuàng)始人& CEO袁進(jìn)輝、北京大學(xué)信息工程學(xué)院助理教授&博士生導(dǎo)師袁粒、清昴智能創(chuàng)始人& CEO關(guān)超宇等五位行業(yè)領(lǐng)軍者圍繞“AI技術(shù)不斷突破,如何更好地助力全產(chǎn)業(yè)開發(fā)者創(chuàng)新?”展開深度對(duì)話。現(xiàn)場(chǎng),與會(huì)嘉賓立足不同行業(yè)、不同視角的見解相互交織,在智慧的交流探討中激發(fā)行業(yè)前沿認(rèn)知,共同勾勒出AI技術(shù)與開發(fā)者生態(tài)共生共榮的壯闊圖景,探尋產(chǎn)業(yè)創(chuàng)新發(fā)展的全新路徑。

昇騰AI開發(fā)者峰會(huì)2025以技術(shù)突破與生態(tài)共榮為錨點(diǎn),展現(xiàn)了AI算力從底層架構(gòu)到行業(yè)落地的全鏈條革新。通過(guò)CANN的分層開放、超節(jié)點(diǎn)架構(gòu)的極致效能,以及MindSpeed RL、MoE并行推理等前沿工具的發(fā)布,昇騰正為全球開發(fā)者構(gòu)建“所想即所得”的創(chuàng)新土壤。從高校實(shí)驗(yàn)室到產(chǎn)業(yè)一線,從開源社區(qū)到商業(yè)場(chǎng)景,昇騰生態(tài)的蓬勃生長(zhǎng)印證了“與時(shí)代共昇騰”的愿景。在這場(chǎng)AI的角逐長(zhǎng)跑中,昇騰愿攜手更多開發(fā)者共同構(gòu)建生態(tài)厚度、挖掘技術(shù)深度,一起昇騰,共綻光芒。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

智會(huì)社 incentive-icons
智會(huì)社
繪聲繪色說(shuō)科技
305文章數(shù) 1059關(guān)注度
往期回顧 全部

專題推薦

洞天福地 花海畢節(jié) 山水饋贈(zèng)里的“詩(shī)與遠(yuǎn)方

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版