四川
今年年初，DeepSeek的“橫空出世“成為人工智能發(fā)展歷程中的一座重要里程碑，這一技術(shù)突破如同一顆投入行業(yè)深潭的“重磅炸彈”，激起的漣漪正推動著AI產(chǎn)業(yè)范式發(fā)生結(jié)構(gòu)性變革——從過去單純追求模型參數(shù)規(guī)模的“軍備競賽”，加速邁向以實體經(jīng)濟需求為導向的價值創(chuàng)造新階段。
DeepSeek的核心創(chuàng)新亮點，無疑在于其開創(chuàng)性的“集群式”MoE（混合專家）架構(gòu)，該架構(gòu)在模型結(jié)構(gòu)、訓練范式以及強化學習算法等多個關(guān)鍵維度均做了大量創(chuàng)新。其中，“集群式”MoE 堪稱其最具標志性的創(chuàng)新成果，它深刻融入了中國哲學所蘊含的東方智慧，這也正是“中國 AI 不能永遠跟隨”這一理念的核心體現(xiàn)。
反觀以 OpenAI 為代表的 MoE 模型，它們走的卻是“精英路線”，即模型中的每個 MoE 專家都擁有龐大的參數(shù)量，但專家數(shù)量相對較少，如GPT-4 的每個專家參數(shù)量高達110B，而整個模型僅配備 16 個專家，這種設計理念與西方“個人英雄主義”哲學可謂高度契合。
與之形成鮮明對比的是，中國哲學所倡導的東方智慧，更注重“集體主義、天下大同”理念，而 DeepSeek 的“集群式”MoE 架構(gòu)，正是這一東方智慧在 AI 領(lǐng)域的鮮活實踐。以 DeepSeekV3/R1 為例，該模型集成了256個 MoE 專家，每個專家的參數(shù)量僅約2.3B，但通過多個“小專家”的組合與集群協(xié)作讓DeepSeek 同樣達到了世界頂尖水平，這一實踐也充分說明，在單體技術(shù)競爭異常激烈的當下，中國完全能夠憑借集群化、組織化的創(chuàng)新模式，開辟出一條具有中國 AI 特色的發(fā)展路徑。
基于這樣的行業(yè)趨勢與創(chuàng)新實踐，華為也積極行動，以算力基礎設施為基石，以昇騰AI生態(tài)為紐帶，構(gòu)建了開放協(xié)同的技術(shù)創(chuàng)新體系，打造了適配不同場景的AI大模型底座。這一舉措大幅縮短了行業(yè)客戶從技術(shù)認知到應用落地的轉(zhuǎn)化周期，更通過持續(xù)迭代的技術(shù)解決方案，加速了大模型技術(shù)向產(chǎn)業(yè)核心價值環(huán)節(jié)的滲透進程。
正如華為昇騰計算首席架構(gòu)師趙英俊，在日前舉辦的華為中國行2025·廣東新質(zhì)生產(chǎn)力創(chuàng)新峰會上所言：“華為致力于打造長穩(wěn)可靠的算力底座，賦能中國AI持續(xù)創(chuàng)新，并加速行業(yè)智能化轉(zhuǎn)型走深向?qū)?。?/p>
華為昇騰計算首席架構(gòu)師趙英俊
01.
昇騰生態(tài)進化，
加速行業(yè)智能化升級進程
過去兩年時間中，AI領(lǐng)域經(jīng)歷了從ChatGPT大火到DeepSeek“現(xiàn)象級”驚艷登場的變化，這場技術(shù)嬗變不僅僅體現(xiàn)在軟件和大模型層面的技術(shù)演進上，更深刻地反映在硬件與算力基礎設施生態(tài)的變革上。當前，大模型發(fā)展正步入“技術(shù)摸高+工程創(chuàng)新”并行的新階段，由此也大大推動了算力需求的持續(xù)增長。
所謂“技術(shù)摸高”，是指行業(yè)內(nèi)的頭部玩家堅定不移地投入預訓練基礎模型的創(chuàng)新研發(fā)，不斷豐富模型組合，全力追逐“Scaling Law”（規(guī)模定律），以加速通用人工智能（AGI）的探索進程；而“工程創(chuàng)新”則側(cè)重于通過范式革新，降低模型后訓練與知識蒸餾的技術(shù)門檻，這種技術(shù)普惠化的趨勢，催生出了算力“平權(quán)”現(xiàn)象，進而形成了“百模千態(tài)”的繁榮生態(tài)格局。
最為典型代表就是DeepSeek團隊，其通過系統(tǒng)級工程創(chuàng)新，研發(fā)出兼具成本優(yōu)勢與性能優(yōu)異的模型蒸餾/微調(diào)方案，就顯著降低大模型部署門檻，促進了大模型應用的普及，并推動AI技術(shù)加速滲透至千行百業(yè)。
可以看到，DeepSeek技術(shù)范式的突破，加速推動了大模型向生產(chǎn)力工具的蛻變。一方面，DeepSeek催生的模型輕量化技術(shù)，降低推理部署門檻；另一方面，市場上也涌現(xiàn)出了越來越多“開箱即用”的AI一體機，更進一步加速了大模型在千行百業(yè)的落地。
在此背景下，昇騰生態(tài)也持續(xù)進化，在過去兩年時間內(nèi)構(gòu)建起了覆蓋全場景的大模型推理引擎與開發(fā)框架，還率先在業(yè)界完成了DeepSeek核心算法適配，“0Day”支持DeepSeek V3/R1，由此打造出了適合不同場景的AI大模型底座，滿足了不同行業(yè)對的DeepSeek需求。
具體而言，昇騰推出了針對不同客戶對易運維、易部署、可擴容等方面的訴求，打造出了極易運維、極簡部署、彈性擴容的DeepSeek算力底座解決方案，并支持各版本DeepSeek模型的推理、微調(diào)、強化學習方案部署。與此同時，昇騰還積極攜手合作伙伴，目前已有19+家合作伙伴基于昇騰平臺，針對金融、電力、交通、政務等垂直行業(yè)，結(jié)合DeepSeek不同模型版本推出了定制化AI一體機。
對此，趙英俊說：“這恰是華為的核心價值主張，通過提供堅實的算力底座與開放的軟件平臺，讓合作伙伴與客戶能夠基于華為的軟硬件打造行業(yè)場景解決方案，最終實現(xiàn)AI技術(shù)對實體經(jīng)濟的深度賦能，并加速行業(yè)智能化升級進程。”
02.
持續(xù)技術(shù)創(chuàng)新，
降低大模型應用落地門檻
毫無疑問，當DeepSeek的開源生態(tài)與昇騰的硬件優(yōu)化深度結(jié)合，為中國企業(yè)在算力受限情況下，開辟出一條“低成本、高性價比”的AI普惠之路。那么，昇騰為何能夠成為DeepSeek快速落地的“最優(yōu)解”呢？其核心在于昇騰持續(xù)突破的集群推理技術(shù)創(chuàng)新體系。
首先，針對行業(yè)級大規(guī)模推理場景，昇騰推出革命性的大EP集群推理方案，實現(xiàn)了系統(tǒng)的高吞吐低延時并存，加速助力各行各業(yè)大模型應用落地。
該方案的核心在于，將專家分布到更多卡上，由此降低單卡權(quán)重加載延時，實現(xiàn)了更低的解碼延時，同時在單卡預留更多內(nèi)存容量支持更大并發(fā)，實現(xiàn)單卡性能提升3倍，進一步提升系統(tǒng)吞吐性能。以DeepSeek “滿血版“，即16機128卡大EP推理方案為例，如果用的卡數(shù)量越多，每張卡需要處理的數(shù)據(jù)量越少，占用內(nèi)存就會降低，從而每張卡能同時處理的任務量（并發(fā)）會更大，從而實現(xiàn)整體吞吐量質(zhì)的飛躍。
其次，昇騰大EP集群推理方案，實現(xiàn)了從算子到推理系統(tǒng)的全面創(chuàng)新，打造了集群推理的極致體驗。
其中，針對并行優(yōu)化，昇騰采用多層次專家動態(tài)均衡，親和部署，資源利用率提升20%，通過自動尋優(yōu)、自動配比、自動預測、自動降解四大關(guān)鍵技術(shù)，實現(xiàn)了備份節(jié)點和副本專家的“可擴展、高可用和極致均衡”。可擴展指的是路由專家與共享專家隔離部署，實現(xiàn)更大的靈活性；高可用，是能夠支持定時遷移和動態(tài)遷移；而極致均衡，主要體現(xiàn)在支持專家熱度在線感知和熱度預測，還支持專家間、卡間以及機間的負載均衡。
此外，多舉措通信優(yōu)化，使系統(tǒng)性能大幅提升。其中，Prefill micro-batch雙流并行，在Prefill階段，通過拆分Batch成兩組更細粒度的Batch，實現(xiàn)計算和通信相互掩蓋；而Weight預取雙流并行，實現(xiàn)了通信和權(quán)重加載，訪存和通信并行，該技術(shù)利用利用L2 Cache大容量，通信和權(quán)重加載采用兩條Stream并行，降低權(quán)重加載時間，提升matmul算子性能。
最后，從軟硬件到推理服務，進行全鏈路可靠性設計，為行業(yè)客戶提供極致穩(wěn)定的推理解決方案。
硬件可靠方面，采用電信級器件選型、全鏈路壓測驗證、系統(tǒng)級散熱優(yōu)化，實現(xiàn)設備更穩(wěn)定；軟件可靠方面，通過故障自愈、備份升級、N+1熱備份等，實現(xiàn)系統(tǒng)更韌性；故障后快速檢測、快速恢復、多數(shù)情況下無需人工干涉，助力系統(tǒng)穩(wěn)定運行。
在此基礎上，昇騰大EP集群推理方案，還通過多檔典型配置支撐不同場景的需求。如輕量級部署方案，可通過8-10臺服務器組成64+8卡組網(wǎng)，滿足單一行業(yè)場景/邊緣計算需求，實現(xiàn)性價比最優(yōu)解；企業(yè)級部署方案，則可通過16-20臺服務器構(gòu)建128卡集群，適配大型企業(yè)/行業(yè)推理服務，提供高性能計算底座；而面向超大規(guī)模部署方案，則通過雙層組網(wǎng)架構(gòu)實現(xiàn)萬卡級集群部署，其已驗證可穩(wěn)定承載日均數(shù)億級訪問流量，能夠支撐復雜業(yè)務流及應用系統(tǒng)。這種豐富和多元化的配置方案，讓大模型推理系統(tǒng)既能像“經(jīng)濟型轎車”般靈活部署，又能如“貨運重卡”般承載超大規(guī)模負載，真正實現(xiàn)“按需配置、彈性擴展”。
由此可見，昇騰之所以能夠成為DeepSeek快速落地的“最優(yōu)解”，關(guān)鍵的支撐在于昇騰大EP集群推理方案，這猶如為大模型應用裝上了一臺“渦輪增壓”引擎，不僅可以完美匹配DeepSeek的技術(shù)特性，也從根本上解決了大模型產(chǎn)業(yè)落地的“最后一公里”難題，重新定義了大規(guī)模推理技術(shù)的算力經(jīng)濟性。
03.
長穩(wěn)可靠算力底座，
賦能中國AI持續(xù)創(chuàng)新
客觀地說，在全球AI競爭升維為國家戰(zhàn)略、關(guān)乎人類未來的關(guān)鍵時刻，構(gòu)建長穩(wěn)可靠算力底座，已成為關(guān)乎國運的核心命題。面對這一時代命題，昇騰生態(tài)也正著力構(gòu)建“三位一體”的技術(shù)創(chuàng)新體系，通過系統(tǒng)性突破重塑AI發(fā)展新范式，為中國AI產(chǎn)業(yè)發(fā)展持續(xù)提供新動能。
第一，在技術(shù)創(chuàng)新維度，當前大模型發(fā)展已突破單純參數(shù)規(guī)模擴張的路徑依賴，轉(zhuǎn)向涵蓋模型架構(gòu)設計、訓練方法論、推理部署的全流程工程化創(chuàng)新，而昇騰生態(tài)也將通過持續(xù)的技術(shù)攻堅與工程實踐，建立覆蓋AI全生命周期的優(yōu)化體系，實現(xiàn)從實驗室技術(shù)到商業(yè)價值的精準轉(zhuǎn)化。這種轉(zhuǎn)化不僅體現(xiàn)在算法效率的提升，更在于構(gòu)建可復用的工程方法論，推動AI技術(shù)產(chǎn)業(yè)化進程。
第二，在平臺賦能維度，昇騰生態(tài)致力于構(gòu)建普惠的AI創(chuàng)新平臺，讓更多玩家具備能力構(gòu)筑更高性能的模型。為此，昇騰生態(tài)將降低對先進算力依賴，在同等算力規(guī)模下實現(xiàn)訓練效能的跨越式提升，加速基礎模型與行業(yè)模型的迭代創(chuàng)新；同時創(chuàng)新數(shù)據(jù)利用范式，運用強化學習等前沿技術(shù)，在同等數(shù)據(jù)規(guī)模條件下實現(xiàn)模型能力的指數(shù)級提升，顯著降低AI創(chuàng)新對原始標注數(shù)據(jù)的依賴門檻。
三是，在產(chǎn)業(yè)使能維度，目前頭部玩家已形成思維轉(zhuǎn)變，即從單點算力性能競賽轉(zhuǎn)向追求算力底座的穩(wěn)定性、可靠性與能效比，而昇騰生態(tài)也將持續(xù)打造長穩(wěn)可靠的算力平臺，通過構(gòu)建穩(wěn)定高效的算力平臺，讓行業(yè)客戶可以更好聚焦模型工程優(yōu)化，降低試錯成本，加速商業(yè)創(chuàng)新。
趙英俊最后表示：“華為堅信唯有構(gòu)建長穩(wěn)可靠的算力底座，才能為中國AI創(chuàng)新注入持續(xù)動能。面向未來，華為也將持續(xù)投入根技術(shù)創(chuàng)新，與產(chǎn)業(yè)伙伴和行業(yè)客戶共建開放協(xié)同的昇騰AI生態(tài)，共同迎接AGI時代的到來?！?/p>
總的來說，當下的中國AI產(chǎn)業(yè)正譜寫著智能時代的創(chuàng)新史詩。這場變革不僅關(guān)乎技術(shù)路線的選擇，更是對產(chǎn)業(yè)發(fā)展邏輯的深刻重構(gòu)。從昇騰在技術(shù)創(chuàng)新與生態(tài)開放協(xié)同上的一系列舉措中，我們也可以清晰地看到，通過構(gòu)建長穩(wěn)可靠的算力底座，昇騰生態(tài)不僅實現(xiàn)了AI算力效能與經(jīng)濟效益的最優(yōu)平衡，更以開放協(xié)同的生態(tài)理念推動了AI大模型技術(shù)的普惠化進程，加速了AI走向千行百業(yè)，真正書寫了中國科技力量在智能時代中的新答卷。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
