編輯｜澤南

近日，剛剛 IPO 的國(guó)產(chǎn) GPU 公司沐曦股份，完成了自上市后的首個(gè)重大技術(shù)發(fā)布。

該公司旗下的 MXMACA 軟件棧（MACA）正式發(fā)布了全新版本 3.3.0.X，沐曦發(fā)布了一份 23 頁(yè)的技術(shù)報(bào)告，機(jī)器之心圍繞該報(bào)告對(duì) MACA 進(jìn)行解讀。

在全自主硬件體系的支撐下，沐曦已經(jīng)構(gòu)建起「全棧軟件」體系，其對(duì)于提升計(jì)算引擎的效率起到了關(guān)鍵作用。同時(shí)，新一代 MACA 宣告了沐曦軟件生態(tài)的一次重要跨越，它的核心理念，是如何讓國(guó)產(chǎn) GPU 真正「用起來(lái)」。

GPU 生態(tài)適配的「萬(wàn)能接口」

MACA（MetaX Accelerated Computing Architecture）被定義為「異構(gòu)計(jì)算軟件棧核心計(jì)算平臺(tái)、引擎、運(yùn)維工具和規(guī)范化操作范本」，內(nèi)置了全套自研工具鏈，涵蓋編譯器、性能分析工具、格式轉(zhuǎn)換組件等，可實(shí)現(xiàn)多語(yǔ)言支持、算子自動(dòng)優(yōu)化與跨框架平滑適配。

它面向沐曦的曦云 C 系列、曦思 N 系列 GPU 研發(fā)，其定位是連接沐曦自研 GPU 硬件與上層應(yīng)用生態(tài)的關(guān)鍵紐帶。

MACA 承擔(dān)著連接硬件算力單元與上層應(yīng)用生態(tài)的紐帶作用。據(jù)介紹，它覆蓋了 AI 芯片工作流程的底層驅(qū)動(dòng)、用戶態(tài)接口、編譯器、算子適配、訓(xùn)練框架、推理框架、行業(yè)場(chǎng)景優(yōu)化等全鏈路能力。

在芯片行業(yè)，硬件決定算力基礎(chǔ)，而軟件棧則決定了算力能否被有效釋放。長(zhǎng)期以來(lái)，國(guó)產(chǎn) GPU 落地面臨的最大挑戰(zhàn)并非純粹的性能，而是生態(tài)兼容問(wèn)題 ——AI 開發(fā)者早已習(xí)慣在英偉達(dá)的 CUDA 生態(tài)中開發(fā)新技術(shù)、構(gòu)建應(yīng)用，遷移到新的硬件上意味著高昂的遷移成本。

MACA 3.3.0.X 直擊這一痛點(diǎn)，它是一套「生態(tài)強(qiáng)化版」軟件棧，聚焦場(chǎng)景的深度適配，涵蓋底層基礎(chǔ)能力的迭代與主流 AI 框架、大模型訓(xùn)練推理、搜索、廣告、推薦、科學(xué)計(jì)算等多維度生態(tài)適配，其核心邏輯是構(gòu)建一個(gè)「萬(wàn)能接口」，讓現(xiàn)有生態(tài)能夠近乎無(wú)縫地遷移到沐曦平臺(tái)上

具體有多萬(wàn)能？技術(shù)報(bào)告顯示，沐曦團(tuán)隊(duì)對(duì) GitHub 上大量 CUDA 項(xiàng)目進(jìn)行了適配測(cè)試。他們篩選了 4490 個(gè)「含 CUDA 關(guān)鍵字」的活躍代碼倉(cāng)庫(kù)進(jìn)行驗(yàn)證，按應(yīng)用領(lǐng)域包括 AI 模型 / 應(yīng)用、高性能并行計(jì)算、氣象模擬、計(jì)算化學(xué)等場(chǎng)景。

測(cè)試結(jié)果顯示，4173 個(gè)項(xiàng)目可以直接適配運(yùn)行，成功率高達(dá) 92.94%。僅有 260 個(gè)項(xiàng)目需要微小調(diào)整，占比不足 6%，且修改主要涉及編譯配置優(yōu)化，而非核心業(yè)務(wù)邏輯。

這意味著，幾乎任何現(xiàn)有的 CUDA 項(xiàng)目都可以近乎「開箱即用」地遷移到沐曦平臺(tái)上，目前在市面上，還沒有第二家能夠做到

在 MACA 的這一通適配之后，GitHub 上海量的 AI、數(shù)據(jù)處理、科學(xué)計(jì)算應(yīng)用工具，可以快速適配在國(guó)產(chǎn)異構(gòu)計(jì)算平臺(tái)上。對(duì)于開發(fā)者而言，這就意味著面對(duì)國(guó)產(chǎn) AI 硬件體系時(shí)，學(xué)習(xí)成本和遷移工作量可以大幅降低。

框架兼容

擁抱主流 AI 開發(fā)生態(tài)

除了能夠無(wú)縫遷移已有的項(xiàng)目工作，新版本 MACA 也強(qiáng)調(diào)了對(duì)于 AI 框架兼容的特性，它能夠幫助開發(fā)者構(gòu)建和探索新技術(shù)。

在 AI 開發(fā)領(lǐng)域，框架兼容能力決定了平臺(tái)的可用性。MACA 3.3.0.X 版本完成了對(duì) PyTorch 2.8 的深度適配，覆蓋了全部 2650 個(gè)核心算子（其中 GPU 算子 2410 個(gè)）。涵蓋從基本算術(shù)運(yùn)算、線性代數(shù)操作、卷積 / 池化類算子、規(guī)約操作、隨機(jī)采樣、索引與切片快速傅里葉變換（FFT）、Attention 等所有關(guān)鍵算子類別。它支持多種數(shù)據(jù)形態(tài)，保障了算子能力的完整性與場(chǎng)景適配性。

除了 PyTorch，MACA 還兼容 TensorFlow、PaddlePaddle、JAX 等主流開源框架，以及 Megatron-LM、DeepSpeed 等大模型訓(xùn)練框架，在推理端支持 vLLM、SGLang、Transformers、KTransformer 等推理框架。

在操作系統(tǒng)方面，MACA 兼容了 Ubuntu、CentOS、RHEL、openEuler、Anolis OS 、銀河麒麟等主流 Linux 發(fā)行版。它同時(shí)完整支持混合精度訓(xùn)練、分布式訓(xùn)練、torch.compile 編譯優(yōu)化與圖模式任務(wù)下發(fā)的深度集成等關(guān)鍵特性。

簡(jiǎn)單來(lái)說(shuō)，這一兼容性列表幾乎涵蓋了當(dāng)前 AI 開發(fā)的所有主流工具鏈。技術(shù)報(bào)告中還特別強(qiáng)調(diào)，這種適配是「無(wú)需調(diào)整工程構(gòu)建邏輯，即可實(shí)現(xiàn)現(xiàn)有模型的無(wú)縫使用」。

搭配性能分析與優(yōu)化工具鏈，MACA 配合沐曦 GPU 在核心場(chǎng)景上的性能可以對(duì)標(biāo)主流 GPU 水平

MACA 不僅僅是一個(gè)兼容層，而是一個(gè)完整的軟件棧。它包含了開發(fā)效率引擎層和垂直場(chǎng)景賦能層兩大核心部分。

在開發(fā)效率引擎層，MACA 提供了一系列高性能算子庫(kù)，如針對(duì)矩陣計(jì)算的 mcBLAS、針對(duì)深度神經(jīng)網(wǎng)絡(luò)的 mcDNN、針對(duì)注意力機(jī)制的 mcFlashAttention 等。

MACA 套件中開發(fā)效率引擎，其旨在降低異構(gòu)開發(fā)門檻。

這些工具針對(duì)沐曦 GPU 的多卡拓?fù)溥M(jìn)行了專門優(yōu)化，編譯器工具支持 MACA C/C++、Fortran 等語(yǔ)言，能將高級(jí)語(yǔ)言轉(zhuǎn)化為高效的可執(zhí)行程序。

在垂直場(chǎng)景賦能層，MACA 針對(duì) AI 與科學(xué)計(jì)算兩大方向，通過(guò)針對(duì)性的優(yōu)化策略與框架適配解決需求。

其中在 AI 領(lǐng)域，MACA 的訓(xùn)練優(yōu)化兼容 PyTorch、BMTrain 等框架，通過(guò)硬件流水線并行實(shí)現(xiàn)通信與計(jì)算重疊，優(yōu)化分布式并行策略。推理優(yōu)化則適配 ONNX Runtime、vLLM、SGLang 等框架，采用 INT8 量化、KVCache 跨卡管理提升長(zhǎng)序列處理效率。

在科學(xué)計(jì)算領(lǐng)域，MACA 通過(guò)重構(gòu) MPI、BLAS 庫(kù)提升內(nèi)存帶寬，定向移植 OpenFOAM、GROMACS 等科學(xué)計(jì)算框架，結(jié)合容器化部署方案，能夠確保算力能高效支撐流體仿真、分子動(dòng)力學(xué)等垂直場(chǎng)景。

此外，MACA 的性能分析工具提供了系統(tǒng)級(jí)追蹤和核函數(shù)指標(biāo)采集功能，能夠幫助開發(fā)者定位計(jì)算瓶頸。全棧工具鏈的完整性，使得開發(fā)者能夠在沐曦平臺(tái)上完成從開發(fā)到部署的全流程工作。

此種能力的背后，是沐曦構(gòu)建的大模型訓(xùn)推一體化能力。

算力到生產(chǎn)力的轉(zhuǎn)化

MACA-3.3.0.X 版本為開發(fā)者們構(gòu)建起了一套全流程的一體化算力支撐底座，通過(guò)軟硬件協(xié)同、核心算子優(yōu)化以及分布式架構(gòu)的升級(jí)，旨在實(shí)現(xiàn)訓(xùn)推效能的跨越式突破。

這一底座的基礎(chǔ)是沐曦自研的 GPGPU，其高算力密度與高內(nèi)存帶寬確保了單卡能夠高效處理千億參數(shù)模型。通過(guò)自研的 MetaXLink 高速互連技術(shù)，沐曦在硬件層面構(gòu)建了低時(shí)延、高帶寬的分布式通信網(wǎng)絡(luò)，使得算力供給擴(kuò)展至萬(wàn)卡級(jí)集群，為 AI 大模型的超大規(guī)模分布式訓(xùn)練與推理奠定了基礎(chǔ)。

在軟件層面，MACA 構(gòu)建起端到端的協(xié)同體系。其首要特點(diǎn)是極致的生態(tài)兼容性，除此之外，MACA 通過(guò)拓?fù)涓兄?MCCL 高性能通信庫(kù)和自研的編譯器優(yōu)化模塊，能夠智能地優(yōu)化多機(jī)多卡的數(shù)據(jù)通信策略，實(shí)現(xiàn)算子自動(dòng)融合、循環(huán)展開等編譯級(jí)優(yōu)化，深度挖掘出硬件底層潛力。

MACA 套件大模型推理優(yōu)化技術(shù)。

一體化設(shè)計(jì)的重要優(yōu)勢(shì)，在于打破訓(xùn)練與推理之間的場(chǎng)景壁壘。MACA 支持模型訓(xùn)練后的輕量化轉(zhuǎn)換與直接部署，無(wú)需二次適配。通過(guò)統(tǒng)一的模型格式與接口規(guī)范，它實(shí)現(xiàn)了「訓(xùn)練 - 微調(diào) - 推理 - 部署」全流程鏈路貫通，大幅縮短了大模型從技術(shù)研發(fā)到業(yè)務(wù)落地的周期與成本。

在技術(shù)層面上，MACA-3.3.0.X 版本針對(duì)幾個(gè)關(guān)鍵瓶頸進(jìn)行了深度調(diào)優(yōu)。

在關(guān)鍵算子上，MACA 針對(duì) FlashAttention 優(yōu)化，大幅減少了向 HBM 顯存的數(shù)據(jù)搬運(yùn)開銷；通過(guò)對(duì)于分布式集合通信庫(kù)的優(yōu)化，MACA 將千卡集群的訓(xùn)練、推理線性度穩(wěn)定在 95% 以上，專家并行效率提升了 15%；通過(guò)異步通信機(jī)制，還有通信 - 計(jì)算重疊優(yōu)化，MACA 將數(shù)據(jù)傳輸任務(wù)與 GPU 計(jì)算任務(wù)解耦并行，縮短了端到端延遲，提升 GPU 利用率 15%-30%，解決了因等待數(shù)據(jù)通信而導(dǎo)致的芯片閑置問(wèn)題。

在軟件棧上層，沐曦進(jìn)一步做了面向易用性和部署的優(yōu)化：其深度支持 PyTorch 2.0 的 torch.compile 動(dòng)態(tài)圖編譯，以最大化硬件利用率；針對(duì)推理場(chǎng)景打造輕量化引擎，優(yōu)化批處理策略以同時(shí)降低延遲、提升吞吐；全面兼容容器化與云原生架構(gòu)，支持企業(yè)級(jí)的大規(guī)模彈性部署與便捷運(yùn)維。

MACA 全面兼容當(dāng)前主流的大模型生態(tài)體系，無(wú)需代碼修改即可開展訓(xùn)練、推理；針對(duì)大規(guī)模大模型訓(xùn)練場(chǎng)景，其工具鏈可以縮短訓(xùn)練周期，在分布式訓(xùn)練中展現(xiàn)出優(yōu)異線性度，可以長(zhǎng)周期無(wú)故障穩(wěn)定運(yùn)行；在推理時(shí)，MACA 針對(duì)主流大模型的深度優(yōu)化降低了延遲，提升了吞吐量；與此同時(shí)，MACA 還具備從小規(guī)模調(diào)試到大規(guī)模訓(xùn)推的全場(chǎng)景平滑擴(kuò)展能力。

實(shí)測(cè)數(shù)據(jù)表明，沐曦通過(guò) MACA-3.3.0.X 構(gòu)建的一體化算力底座在曦云 C 系列 GPU 上的訓(xùn)推效能已經(jīng)展現(xiàn)了與國(guó)際旗艦 GPU 產(chǎn)品 A 正面競(jìng)爭(zhēng)的實(shí)力。

DeepSeek、GLM、InternLM、Llama、Qwen 等多系列大模型，在不同參數(shù)規(guī)模（如 7B、13B）及任務(wù)類型（SFT、Pretrain）下的訓(xùn)練 TGS 數(shù)據(jù)，包含「旗艦 A TGS」（黃色柱）、「C550 TGS」（紫色柱）及兩者效率比值（綠色折線）。

MACA 不僅是一個(gè)技術(shù)平臺(tái)，更是沐曦「1+6+X」戰(zhàn)略的重要組成部分。在這一戰(zhàn)略中，「1」代表數(shù)字算力底座，「6」代表對(duì)于六大核心行業(yè)的賦能，包括金融、醫(yī)療健康、能源、教科研、交通和大文娛等行業(yè)的 AI 場(chǎng)景應(yīng)用及開源生態(tài)建設(shè)，「X」代表具身智能、低空經(jīng)濟(jì)等新興行業(yè)。

技術(shù)報(bào)告詳細(xì)介紹了 MACA 對(duì)于多個(gè)垂直場(chǎng)景的優(yōu)化：

• 在搜廣推場(chǎng)景，MACA 針對(duì) TensorFlow/JAX 與 XLA 技術(shù)棧進(jìn)行了深度協(xié)同適配。在部分模型中，沐曦平臺(tái)的性能已達(dá)到甚至超過(guò)國(guó)際旗艦產(chǎn)品。
• 在傳統(tǒng)小模型支持方面，MACA 提供了多模型格式兼容和底層計(jì)算優(yōu)化，覆蓋計(jì)算機(jī)視覺、自然語(yǔ)言處理及傳統(tǒng)機(jī)器學(xué)習(xí)等核心場(chǎng)景。
• 在 AI for Science 領(lǐng)域，MACA 適配了 PaddleScience、WRF 數(shù)值模式等科學(xué)計(jì)算工具。
• 除此以外在材料、技術(shù)科學(xué)、天氣模擬、藥物研發(fā)等領(lǐng)域，MACA 對(duì)領(lǐng)域主流 AI 框架都進(jìn)行了適配。

這種場(chǎng)景化優(yōu)化能力，使得沐曦 GPU 不再僅僅是提供原始的算力，而是能夠針對(duì)特定行業(yè)需求提供優(yōu)化方案，實(shí)現(xiàn)從算力到生產(chǎn)力的高效轉(zhuǎn)化。

構(gòu)建生態(tài)的長(zhǎng)遠(yuǎn)布局

作為銜接自主 GPGPU 硬件與全棧軟件體系的核心載體，MACA 3.3.0.X 的推出不僅是產(chǎn)品版本的常規(guī)迭代，更是國(guó)產(chǎn)芯片廠商在經(jīng)歷硬件破冰后，試圖通過(guò)軟件定義算力、通過(guò)標(biāo)準(zhǔn)重塑生態(tài)的長(zhǎng)遠(yuǎn)布局。

值得肯定的是，沐曦提供的從 AI 芯片到軟件核心平臺(tái)的能力，是全棧自研的—— 與部分廠商選擇兼容 CUDA 或基于現(xiàn)有開源 ISA 進(jìn)行微調(diào)的方式不同，沐曦選擇了最具挑戰(zhàn)但也保證了長(zhǎng)期安全性的路線：自主指令集。MACA 軟件棧具有自己的編程模型和使用范式，但也深度兼容 CUDA 生態(tài)，無(wú)需大幅修改即可適配海量 CUDA 項(xiàng)目。另外，沐曦的 GPU 基于全自研 GPGPU 核心 IP 及架構(gòu)，原生支持全精度計(jì)算、MetaXLink 高速互連等特性。

憑借自研的體系，沐曦保證了算力體系的安全合規(guī)、性能針對(duì)性以及演進(jìn)自主權(quán)。與此同時(shí)，MACA 并沒有將全自研等同于「生態(tài)完全推倒重來(lái)」，而是通過(guò) MACA 軟件棧構(gòu)建了高度兼容的體系。

這種策略，保證了「算力自主」的戰(zhàn)略目標(biāo)。通過(guò)一并兼容已有生態(tài)海量的算法模型、軟件資產(chǎn)與開發(fā)者技能，讓更多開發(fā)者們無(wú)需重復(fù)造輪子，就可以在自主算力的底座上跑通業(yè)務(wù)。這種「高門檻自研、低成本遷移」的模式，最大化地保證了用戶的商業(yè)效率與效益。

隨著技術(shù)的不斷進(jìn)步，沐曦正在以最低的遷移成本，將 AI 開發(fā)者引入自己的生態(tài)軌道。