周末參加了華為開發(fā)者大會(huì)，其中華為云MaaS的發(fā)布會(huì)讓我印象極為深刻，因?yàn)榈谝淮慰吹搅艘患褹I平臺(tái)把用戶的問題和場景作為重中之重來講，而不是在那里炫大模型有多少參數(shù)，或者展示模型的打榜排名。

大模型最近非常熱門，但是很多大模型項(xiàng)目都失敗了，大家嘗嘗鮮就放棄了，主要原因就是AI沒有找到場景，或者沒有在這個(gè)場景下真正有效地用起來。

華為公有云運(yùn)營部部長劉杰舉了一個(gè)非常生動(dòng)的例子：

“一家養(yǎng)豬企業(yè)想要開發(fā)養(yǎng)豬大模型，很多人認(rèn)為"大模型+RAG就夠了"，但測試發(fā)現(xiàn)這就像讓本科生臨時(shí)翻書答題，看著相關(guān)，卻還不夠?qū)I(yè)。要讓大模型成為養(yǎng)豬專家，必須把百萬字飼養(yǎng)經(jīng)驗(yàn)真正喂進(jìn)大模型，把知識(shí)內(nèi)化，才能在復(fù)雜業(yè)務(wù)場景下的精準(zhǔn)泛化。但要微調(diào)需要高質(zhì)量數(shù)據(jù)?？蛻粲薪偃f字專業(yè)文檔，卻散落各個(gè)部門的Word、Excel。PPT、PDF里，格式混亂，質(zhì)量參差不齊，難以處理，這幾乎是傳統(tǒng)行業(yè)的通病——常常高估了算法的神奇，卻嚴(yán)重低估數(shù)據(jù)治理的難度?！?/p>

華為云的解決方案就是開發(fā)了一套數(shù)據(jù)清洗解決方案，一鍵抽取養(yǎng)豬指標(biāo)、工藝、病癥，自動(dòng)生成高質(zhì)量問答對(duì)，僅一周就備好數(shù)據(jù)集，多快好省的打造出一個(gè)“大模型養(yǎng)豬專家”。

再比如有個(gè)電力行業(yè)客戶，部署了一套滿血版DeepSeek，但是它并不能同時(shí)滿足低時(shí)延、本地?cái)?shù)據(jù)微調(diào)、長思維鏈精準(zhǔn)輸出等需求。華為云的方案是用同一臺(tái)昇騰云服務(wù)器中部署資格小模型，同時(shí)滿足了智能問數(shù)、物料助手、代碼助手和文檔轉(zhuǎn)換的四大主要業(yè)務(wù)需求，不僅整體算力成本降低了50%，還達(dá)到DeepSeek-R1滿血版的效果。

這樣的服務(wù)案例做多了，華為云敏銳地識(shí)別出了大模型冰山下的五個(gè)坑:

（1）手握一堆大模型的錘子，卻滿世界找業(yè)務(wù)的釘子

（2）大模型越新就越好，越大就越爽

（3）業(yè)務(wù)數(shù)據(jù)一片沼澤，無法用于訓(xùn)練

（4）大模型落地拼算力，不需對(duì)業(yè)務(wù)理解太深

（5）只做一錘子項(xiàng)目，不搞持續(xù)優(yōu)化

這些坑怎么避？

01

五大坑的解題之道

華為云給出的解題之道是“三層五階十二步”。

三層：重定義智能業(yè)務(wù)，模型開發(fā)與交付，持續(xù)優(yōu)化AI應(yīng)用

五階段：場景識(shí)別，模型選型，模型調(diào)優(yōu)，數(shù)據(jù)治理，持續(xù)運(yùn)營。

看到如此清晰方法論，一個(gè)可復(fù)用的AI生產(chǎn)流程，我就感覺到華為云做了很多客戶服務(wù)案例，實(shí)際上也確實(shí)如此：

華為云MaaS平臺(tái)本身就做過100+行業(yè)客戶昇騰適配的實(shí)踐，沉淀出了大量模型適配經(jīng)驗(yàn)，在國產(chǎn)算力上收錄了30+業(yè)界主流開源大模型，并全面基于昇騰AI云服務(wù)進(jìn)行適配和優(yōu)化。

與此同時(shí)，華為云MaaS平臺(tái)基于上百次的支撐中小企業(yè)客戶項(xiàng)目，它總結(jié)出了大量經(jīng)過商業(yè)化驗(yàn)證的場景化解決方案。華為MaaS平臺(tái)把這些解決方案形成商業(yè)模板，可以一鍵復(fù)制，零代碼搭建，幾分鐘內(nèi)就可以驗(yàn)證業(yè)務(wù)，效率極高。

在華為云MaaS平臺(tái)上還入駐了一大批優(yōu)質(zhì)的MCP服務(wù)（如美圖影像、通達(dá)信、天眼查），為用戶深耕行業(yè)提供可商用基礎(chǔ)。

而將上述方案、實(shí)踐、經(jīng)驗(yàn)等融會(huì)貫通，華為云推出了一整套解決方案，打通了從底層算力到上層應(yīng)用的全鏈路，提供了一個(gè)系統(tǒng)化的、端到端的解決方案。它不是零散工具的堆砌，而是一個(gè)完整、高效的AI能力交付體系，讓企業(yè)的大模型落地更加清晰可靠。

大模型發(fā)展到現(xiàn)在，已經(jīng)從“拼參數(shù)”到了“拼價(jià)值”階段，誰更懂客戶的問題，提出更好的解決方案，才可能最后勝出，華為云MaaS平臺(tái)上總結(jié)出的解決方案，很可能成為最終勝出的殺手锏。

單單有這些方法論還是不夠的，必須有底層的技術(shù)平臺(tái)來支持。

在底層技術(shù)方面，華為云MaaS平臺(tái)實(shí)力更是“深不可測”。

02

全棧式創(chuàng)新

我們都知道美國一直在限制中國算力的發(fā)展，全面圍堵AI算力供應(yīng)，中國能拿到的英偉達(dá)芯片都是閹割版本。

在這種情況下，如何才能突圍呢？華為云的方案是全棧式創(chuàng)新，用架構(gòu)優(yōu)勢實(shí)現(xiàn)提升。

大家可能都聽過華為云CloudMatrix 384超節(jié)點(diǎn)，華為通過自己擅長的光通信，首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對(duì)等互聯(lián)，形成一臺(tái)超級(jí)“AI服務(wù)器”，單卡推理吞吐量躍升到2300 Tokens/s。

雖然英偉達(dá)也有GB200 NVL72，并且單卡性能更高，但是受芯片間通訊技術(shù)限制，組網(wǎng)規(guī)模受限，72張卡就到頭了。

最終的結(jié)果是，華為云CloudMatrix 384超節(jié)點(diǎn)提供高達(dá)300 PFLOPs的密集BF16算力，接近達(dá)到英偉達(dá)GB200 NVL72系統(tǒng)的兩倍！

更厲害的是，華為云CloudMatrix 384超節(jié)點(diǎn)天然就很適合跑像DeepSeek這樣的MoE（多專家）模型。因?yàn)镈eepSeek V3和R1是由256個(gè)專家模型構(gòu)成的，在英偉達(dá)72張卡的超節(jié)點(diǎn)中，一張卡肯定要容納多個(gè)“專家”，資源就不夠了。但是在華為云CloudMatrix 384超節(jié)點(diǎn)中，“一卡一專家”，支撐DeepSeek等千億模型推理性能3倍躍升。

這樣的例子還有很多，比如通過大規(guī)?！皩＜也⑿小保‥P）技術(shù)，把模型拆得很散，分配到眾多計(jì)算卡上，讓解碼更快，延遲更低。在超節(jié)點(diǎn)內(nèi)，大模型權(quán)重被分布式存儲(chǔ)在數(shù)百張GPU上，單卡預(yù)留更多顯存容量，支持更長的上下文序列，實(shí)現(xiàn)系統(tǒng)的更大吞吐性能。

就像微服務(wù)架構(gòu)有個(gè)網(wǎng)關(guān)一樣，華為云MaaS平臺(tái)也做了模型網(wǎng)關(guān)，無論你身在何處，模型網(wǎng)關(guān)都能將請(qǐng)求自動(dòng)路由至最近節(jié)點(diǎn)，降低用戶側(cè)延遲。通過動(dòng)態(tài)合并空閑算力形成“公共資源池”，提升了集群利用率，它還可以智能識(shí)別 Prompt 長度，長文本請(qǐng)求自動(dòng)調(diào)度到高顯存節(jié)點(diǎn)，確保處理穩(wěn)定；短文本則優(yōu)先分配到低延遲實(shí)例，提升響應(yīng)速度。

這種全棧式創(chuàng)新，真正提高了AI大模型的能力上限！

03

磐石般安全和運(yùn)營

華為是做電信級(jí)服務(wù)起家的，電信業(yè)務(wù)涉及到大量用戶數(shù)據(jù)和敏感信息，對(duì)安全性要求極高。

網(wǎng)絡(luò)安全作為華為公司的最高綱領(lǐng)，擁有全球140+合規(guī)認(rèn)證。在友商事故頻發(fā)的情況下，華為云從2024年初到現(xiàn)在重大事故次數(shù)是“0”。

華為云提供包含語料數(shù)據(jù)安全、模型安全、推理安全、應(yīng)用安全在內(nèi)的全生命周期模型安全方案。通過提示詞攻擊防范和敏感內(nèi)容實(shí)時(shí)檢測，保障大模型推理安全。

有意思的是，華為采用了“以模護(hù)?！钡姆桨?，在MaaS平臺(tái)中涉及安全能力判斷的，都由信通院認(rèn)證評(píng)估安全可信滿級(jí)評(píng)分（業(yè)界最高分）的ModelArts Guard大模型安全護(hù)欄進(jìn)行內(nèi)容審核，非法敏感內(nèi)容攔截率達(dá)90%+，延時(shí)<20ms，滿足最嚴(yán)網(wǎng)信監(jiān)管。

在運(yùn)營上，華為MaaS平臺(tái)提供豐富全面的監(jiān)控能力，涵蓋首Token時(shí)延、增量Token時(shí)延、錯(cuò)誤碼追蹤等100+關(guān)鍵指標(biāo)，幫助用戶洞察性能瓶頸，發(fā)現(xiàn)問題快一步，再配合分鐘級(jí)自動(dòng)告警機(jī)制，實(shí)現(xiàn)“關(guān)鍵問題自動(dòng)發(fā)現(xiàn)”，真正讓運(yùn)維壓力大幅減輕。

04

總結(jié)

總的來說，華為云MaaS平臺(tái)場景化解決方案做得非常好，預(yù)置了大量模型，對(duì)接眾多優(yōu)質(zhì)MCP Servers，有很多商業(yè)解決方案模板，可以一鍵復(fù)制使用。華為云通過全棧式創(chuàng)新，降低時(shí)延的同時(shí)又提升了吞吐量，整體性能非常優(yōu)異。在安全上用以模護(hù)模的方案，更可靠更安心。

如果你的公司也想用AI來提升效率，又不想關(guān)注底層技術(shù)細(xì)節(jié)，想開箱即用，一鍵部署調(diào)用，華為云MaaS平臺(tái)是個(gè)非常不錯(cuò)的選擇，強(qiáng)烈推薦掃描二維碼體驗(yàn)：