允中 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

在大模型的多種應(yīng)用形態(tài)中，執(zhí)行專(zhuān)業(yè)功能的行業(yè)Agent，無(wú)疑是提升生產(chǎn)效率、實(shí)現(xiàn)價(jià)值創(chuàng)造的利器。

然而，千行百業(yè)包含著大量的私域知識(shí)、專(zhuān)家經(jīng)驗(yàn)和工具使用邏輯，使得智能體的行業(yè)應(yīng)用構(gòu)建存在各類(lèi)門(mén)檻。

為了提升開(kāi)發(fā)效率，業(yè)界提出了諸如Skills、OpenClaw等優(yōu)秀的工程框架，使得專(zhuān)業(yè)Agent的開(kāi)發(fā)門(mén)檻日益降低，也讓針對(duì)Agent應(yīng)用的多維度算法優(yōu)化需求愈發(fā)凸顯。

在此背景，華為諾亞方舟實(shí)驗(yàn)室近期在官網(wǎng)更新了面向行業(yè)應(yīng)用的算法包MindScale，這一項(xiàng)目融合了實(shí)驗(yàn)室的算法創(chuàng)新基因與華為行業(yè)智能化業(yè)務(wù)實(shí)踐經(jīng)驗(yàn)。

其系統(tǒng)性梳理了Agent時(shí)代將“大模型”轉(zhuǎn)化為“生產(chǎn)力”的算法技術(shù)挑戰(zhàn)，并給出了對(duì)應(yīng)的技術(shù)論文昇騰代碼實(shí)現(xiàn)，為行業(yè)用戶(hù)與開(kāi)發(fā)者提供了直接的“上手指南”。

制約行業(yè)Agent發(fā)展的四大核心挑戰(zhàn)

在MindScale項(xiàng)目中，研究人員識(shí)別了在行業(yè)普及Agent應(yīng)用的四大挑戰(zhàn)：

• 工作流手工維護(hù)：依賴(lài)專(zhuān)家將業(yè)務(wù)規(guī)則“翻譯”為Agent工作流；
• 歷史知識(shí)復(fù)用難：歷史推理路徑與反饋無(wú)法有效使Agent系統(tǒng)自演進(jìn)；
• 訓(xùn)推效率瓶頸：大量模型部署與迭代需求+思考路徑變長(zhǎng)，成本壓力陡升；
• 復(fù)雜推理測(cè)評(píng)：多步、多工具交織推理，單精度指標(biāo)無(wú)法準(zhǔn)確反映模型效果。

實(shí)現(xiàn)工作流自進(jìn)化與提示詞自動(dòng)化閉環(huán)

為了應(yīng)對(duì)這些挑戰(zhàn)，諾亞的研究人員與多所合作單位一道，給出了自己的解決方案。

例如，面向行業(yè)Agent開(kāi)發(fā)中最常見(jiàn)的工作流（Workflow）開(kāi)發(fā)場(chǎng)景，算法包中包含了自進(jìn)化的Agent算法EvoFabric

與手動(dòng)提取工作流高度依賴(lài)專(zhuān)家經(jīng)驗(yàn)不同，使用SOP2Workflow可以快速?gòu)淖匀徽Z(yǔ)言文檔與歷史工具庫(kù)，直接生成可執(zhí)行的Workflow。

△由用戶(hù)書(shū)寫(xiě)的網(wǎng)頁(yè)功能測(cè)試SOP→自動(dòng)生成的整個(gè)Workflow

為了實(shí)現(xiàn)這樣靈活的Workflow生成，研究人員采用了基于狀態(tài)圖引擎內(nèi)核的Agent實(shí)現(xiàn)，原生支持混編Agent、工具等多種圖節(jié)點(diǎn)，支持狀態(tài)的改寫(xiě)和分組融合處理，實(shí)現(xiàn)多智能體、多工具、多記憶形態(tài)的深度混編，圖引擎還支持DSL文件的導(dǎo)入與導(dǎo)出，實(shí)現(xiàn)復(fù)雜智能流程的快速?gòu)?fù)制、遷移與部署。

同時(shí)，該算法框架還可以實(shí)現(xiàn)基于記憶的演進(jìn)——多輪執(zhí)行時(shí)，記憶模塊利用軌跡記憶，以及當(dāng)時(shí)的評(píng)估結(jié)果形成經(jīng)驗(yàn)優(yōu)化上下文，實(shí)現(xiàn)Agent越用越好。

另一個(gè)有趣的功能，是讓模型開(kāi)始自己進(jìn)行“prompt優(yōu)化”

首先，基于前期已經(jīng)先行發(fā)布的prompt在線優(yōu)化算法SCOPE，開(kāi)發(fā)者可以實(shí)現(xiàn)在每步推理之間進(jìn)行prompt在線優(yōu)化，通過(guò)注入萃取歷史路徑中的有效信息實(shí)現(xiàn)提示詞的快速優(yōu)化，在HLE和GAIA等agentic reasoning的場(chǎng)景里可以取得20%以上的精度提升。

此外，研究人員還提出了“大模型prompt優(yōu)化器”C-MOP，通過(guò)創(chuàng)新的樣本選取與梯度更新策略，解決了“文本梯度”的沖突問(wèn)題，實(shí)現(xiàn)了基于正負(fù)例反饋的prompt自動(dòng)優(yōu)化，真正做到了“反饋->演進(jìn)”的prompt優(yōu)化閉環(huán)。

△C-MOP：融合正誤雙向樣本感知與時(shí)序動(dòng)量梯度的提示詞優(yōu)化器。

榨干算力潛能并適配國(guó)產(chǎn)硬件生態(tài)

除了精度提升，MindScale也注重面向行業(yè)場(chǎng)景模型的訓(xùn)推效率優(yōu)化，例如：

• 其中的TrimR用一個(gè)已預(yù)訓(xùn)練、指令微調(diào)的輕量驗(yàn)證器在線檢測(cè)并截?cái)酂o(wú)用中間思路，全程無(wú)需微調(diào)大模型或驗(yàn)證器；
• 配套工業(yè)級(jí)異步在線系統(tǒng)，適配大并發(fā)生產(chǎn)場(chǎng)景。

在MATH、AIME、GPQA等基準(zhǔn)與多款LRM上，TrimR在幾乎不影響準(zhǔn)確率的前提下，將推理時(shí)延顯著降低，大并發(fā)場(chǎng)景最高可達(dá)約70%提速，實(shí)現(xiàn)實(shí)際應(yīng)用場(chǎng)景中的Test Time Scaling。

△TrimR：工業(yè)級(jí)思維鏈動(dòng)態(tài)壓縮算法框架

此外，為了適配行業(yè)場(chǎng)景高并發(fā)的推理壓力，MindScale還提供了新的基于KV Cache的推理方案。

與通用方案中KV Cache只是用來(lái)加速解碼的“幕后工具”不同，研究人員提出KV-Embeddings，把KV Cache視作一種“免費(fèi)附贈(zèng)”的輕量表示，無(wú)需額外計(jì)算或存儲(chǔ)完整隱狀態(tài)，可以在鏈?zhǔn)奖硎就评恚–hain-of-Embedding）和快慢思考切換等關(guān)鍵場(chǎng)景中，基于多款主流模型上實(shí)現(xiàn)性能持平或反超專(zhuān)用embedding模型，同時(shí)將生成token數(shù)最高減少5.7×

這些結(jié)果表明——KV Cache不只是加速器，更是一塊尚未被充分利用的“思考緩存”，為大模型推理階段的表示復(fù)用打開(kāi)了新的想象空間。

此外，諾亞方舟實(shí)驗(yàn)室與相關(guān)合作團(tuán)隊(duì)還在任務(wù)記憶、Agentic RAG、通用算法發(fā)現(xiàn)框架等多個(gè)方向上，沉淀了大量經(jīng)過(guò)實(shí)戰(zhàn)檢驗(yàn)的、圍繞行業(yè)智能優(yōu)化的創(chuàng)新算法技術(shù)架構(gòu)。

同時(shí)，MindScale還也包含了適配昇騰硬件的代碼實(shí)現(xiàn)，可以讓行業(yè)開(kāi)發(fā)的小伙伴們，基于國(guó)產(chǎn)算力實(shí)現(xiàn)高精度、高效的Agent構(gòu)建。

https://noah-mindscale.github.io/
華為諾亞方舟實(shí)驗(yàn)室主頁(yè)：
https://www.noahlab.com.hk/#/home