作者 | 付秋偉

大模型浪潮席卷運維領(lǐng)域之際，LLM Agent 既被寄予 “打破協(xié)同壁壘” 的厚望，也深陷 “過度炒作” 的輿論爭議。AIOps 概念誕生多年，傳統(tǒng)方案始終難以突破數(shù)據(jù)、智能的雙重瓶頸，而 “OS + LLM Agent” 新范式的出現(xiàn)，為行業(yè)帶來了新的可能?！窤I 進化論」第六期直播聚焦 “LLM for AIOps，是泡沫還是銀彈？” 這一核心議題，特邀阿里云智能集團運維總監(jiān)、龍蜥社區(qū)系統(tǒng)運維聯(lián)盟主席馮富秋，以及云杉網(wǎng)絡(luò)總裁向陽，從行業(yè)痛點、技術(shù)破局、未來規(guī)劃三大維度，深度解析 LLM 與 OS 底座的協(xié)同之道。以下為經(jīng)編輯整理的專家訪談實錄。

1 行業(yè)痛點與爭議——“銀彈”幻象下的真實困境

Q1：LLM Agent 被視為 “銀彈” 也被質(zhì)疑 “泡沫”，行業(yè)最突出的爭議和挑戰(zhàn)是什么？

@馮富秋：AI 究竟是銀彈還是泡沫，本質(zhì)是預(yù)期與落地之間的偏差。從正向來看，大模型的語義理解和文本分析能力很強，在意圖識別上比傳統(tǒng) NLP 先進得多，能極大提升前線問題的歸因分析效率。但反過來，它的推理及深度分析能力相對缺乏。我舉個不恰當(dāng)?shù)谋扔鳎F(xiàn)在 AI Agent 的能力就像一個 “神棍神醫(yī)”，操作系統(tǒng)的日志更像是人的表征，比如發(fā)燒，它沒有任何指標(biāo)，僅憑表象就直接開藥，你根本分辨不出方子的對錯。這就是業(yè)界所說的 “幻覺”，看似正確，實則可能完全錯誤，這是很大的矛盾點。

@向陽：這個事本身肯定是革命性的。AIOps 出現(xiàn)很多年，以前靠規(guī)則化和數(shù)據(jù)清洗來做，現(xiàn)在有了大模型的機會，我們在客戶處看到的效果非常驚艷。比如銀行發(fā)版，以前要七八個部門及對應(yīng)的運維廠商駐場，現(xiàn)在人數(shù)能急劇降低，但還到不了無人值守，就像自動駕駛一樣，特斯拉 FSD 也沒有完全剝離駕駛員的責(zé)任。它存在幻覺和準(zhǔn)確率問題，給出的是柔性答案而非基于規(guī)則，只要不是基于規(guī)則，就有正確率的問題，需要通過 Guardrail 等機制約束行為，讓它隨著使用慢慢成長?？傮w來講它是一場革命，但我們不能預(yù)期它像資深運維工程師一樣不犯錯。

Q2：“OS + LLM Agent” 新范式，是為了解決傳統(tǒng) AIOps 的哪些痛點？

@馮富秋：AIOps 提了好久但始終沒達到預(yù)期，原來的技術(shù)要么是規(guī)則引擎，要么是小神經(jīng)網(wǎng)絡(luò)。規(guī)則引擎對復(fù)雜操作系統(tǒng)代碼的靜態(tài)分析都做不到，關(guān)鍵字匹配效率差，只能處理預(yù)先設(shè)定的正向案例；小神經(jīng)網(wǎng)絡(luò)需要監(jiān)督訓(xùn)練，但運維領(lǐng)域沒有大量高質(zhì)量的數(shù)據(jù)，泛化能力不足，準(zhǔn)確率甚至不及早期的統(tǒng)計學(xué)模型。而生成式模型最大的好處是基于內(nèi)在知識庫生成，而非過往數(shù)據(jù)的復(fù)現(xiàn)，能在更少人工調(diào)教的情況下，產(chǎn)生比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)更好的效果。大模型的泛化能力，是運維場景中非常顯著的特征。

@向陽：以往 AIOps 的痛點主要在兩方面：一是數(shù)據(jù)，二是智能。數(shù)據(jù)層面，以前靠插樁、打日志的方式采集數(shù)據(jù)，第一步就要做痛苦的數(shù)據(jù)清洗，企業(yè)客戶往往要花費半年以上時間；智能層面，基于規(guī)則的方案難以突破大量 Corner case。OS 能提供很好的零侵擾視角，看到機器上所有進程的活動，構(gòu)建完整數(shù)據(jù)集；大模型則帶來了真正的智能，就像自動駕駛從規(guī)則跨越到 FSD 模型，突然有了可能性?，F(xiàn)在的模型泛化能力已經(jīng)足夠好，運維領(lǐng)域更強調(diào)獲取關(guān)聯(lián)性強的實時數(shù)據(jù)，數(shù)據(jù)既要完整，標(biāo)簽標(biāo)注也要統(tǒng)一。

Q3：阿里云推動這一范式落地的核心訴求是什么？與云杉網(wǎng)絡(luò)如何協(xié)同？

@馮富秋：阿里云的核心訴求是讓模型真正改善工單處理效率，提升客戶體驗。我們和云杉網(wǎng)絡(luò)是龍蜥系統(tǒng)運維聯(lián)盟的核心成員，整個 AI 落地過程涉及很多操作系統(tǒng)技術(shù)和觀測技術(shù)。阿里云提供操作系統(tǒng)底座，保障其堅固可靠，還推出了操作系統(tǒng)控制臺，希望操作系統(tǒng)相關(guān)的所有問題都能在上面得到解決。在此基礎(chǔ)上，我們還提供了很多觀測操作系統(tǒng)的探針，云杉網(wǎng)絡(luò)會基于這些探針做上層應(yīng)用和全鏈路容器等生態(tài)，雙方強強聯(lián)合，共同提升運營效率和用戶體驗。

@向陽：阿里開放操作系統(tǒng)的可觀測性能力，比如 eBPF 技術(shù)接口，這是非常重要的基礎(chǔ)能力。我們 DeepFlow 會使用 eBPF 接口實現(xiàn)零侵擾的可觀測性，如果用日志或 APM 的方式，會涉及繁瑣的數(shù)據(jù)清洗問題，但借助操作系統(tǒng)的 eBPF 能力，就能很好地實現(xiàn)零侵擾的結(jié)構(gòu)化數(shù)據(jù)采集。尤其是金融這類關(guān)鍵行業(yè)，在生產(chǎn)環(huán)境中不用修改應(yīng)用代碼、不用重啟，就能憑借操作系統(tǒng)的能力拿到豐富數(shù)據(jù)，這些數(shù)據(jù)就是 LLM Agent 的 “燃料”，雙方是相互促進的關(guān)系。

Q4：如何保證 LLM Agent 這個 “橋梁” 不會成為系統(tǒng)的單點故障或脆弱點？

@馮富秋：這是個熱門話題，AI 創(chuàng)新的同時，運行平臺的穩(wěn)定性至關(guān)重要。我們從兩個層面保障：一是操作系統(tǒng)層面，保障 AI Agent 的運行環(huán)境穩(wěn)定，通過操作系統(tǒng)控制臺透出能力，讓客戶能看到問題及解決方案；二是研究 AI 觀測能力，診斷 Agent 本身是否出現(xiàn) HANG（算子掛死）、死鎖、OOM（內(nèi)存溢出） 等問題，確保其穩(wěn)定可靠、可診斷。此外，我們還會聯(lián)合合作伙伴，實現(xiàn)模型快速裝載、恢復(fù)及問答流路由，從節(jié)點和彈性環(huán)境兩方面共同保障 “橋梁” 的穩(wěn)固。

@向陽：解決橋梁可靠性要從兩方面入手：一是 AI 基礎(chǔ)設(shè)施層面，保障 GPU 卡、顯存、RDMA 網(wǎng)絡(luò)等環(huán)節(jié)及通用算力上分布式調(diào)用鏈的可靠性；二是應(yīng)用層面，通過評估和反思機制持續(xù)提升推理質(zhì)量，解決幻覺問題。我們和阿里合作的 AI 技術(shù)設(shè)施可觀測解決方案剛剛獲得了最佳案例獎，這正是雙方合作成果的體現(xiàn)。

2 技術(shù)破局——降幻覺、強協(xié)同的實踐路徑

Q5：面對 “幻覺” 問題，提升可靠性、實現(xiàn) “降幻覺” 的核心思路是什么？

@馮富秋：要把模型從 “神棍神醫(yī)” 變成真正的專家，我們總結(jié)了三步法。第一步，提供工具支持，就像醫(yī)院的 CT、化驗設(shè)備，把操作系統(tǒng)和運行環(huán)境的深層次問題提煉出來供模型使用，這就是 AI Agent 中的 “工具”；第二步，制定結(jié)構(gòu)化執(zhí)行綱要，就像癌癥診療指南，阿里巴巴沉淀了大量運維工單經(jīng)驗，形成結(jié)構(gòu)化綱要，讓模型有章可循，這對應(yīng) AI Agent 的 Planning；第三步，持續(xù)迭代優(yōu)化，AI 答復(fù)不準(zhǔn)確時，客服團隊會回收案例，對模型進行監(jiān)督訓(xùn)練或強化訓(xùn)練，讓模型積累經(jīng)驗、不斷成長。

@向陽：我們的策略也是三步走。第一步，以基于操作系統(tǒng)的觀測數(shù)據(jù)為主干，解決數(shù)據(jù)完整性和結(jié)構(gòu)化問題，尤其在金融場景下，能應(yīng)對 APM 和日志參差不齊的情況；第二步，補齊數(shù)據(jù)關(guān)聯(lián)關(guān)系，比如在故障診斷場景中，把銀行交易的不同流水號串聯(lián)成調(diào)用鏈，這有點像把稀土冶煉成合金；第三步，基于狀態(tài)機生成動態(tài)思維鏈，避免 Workflow 失控，同時在診斷和巡檢報告中列出完整證據(jù)鏈，方便金融等嚴(yán)謹行業(yè)做審計回溯，再通過評估反思機制讓智能體持續(xù)學(xué)習(xí)。最終解決幻覺問題。

Q6：將 eBPF 采集的底層數(shù)據(jù)與 LLM Agent 決策邏輯打通，最難的環(huán)節(jié)是什么？如何平衡數(shù)據(jù)豐富性與性能損耗？

@馮富秋：核心難點是權(quán)衡數(shù)據(jù)采集的多與少。采集多了，CPU、內(nèi)存、存儲開銷會非常大，出現(xiàn)問題時也分不清該關(guān)注哪個指標(biāo)；采集少了，又無法準(zhǔn)確定位問題。這就需要與大模型結(jié)合，以問題和場景為驅(qū)動，整合最優(yōu)的采集方案，甚至通過動態(tài)開關(guān)，在開銷可控的情況下達成預(yù)期效果。

@向陽：平衡數(shù)據(jù)豐富性與性能損耗，我們做了兩件事。一是給 eBPF 常規(guī)數(shù)據(jù)打統(tǒng)一標(biāo)簽，標(biāo)注云資產(chǎn)、容器資產(chǎn)、業(yè)務(wù)資產(chǎn)，消除數(shù)據(jù) “方言” 差異，比如避免 APM 和日志中對同一服務(wù)的命名不一致；二是層次化遞進獲取實時數(shù)據(jù)，生產(chǎn)環(huán)境中長期打開黃金指標(biāo)、調(diào)用鏈等低開銷觀測數(shù)據(jù)，當(dāng)智能體發(fā)現(xiàn)數(shù)據(jù)不夠時，借助 eBPF 的熱加載能力，通過 Agent 的動態(tài)思維鏈，在故障現(xiàn)象丟失前快速補充實時數(shù)據(jù)，實現(xiàn)高效平衡。

Q7：LLM Agent 適配企業(yè)內(nèi)網(wǎng)環(huán)境時，面臨哪些安全合規(guī)挑戰(zhàn)？如何建立安全護欄？

@馮富秋：客戶最關(guān)心兩個尖銳問題：一是數(shù)據(jù)安全，擔(dān)心生產(chǎn)數(shù)據(jù)泄露，我們推出了 Confidential AI 雙向可信方案，數(shù)據(jù)在完全可信的沙箱內(nèi)運行，阿里云和客戶雙方都看不到對方數(shù)據(jù)；二是答復(fù)可靠性，擔(dān)心按 AI 結(jié)論操作失敗后的責(zé)任歸屬，我們采取人機協(xié)同模式，AI 結(jié)論先供客服和客戶參考，不直接強制執(zhí)行，通過持續(xù)的監(jiān)督訓(xùn)練提升模型可信度，逐步推進落地。

@向陽：生產(chǎn)環(huán)境的故障復(fù)雜度遠高于實驗室，首先要拉齊客戶預(yù)期，讓其理解預(yù)期不是 100%；其次要提供完整證據(jù)鏈，智能體的專業(yè)廣度可能超過單人，工程師需要通過證據(jù)鏈理解結(jié)論由來；合規(guī)層面，任何操作都需要人在循環(huán)中承擔(dān)責(zé)任，關(guān)鍵操作需人工審批，同時將診斷和恢復(fù)效果沉淀為反思數(shù)據(jù)集，持續(xù)優(yōu)化模型，就像運維老司機積累經(jīng)驗一樣，讓智能體越用越強。

3 未來啟示——生態(tài)共建與范式革新

Q8：未來吸引更多開發(fā)者和企業(yè)參與 “OS + LLM Agent” 生態(tài)，會側(cè)重哪些方面？

@馮富秋：生態(tài)建設(shè)主要聚焦三個維度：一是阿里云聚焦操作系統(tǒng)核心能力，以 MCP 方式開放出來，讓所有模型都能結(jié)合使用，就像提供專業(yè)診療設(shè)備供各方使用；二是依托龍蜥運維聯(lián)盟構(gòu)建溝通橋梁，和云杉網(wǎng)絡(luò)等伙伴發(fā)布聯(lián)合解決方案，堆疊各方能力；三是計劃推出脫敏后的運維工單標(biāo)準(zhǔn)測試集，建立行業(yè)基準(zhǔn)，讓所有 Agent 都能在上面測試，解決運維行業(yè)缺乏訓(xùn)練集和測試集的痛點，促進行業(yè)良性發(fā)展。

@向陽：主要有兩個方面：一是通過 DeepFlow 開源社區(qū)降低 eBPF 技術(shù)使用門檻，解決其內(nèi)核適配、技術(shù)門檻高的問題，同時在開源社區(qū)開放 MCP Server 等能力，讓開發(fā)者能獲取生產(chǎn)環(huán)境的剖析數(shù)據(jù)和調(diào)用數(shù)據(jù)；二是作為大模型和操作系統(tǒng)的用戶，積極融入阿里這樣的大生態(tài)，與行業(yè)伙伴共同推進技術(shù)落地。在分工明確的企業(yè)中，Multi-Agent 是必然趨勢，我們會按場景化實現(xiàn)智能體能力，且不同場景的智能體之間會相互交互，形成閉環(huán)。

Q9：LLM for AIOps 對運維領(lǐng)域有哪些啟發(fā)？LLM Agent 會成為服務(wù)器操作系統(tǒng)的 “標(biāo)配” 嗎？

@馮富秋：LLM Agent 未來一定會成為服務(wù)器操作系統(tǒng)的標(biāo)配?，F(xiàn)在開發(fā)者從 IaaS 到 FaaS、MaaS，越來越聚焦客戶價值，不用關(guān)注底層環(huán)境，但系統(tǒng)出問題時，運維會陷入困境，甚至被拉回基礎(chǔ)操作層面。未來運維應(yīng)該是 “零運維” 模式，系統(tǒng)能自主發(fā)現(xiàn)、分析、推送問題，人只需要做決策授權(quán)。LLM Agent 正是實現(xiàn)這一目標(biāo)的關(guān)鍵，能極大改善運維體驗，讓運維人員從基礎(chǔ)操作中解放出來。

@向陽：我也認為 LLM Agent 會成為操作系統(tǒng)的標(biāo)配。我們的愿景是讓 DeepFlow 跑到每一個操作系統(tǒng)上，目標(biāo)是三年內(nèi)國內(nèi)每年新增服務(wù)器的 1% 都能運行 DeepFlow。未來每臺服務(wù)器可能都會標(biāo)配 GPU，本地擁有算力解決本地問題。另一方面，云作為一個分布式操作系統(tǒng)，也需要 LLM Agent 和可觀測性能力保障穩(wěn)定。可觀測性和控制論最早成功解決飛船登月的問題，因此面對復(fù)雜的分布式操作系統(tǒng)運維場景，LLM Agent 和觀測數(shù)據(jù)能力肯定是必備的。

Q10：落地 LLM for AIOps 最關(guān)鍵的是什么？有什么建議給到行業(yè)？

@馮富秋：首先要明確，LLM for AIOps 既不是銀彈也不是泡沫。它目前的推理能力和知識結(jié)構(gòu)還不足以解決所有復(fù)雜問題，大家要做好預(yù)期管理，這個領(lǐng)域還有很長的路要走。但它也不是泡沫，大模型確實能改善客戶體驗、精準(zhǔn)理解客戶意圖，還能在模糊問題中做出取舍 —— 這種取舍能力是傳統(tǒng)程序不具備的。希望行業(yè)各方共同參與，客戶不用抱過高預(yù)期，但可以適當(dāng)擁抱技術(shù)，讓技術(shù)從泡沫中提煉精華，最終實現(xiàn) “零運維” 的效果。

@向陽：最關(guān)鍵的是 “開始行動”。我們看到它是一場革命，需要勇敢邁出第一步，同時要避免上一代 AIOps 的錯誤 —— 上一代 AIOps 的數(shù)據(jù)多來自插樁和日志，數(shù)據(jù)清洗過程異常痛苦，不少創(chuàng)業(yè)公司因此失敗，交付團隊也可能陷入客戶環(huán)境的泥沼。選擇 “OS + LLM Agent” 的正確方向，走順數(shù)據(jù)采集和規(guī)整的第一步，后續(xù) Agent 的效果會在持續(xù)使用和評估反思中不斷優(yōu)化、加強。

4 結(jié)語：智能運維的進化，始于爭議，成于協(xié)同

LLM for AIOps 的行業(yè)爭議，本質(zhì)是新技術(shù)落地時預(yù)期與現(xiàn)實的必然碰撞。LLM for AIOps 不是解決所有問題的 “銀彈”，卻用語義理解、跨部門協(xié)同的核心能力，打破了傳統(tǒng) AIOps 的固有瓶頸；雖然因 “幻覺” 問題仍面臨著 “泡沫”相關(guān)的質(zhì)疑，但在 OS 底座的堅實支撐、eBPF 技術(shù)的精準(zhǔn)賦能，以及持續(xù)的技術(shù)迭代中，正不斷走向完善。

從技術(shù)落地到產(chǎn)業(yè)普及，這場變革的核心，在于 “協(xié)同”——阿里云與云杉網(wǎng)絡(luò)的生態(tài)協(xié)同，OS 底座與 LLM Agent 的技術(shù)協(xié)同，大模型與傳統(tǒng)規(guī)則、小模型的分工協(xié)同，以及人與機器的決策協(xié)同等。當(dāng)生態(tài)層面的技術(shù)壁壘逐步消融，當(dāng)數(shù)據(jù)與智能的閉環(huán)持續(xù)構(gòu)建，當(dāng)行業(yè)標(biāo)準(zhǔn)逐步完善，LLM Agent 有望從 “爭議焦點” 逐步成為 “運維標(biāo)配”，進而讓 “端著咖啡做運維” 的夢想照進現(xiàn)實。

欄目介紹：

在 AI 重塑產(chǎn)業(yè)格局與國產(chǎn)化替代加速推進的雙重浪潮下，《AI 進化論：智算時代 OS 的破局之路》以云、AI、安全等技術(shù)與服務(wù)器操作系統(tǒng)如何融合演進為主線，聚焦服務(wù)器操作系統(tǒng)在智算時代的進化之路，特邀學(xué)術(shù)權(quán)威、行業(yè)專家、客戶代表圍繞原生智能、原生安全、軟硬協(xié)同等熱點議題展開深度對話，并以阿里云服務(wù)器操作系統(tǒng)為例，系統(tǒng)性解析其技術(shù)架構(gòu)、演進之路及場景應(yīng)用價值，以期給行業(yè)帶來啟示與借鑒。