Datadog最新發(fā)布的《AI工程現(xiàn)狀報(bào)告》指出，企業(yè)AI系統(tǒng)存在可量化的失敗問題。約每20個(gè)請求中就有1個(gè)在生產(chǎn)環(huán)境中失敗，但系統(tǒng)仍在繼續(xù)運(yùn)行并返回看似正確的輸出，這使得這些失敗難以被檢測。按工程標(biāo)準(zhǔn)來看，生產(chǎn)環(huán)境AI系統(tǒng)5%的失敗率已經(jīng)非常高。

除了失敗率上升，報(bào)告還強(qiáng)調(diào)了復(fù)雜性增加以及生產(chǎn)環(huán)境的不穩(wěn)定性。這并非系統(tǒng)宕機(jī)的問題，而是系統(tǒng)在運(yùn)行中逐漸變得不再可信的問題。

報(bào)告中最引人注目的是多個(gè)趨勢正在同時(shí)碰撞：AI正快速進(jìn)入生產(chǎn)環(huán)境，失敗率開始更清晰地顯現(xiàn)，系統(tǒng)設(shè)計(jì)變得更加復(fù)雜——因?yàn)閳F(tuán)隊(duì)將多個(gè)模型、數(shù)據(jù)源和工具組合到單一管道中。Datadog指出，約70%的組織已在生產(chǎn)環(huán)境中使用三個(gè)或更多模型，這增加了另一層協(xié)調(diào)難度。在某些情況下，基于智能體（Agent）的工作流疊加其上，引入了更多變數(shù)。每一層都增加了能力，但也增加了出現(xiàn)問題卻不立即顯現(xiàn)的概率，這正是靜默失敗問題開始生根的地方。

"AI開始看起來很像云計(jì)算的早期階段，"Datadog首席產(chǎn)品官Yanbing Li表示，"云讓系統(tǒng)變得可編程，但管理起來復(fù)雜得多。AI現(xiàn)在正在應(yīng)用層做同樣的事情。獲勝的公司不僅會構(gòu)建更好的模型，還會圍繞模型建立運(yùn)營控制。在這個(gè)新時(shí)代，AI可觀測性變得像十年前的云可觀測性一樣重要。"

這些發(fā)現(xiàn)的意義還在于數(shù)據(jù)來源。Datadog并非調(diào)查開發(fā)者或收集意見，而是在分析數(shù)千家公司運(yùn)行AI系統(tǒng)的生產(chǎn)遙測數(shù)據(jù)。其中包括越來越多的基于智能體的環(huán)境，在這些環(huán)境中，模型不僅生成輸出，還驅(qū)動(dòng)多步驟工作流。在這些系統(tǒng)中，報(bào)告指出運(yùn)營復(fù)雜性是可靠擴(kuò)展AI的主要障礙，大多數(shù)組織已在生產(chǎn)環(huán)境中運(yùn)行多個(gè)模型。隨著這些系統(tǒng)擴(kuò)展，挑戰(zhàn)不再是如何讓它們工作，而是在部署后如何保持它們可理解和可控。

"下一波智能體失敗不會是關(guān)于智能體不能做什么，而是關(guān)于團(tuán)隊(duì)無法觀察到什么，"Vercel（Next.js背后公司，構(gòu)建AI驅(qū)動(dòng)Web應(yīng)用的領(lǐng)先平臺）CEO Guillermo Rauch表示，"我們在Vercel構(gòu)建了智能體基礎(chǔ)設(shè)施，因?yàn)橹悄荏w需要與優(yōu)秀軟件相同的生產(chǎn)反饋循環(huán)。與傳統(tǒng)軟件不同，智能體的控制流由LLM本身驅(qū)動(dòng)，這使得可觀測性不僅有用，而且必不可少。"

報(bào)告中的另一個(gè)情況是，許多失敗并非由模型質(zhì)量驅(qū)動(dòng)，而是由基礎(chǔ)設(shè)施限制導(dǎo)致。很大一部分錯(cuò)誤來自速率限制，生產(chǎn)系統(tǒng)中記錄了數(shù)百萬次此類事件。隨著使用量增長，系統(tǒng)更頻繁地觸及提供商容量上限，這造成了難以預(yù)測的失敗爆發(fā)。在實(shí)踐中，可靠性既取決于團(tuán)隊(duì)如何管理負(fù)載、重試和并發(fā)，也取決于模型本身的表現(xiàn)如何。

據(jù)Datadog的發(fā)現(xiàn)，成本和延遲正變得更難控制。典型工作負(fù)載的Token使用量增加了一倍多，重度用戶的增長更快。推動(dòng)這一增長的因素不僅是用戶輸入，還包括系統(tǒng)提示、策略和工具指令的擴(kuò)展層——這些內(nèi)容在每個(gè)請求中被重復(fù)處理。這些后臺Token現(xiàn)在占總使用量的很大一部分，這意味著即使用戶需求看似穩(wěn)定，成本也可能上升。

盡管如此，基本的效率提升往往被忽視。報(bào)告顯示，提示緩存仍被低估使用，大多數(shù)系統(tǒng)在跨調(diào)用時(shí)重新處理相同的上下文。這暴露了AI系統(tǒng)構(gòu)建方式與生產(chǎn)環(huán)境優(yōu)化方式之間的差距。隨著上下文窗口擴(kuò)大和提示變大，挑戰(zhàn)正從向模型中塞入更多數(shù)據(jù)，轉(zhuǎn)變?yōu)闆Q定哪些信息真正重要。