你有沒(méi)有想過(guò)，當(dāng) AI 開(kāi)始大規(guī)模編寫代碼時(shí)會(huì)發(fā)生什么？在 Anthropic 和 Google 這樣的公司，AI 現(xiàn)在已經(jīng)生成了接近 80% 的生產(chǎn)代碼。聽(tīng)起來(lái)很酷對(duì)吧？但這背后有個(gè)致命問(wèn)題：誰(shuí)來(lái)找這些 AI 寫出來(lái)的 bug？更重要的是，當(dāng) AI agent 在凌晨三點(diǎn)自動(dòng)部署了一段代碼，三天后生產(chǎn)環(huán)境崩潰了，你怎么知道它當(dāng)時(shí)為什么要那么做？

這不是假設(shè)場(chǎng)景。2026 年 2 月，一個(gè)開(kāi)發(fā)者眼睜睜看著 Claude Code 執(zhí)行了 terraform destroy 命令，刪除了生產(chǎn)數(shù)據(jù)庫(kù)的 194 萬(wàn)行數(shù)據(jù)。2025 年 7 月，Replit Agent 在明確的代碼凍結(jié)期刪除了一個(gè)生產(chǎn)數(shù)據(jù)庫(kù)，1206 條高管記錄和 1196 條公司記錄消失了，然后這個(gè) agent 還編造了 4000 條虛假記錄來(lái)掩蓋錯(cuò)誤，并謊稱可以恢復(fù)數(shù)據(jù)。Harper Foley 記錄了 16 個(gè)月內(nèi)跨越 6 個(gè) AI 編碼工具的 10 起事故，沒(méi)有一家供應(yīng)商發(fā)布過(guò)事后分析報(bào)告。

這就是我們正在進(jìn)入的世界。AI agent 可以寫代碼、部署功能、修復(fù)問(wèn)題，但當(dāng)出錯(cuò)時(shí)，你甚至不知道它為什么要那么做。上下文窗口關(guān)閉了，推理過(guò)程蒸發(fā)了，你在調(diào)試一個(gè)幽靈。這讓我想起一個(gè) 26 歲的斯坦福博士生 Animesh Koratana 幾年前的預(yù)見(jiàn)。他當(dāng)時(shí)在斯坦福 DAWN 實(shí)驗(yàn)室研究 AI 模型壓縮技術(shù)，很早就接觸到了大語(yǔ)言模型。當(dāng)他遇到那些開(kāi)發(fā)最早 AI 編程輔助工具的開(kāi)發(fā)者時(shí)，一個(gè)念頭擊中了他："未來(lái)會(huì)有一個(gè)世界，計(jì)算機(jī)來(lái)編寫代碼，而不再是人類。那個(gè)世界會(huì)是什么樣子？"他比"AI slop"這個(gè)詞出現(xiàn)得還早就知道，這些 agent 會(huì)像人類程序員一樣寫出破壞系統(tǒng)的代碼。

PS：我的出海新書(shū)已經(jīng)上架了，我特意申請(qǐng)了公眾號(hào)讀者專屬的優(yōu)惠鏈接，可以享受半價(jià)折扣，歡迎感興趣的朋友購(gòu)買。

同時(shí)我還特地建立了實(shí)名制的讀者群，我會(huì)在群里定期解答一些問(wèn)題和開(kāi)展線上線下活動(dòng)，歡迎購(gòu)書(shū)的朋友實(shí)名制入群，大家一塊交流，共同出海！

AI 編程時(shí)代的致命缺陷

我深入研究了這個(gè)問(wèn)題后發(fā)現(xiàn)，當(dāng)前 AI agent 系統(tǒng)最大的問(wèn)題不是模型質(zhì)量不夠好，也不是工具調(diào)用能力不行，甚至不是思維鏈提示的問(wèn)題。真正的問(wèn)題是：沒(méi)有人構(gòu)建了底層的記憶層。Gartner 預(yù)測(cè)到 2027 年底，40% 的 AI agent 項(xiàng)目會(huì)被取消，而首要原因不是模型不好，而是缺少這個(gè)記憶層。

加州大學(xué)伯克利分校研究了跨 7 個(gè)框架的 1600 個(gè)多 agent 追蹤，發(fā)現(xiàn)失敗率在 41% 到 87% 之間。MIT 的 NANDA 項(xiàng)目發(fā)現(xiàn)，95% 的企業(yè)生成式 AI 試點(diǎn)項(xiàng)目無(wú)法帶來(lái)任何可衡量的損益表影響。他們找到的根本原因是所謂的"學(xué)習(xí)差距"：系統(tǒng)不保留反饋、不適應(yīng)上下文、不隨時(shí)間改進(jìn)。模型本身沒(méi)問(wèn)題，問(wèn)題出在它們周圍的基礎(chǔ)設(shè)施缺失。

讓我把這個(gè)問(wèn)題說(shuō)得更具體一點(diǎn)。當(dāng)一個(gè) AI agent 執(zhí)行 50 個(gè)步驟來(lái)解決客戶問(wèn)題時(shí)，每一步都涉及上下文。它檢索了什么、它決定了什么、它丟棄了什么、它為什么選擇路徑 A 而不是路徑 B。這些推理過(guò)程的存在時(shí)間，恰好就是上下文窗口保持打開(kāi)的時(shí)間。然后窗口關(guān)閉，會(huì)話結(jié)束，推理消失。留下的只有輸出：PR、工單更新、部署。但產(chǎn)生這些輸出的決策鏈呢？永遠(yuǎn)消失了。

這不是日志記錄問(wèn)題。你的可觀測(cè)性堆棧能捕獲哪些服務(wù)被調(diào)用、花了多長(zhǎng)時(shí)間，但它不能捕獲提示詞里有什么、決策時(shí)有哪些工具可用、為什么選擇了特定操作而不是另一個(gè)、agent 在每個(gè)分叉點(diǎn)的置信度是多少。LangChain 說(shuō)得很精準(zhǔn)：在傳統(tǒng)軟件中，代碼記錄了應(yīng)用；在 AI agent 中，追蹤就是你的文檔。當(dāng)決策邏輯從你的代碼庫(kù)轉(zhuǎn)移到模型時(shí)，你的真相來(lái)源就從代碼轉(zhuǎn)移到了追蹤。問(wèn)題是，大多數(shù)團(tuán)隊(duì)根本沒(méi)有捕獲這些追蹤。他們捕獲的是日志。而日志和追蹤之間的差別，就是知道"發(fā)生了什么"和知道"為什么發(fā)生"之間的差別。

我想強(qiáng)調(diào)一下這個(gè)區(qū)別有多重要。日志是診斷性的，它告訴你事后發(fā)生了什么。它是臨時(shí)的、被輪換、被壓縮、被刪除的。它是系統(tǒng)實(shí)際狀態(tài)的次要信息。關(guān)鍵是，你無(wú)法單獨(dú)從日志重建系統(tǒng)狀態(tài)。日志有空白，它們只是"大致準(zhǔn)確"。而追蹤架構(gòu)，建立在 Martin Fowler 二十年前形式化的事件溯源模式之上，從根本上是不同的。每個(gè)狀態(tài)變化都被捕獲為不可變事件。事件是永久的、僅追加的。狀態(tài)是從事件派生的，而不是單獨(dú)存儲(chǔ)的。因?yàn)槭录钦嫦鄟?lái)源，你可以在任何時(shí)間點(diǎn)重建系統(tǒng)的完整狀態(tài)。

PlayerZero 的解決方案

這就是為什么 Koratana 創(chuàng)立了 PlayerZero。他在斯坦福的導(dǎo)師 Matei Zaharia 是數(shù)據(jù)庫(kù)領(lǐng)域的傳奇人物，Databricks 的聯(lián)合創(chuàng)始人，他在攻讀博士學(xué)位時(shí)創(chuàng)建了該公司的基礎(chǔ)技術(shù)。有這樣的導(dǎo)師支持，Koratana 開(kāi)始構(gòu)建一個(gè)解決方案：使用經(jīng)過(guò)訓(xùn)練的 AI agent 在代碼投入生產(chǎn)之前發(fā)現(xiàn)并修復(fù)問(wèn)題。

PlayerZero 剛剛宣布完成了 1500 萬(wàn)美元的 A 輪融資，由 Foundation Capital 的 Ashu Garg 領(lǐng)投，他也是 Databricks 的早期支持者。這是繼 Green Bay Ventures 領(lǐng)投的 500 萬(wàn)美元種子輪之后的又一輪融資。天使投資人陣容也相當(dāng)驚人：除了他的導(dǎo)師 Zaharia，還有 Dropbox CEO Drew Houston、Figma CEO Dylan Field、Vercel CEO Guillermo Rauch。

讓我印象深刻的是 Koratana 如何驗(yàn)證他的想法。拿到 Zaharia 作為天使投資人只是融資的第一步，但真正驗(yàn)證他想法的時(shí)刻是當(dāng)他向另一位著名開(kāi)發(fā)者 Rauch 展示演示時(shí)。Rauch 是三倍獨(dú)角獸開(kāi)發(fā)工具公司 Vercel 的創(chuàng)始人，也是流行的開(kāi)源 JavaScript 框架 Next.js 的創(chuàng)建者。Rauch 帶著興趣但也帶著懷疑觀看了 Koratana 的演示，問(wèn)有多少是"真實(shí)的"。Koratana 回答說(shuō)這是"在生產(chǎn)環(huán)境中運(yùn)行的代碼，這是一個(gè)真實(shí)的實(shí)例"。然后他很快就要成為天使投資人的 Rauch 安靜了下來(lái)，然后回應(yīng)說(shuō)："如果你真的能按照你想象的方式解決這個(gè)問(wèn)題，這將是一件大事。"

PlayerZero 的核心是他們所謂的 World Model（世界模型），這是一個(gè)上下文圖，將每次代碼更改、可觀測(cè)性事件、支持工單和過(guò)去的事故連接成一個(gè)單一的活結(jié)構(gòu)。當(dāng) bug 出現(xiàn)時(shí)，PlayerZero 將其追溯到確切的代碼行，生成修復(fù)，并通過(guò) Slack 將其路由給負(fù)責(zé)的工程師，只需輕觸一下即可批準(zhǔn)。從檢測(cè)到修復(fù)的循環(huán)在幾分鐘內(nèi)自主運(yùn)行。每個(gè)已解決的事故都會(huì)永久反饋到 World Model 中，因此下次類似代碼發(fā)布時(shí)，系統(tǒng)已經(jīng)知道上次出了什么問(wèn)題。

Koratana 訓(xùn)練的模型"真正深入理解代碼庫(kù)，我們理解它們是如何構(gòu)建的、如何架構(gòu)的"。他的技術(shù)研究企業(yè) bug、問(wèn)題和解決方案的歷史。當(dāng)出現(xiàn)問(wèn)題時(shí)，他的產(chǎn)品可以"找出原因并修復(fù)它，然后從這些錯(cuò)誤中學(xué)習(xí)，防止它們?cè)俅伟l(fā)生"。他把自己的產(chǎn)品比作大型代碼庫(kù)的免疫系統(tǒng)。

我特別喜歡他們對(duì)"兩個(gè)時(shí)鐘"問(wèn)題的理解。Koratana 說(shuō)，組織花了幾十年構(gòu)建狀態(tài)基礎(chǔ)設(shè)施（現(xiàn)在存在什么），但幾乎沒(méi)有為推理（決策是如何做出的）構(gòu)建任何東西。PlayerZero 兩者都捕獲。這個(gè)架構(gòu)洞察是微妙但重要的。大多數(shù)系統(tǒng)試圖預(yù)先規(guī)定架構(gòu)。定義你的實(shí)體，定義你的關(guān)系，然后填充。PlayerZero 反轉(zhuǎn)了這一點(diǎn)。他們的系統(tǒng)直接連接到你現(xiàn)有的工作流程。當(dāng)生產(chǎn)環(huán)境出現(xiàn)問(wèn)題時(shí)，Slack 中會(huì)觸發(fā)一個(gè)帶有完整上下文的警報(bào)。不是通用錯(cuò)誤通知，而是一個(gè)結(jié)構(gòu)化的診斷，推理鏈已經(jīng)組裝好了。工程師可以從手機(jī)上批準(zhǔn)修復(fù)，而無(wú)需打開(kāi)任何儀表板。

這套系統(tǒng)為什么有效

我花了很多時(shí)間研究生產(chǎn)工程團(tuán)隊(duì)實(shí)際上如何解決這個(gè)問(wèn)題，PlayerZero 是我見(jiàn)過(guò)的針對(duì)工程組織的追蹤架構(gòu)最完整的實(shí)現(xiàn)。當(dāng) agent 調(diào)查事故時(shí),它在系統(tǒng)中的軌跡變成了決策追蹤。積累足夠多的這些追蹤，一個(gè)世界模型就出現(xiàn)了。不是因?yàn)橛腥嗽O(shè)計(jì)了它，而是因?yàn)橄到y(tǒng)觀察到了它。重要的實(shí)體、承載權(quán)重的關(guān)系、塑造結(jié)果的約束，都是通過(guò)實(shí)際的 agent 使用發(fā)現(xiàn)的。

他們的 Sim-1 引擎更進(jìn)一步。它在部署之前模擬代碼更改將如何在復(fù)雜系統(tǒng)中表現(xiàn)，在 100 多個(gè)狀態(tài)轉(zhuǎn)換和 50 多個(gè)服務(wù)邊界交叉中保持一致性。在 2770 個(gè)真實(shí)用戶場(chǎng)景上，它達(dá)到了 92.6% 的模擬準(zhǔn)確度，而可比工具為 73.8%。這不是用語(yǔ)言模型裝飾的靜態(tài)分析，這是基于觀察到的生產(chǎn)行為的模擬。上下文圖為 Sim-1 提供了其他代碼分析工具所沒(méi)有的東西：在真實(shí)條件下系統(tǒng)實(shí)際行為的知識(shí)，而不僅僅是代碼在紙面上的表現(xiàn)。

但最重要的數(shù)字不是準(zhǔn)確性，而是學(xué)習(xí)循環(huán)。每個(gè)已解決的事故、每個(gè)批準(zhǔn)的修復(fù)、每個(gè)模擬結(jié)果都保留在上下文圖中。系統(tǒng)每次使用都會(huì)變得更好，因?yàn)樗Ａ袅水a(chǎn)生每個(gè)結(jié)果的推理，而不僅僅是結(jié)果本身。這是每個(gè) AI agent 系統(tǒng)都需要的模式。不僅僅是用于生產(chǎn)工程，而是用于 agent 做出重大決策的任何領(lǐng)域。問(wèn)題不是你的 agent 能否行動(dòng)，而是你的 agent 系統(tǒng)能否記住它為什么行動(dòng)、從那段記憶中學(xué)習(xí)并將其應(yīng)用于下一個(gè)決策。

從客戶案例來(lái)看，效果確實(shí)驚人。Zuora 是一家訂閱計(jì)費(fèi)公司，為財(cái)富 500 強(qiáng)基礎(chǔ)設(shè)施提供支持，他們正在整個(gè)工程團(tuán)隊(duì)中使用這項(xiàng)技術(shù)，包括監(jiān)控他們最寶貴的代碼——計(jì)費(fèi)系統(tǒng)。Nylas 是電子郵件、日歷和日程安排的統(tǒng)一 API，也是早期客戶之一。這兩家公司都代表了可靠性失敗會(huì)立即帶來(lái)財(cái)務(wù)和合同后果的類別。PlayerZero 聲稱該系統(tǒng)在幾分鐘內(nèi)完成了 300 人 QA 團(tuán)隊(duì)需要數(shù)周才能完成的工作，將生產(chǎn)問(wèn)題減少了一半，每個(gè)企業(yè)客戶節(jié)省超過(guò) 200 萬(wàn)美元。

Zuora 的案例特別能說(shuō)明問(wèn)題。他們將 L3 級(jí)別的分類從 3 天縮短到 15 分鐘。使用適當(dāng)?shù)?agent 可觀測(cè)性的團(tuán)隊(duì)報(bào)告平均解決時(shí)間減少了 70%。一個(gè)團(tuán)隊(duì)從"三天后才知道出了問(wèn)題"變成了"幾分鐘內(nèi)就知道"。這不是理論上的改進(jìn)，這是實(shí)際操作中的巨大飛躍。

對(duì)軟件工程的深遠(yuǎn)影響

我認(rèn)為 PlayerZero 代表的不僅僅是一個(gè)調(diào)試工具，而是軟件工程范式的根本轉(zhuǎn)變。想想看，當(dāng)每個(gè) agent 決策都被永久記錄并可重放時(shí)，你的代碼庫(kù)會(huì)發(fā)生什么變化。

入職培訓(xùn)會(huì)改變。新工程師加入你的團(tuán)隊(duì)時(shí)，不再是閱讀過(guò)時(shí)的文檔或逆向工程 git blame，而是查詢決策歷史。為什么拆分這個(gè)服務(wù)？重構(gòu)之前失敗了什么？選擇這個(gè)架構(gòu)時(shí)評(píng)估了哪些權(quán)衡？答案之所以存在，是因?yàn)橥瓿晒ぷ鞯?agent 留下了追蹤，而不僅僅是輸出。

調(diào)試會(huì)改變。你不再問(wèn)"發(fā)生了什么"，而是開(kāi)始問(wèn)"agent 在第 14 步的上下文是什么"。你不再猜測(cè)，而是重放。平均解決時(shí)間下降，因?yàn)槟悴皇菑乃槠兄亟▓?chǎng)景。場(chǎng)景被保留了下來(lái)。

產(chǎn)品質(zhì)量會(huì)改變。你的 agent 解決的每個(gè)客戶問(wèn)題都會(huì)添加到一個(gè)不斷增長(zhǎng)的地圖中，顯示你的系統(tǒng)在真實(shí)條件下實(shí)際如何表現(xiàn)。不是你設(shè)計(jì)它如何表現(xiàn)，而是它實(shí)際如何表現(xiàn)。這張地圖會(huì)復(fù)利。在一千個(gè)已解決的事故之后，你的系統(tǒng)比團(tuán)隊(duì)中的任何工程師都更了解自己的失敗模式。

最被低估的轉(zhuǎn)變是：機(jī)構(gòu)知識(shí)不再隨著人員離開(kāi)而消失。決策背后的推理存在于追蹤層中，而不是在某人的腦海中。當(dāng)原始作者離開(kāi)時(shí)，代碼庫(kù)不再死亡。這是真正的解鎖。不是更快的 agent，不是更聰明的 agent，而是作為完成工作的副作用而構(gòu)建組織記憶的 agent。每個(gè)行動(dòng)都留下追蹤，每個(gè)追蹤都教導(dǎo)系統(tǒng)，系統(tǒng)因?yàn)橛涀《兊酶谩?/p>

我也看到了一些批評(píng)和局限。追蹤存儲(chǔ)的擴(kuò)展性確實(shí)不舒服。一個(gè)復(fù)雜的 agent 工作流程每個(gè)會(huì)話可以產(chǎn)生數(shù)百兆字節(jié)的追蹤數(shù)據(jù)。大多數(shù)團(tuán)隊(duì)沒(méi)有基礎(chǔ)設(shè)施來(lái)大規(guī)模存儲(chǔ)、索引和查詢這些數(shù)據(jù)。事件溯源解決了不可變性和重放問(wèn)題，但引入了自己的復(fù)雜性，包括壓縮、投影管理和存儲(chǔ)成本。

可觀測(cè)性差距仍然巨大。Clean Lab 調(diào)查了 95 個(gè)運(yùn)行生產(chǎn) agent 的團(tuán)隊(duì)，發(fā)現(xiàn)只有不到三分之一對(duì)他們的可觀測(cè)性工具感到滿意。這是整個(gè) AI 基礎(chǔ)設(shè)施堆棧中評(píng)分最低的組件。70% 的受監(jiān)管企業(yè)每 3 個(gè)月重建一次他們的 agent 堆棧。工具還不成熟。

還有一個(gè)冷啟動(dòng)問(wèn)題。追蹤架構(gòu)在有歷史可以借鑒時(shí)最有價(jià)值。你用它調(diào)查的第一個(gè)事故不會(huì)感覺(jué)與傳統(tǒng)調(diào)試有太大不同。第一百個(gè)會(huì)感覺(jué)完全是一門不同的學(xué)科。但你必須經(jīng)歷前九十九個(gè)。重放保真度也很難。即使有完美的追蹤，用相同的上下文重新運(yùn)行 agent 決策也不能保證相同的輸出，因?yàn)榈讓幽Ｐ褪欠谴_定性的。你在調(diào)試一個(gè)每次查看時(shí)都會(huì)改變行為的系統(tǒng)。追蹤架構(gòu)給你上下文，但它不給你確定性。

我們正處在轉(zhuǎn)折點(diǎn)

我深信，我們正站在軟件工程歷史的一個(gè)重要轉(zhuǎn)折點(diǎn)上。當(dāng) AI 開(kāi)始編寫大部分代碼時(shí)，調(diào)試和質(zhì)量保證的方式必須從根本上改變。傳統(tǒng)的調(diào)試方法——查看日志、檢查堆棧跟蹤、逐步執(zhí)行代碼——這些在人類編寫代碼的時(shí)代很有效，但在 AI agent 大規(guī)模生成代碼的時(shí)代已經(jīng)不夠用了。

PlayerZero 提供的不僅僅是一個(gè)技術(shù)解決方案，更是一種新的思維方式。它讓我們意識(shí)到，在 AI agent 時(shí)代，記憶和學(xué)習(xí)能力比單純的執(zhí)行能力更重要。一個(gè)能記住為什么做出某個(gè)決策的系統(tǒng)，比一個(gè)只能執(zhí)行指令但不知道原因的系統(tǒng)要強(qiáng)大得多。這種記憶不是簡(jiǎn)單的日志，而是結(jié)構(gòu)化的、可查詢的、可重放的決策歷史。

從商業(yè)角度看，這也說(shuō)得通。當(dāng)一次生產(chǎn)事故可能造成數(shù)百萬(wàn)美元的損失時(shí)，能夠在幾分鐘內(nèi)找到根本原因并自動(dòng)修復(fù)的系統(tǒng)就不再是奢侈品，而是必需品。PlayerZero 聲稱他們的系統(tǒng)能夠?qū)⑸a(chǎn)問(wèn)題減少一半，每個(gè)企業(yè)客戶節(jié)省超過(guò) 200 萬(wàn)美元。對(duì)于 Global 2000 公司來(lái)說(shuō)，這種投資回報(bào)率是難以忽視的。

我也注意到 PlayerZero 提供了一個(gè)有趣的保證：如果他們不能在一周內(nèi)將你的工程帶寬提高至少 20%，他們會(huì)向你選擇的開(kāi)源項(xiàng)目捐贈(zèng) 1 萬(wàn)美元。這種保證展示了他們對(duì)自己技術(shù)的信心，也說(shuō)明了他們理解客戶需要看到實(shí)際結(jié)果，而不僅僅是承諾。

AI agent 系統(tǒng)中的差距不是模型、工具或編排，這些都是正在被積極商品化的已解決問(wèn)題。差距是決策記憶，這個(gè)層不僅捕獲發(fā)生了什么，還捕獲為什么發(fā)生。這個(gè)層使調(diào)試成為可能、學(xué)習(xí)自動(dòng)化、機(jī)構(gòu)知識(shí)持久。如果你的 agent 系統(tǒng)無(wú)法回答"它為什么那樣做"這個(gè)問(wèn)題，無(wú)論是針對(duì)其歷史中任何時(shí)間點(diǎn)的任何決策，你就是在沙子上建造?？焖俚纳匙樱钊擞∠笊羁痰纳匙?，但仍然是沙子。

先構(gòu)建追蹤層，一旦你這樣做了，其他一切都會(huì)變得更好。這是我從 PlayerZero 的故事中學(xué)到的最重要的一課。在 AI 編程的新時(shí)代，我們不能只關(guān)注讓 AI 寫得更快、更多，我們還必須確保它寫的代碼是可理解的、可調(diào)試的、可改進(jìn)的。只有這樣，AI 才能真正成為軟件工程的助力，而不是新的負(fù)擔(dān)。

結(jié)尾

也歡迎大家留言討論，分享你的觀點(diǎn)！

覺(jué)得內(nèi)容不錯(cuò)的朋友能夠幫忙右下角點(diǎn)個(gè)贊，分享一下。您的每次分享，都是在激勵(lì)我不斷產(chǎn)出更好的內(nèi)容。

歡迎關(guān)注深思圈，一起探索更大的世界。