中經(jīng)記者 郝成 北京報道

自家AI編碼助手在處理客戶系統(tǒng)時，自主決策“刪除并重建整個環(huán)境”為最優(yōu)方案，并導致宕機13小時？

近日，有媒體報道稱，亞馬遜核心業(yè)務(wù)板塊AWS（Amazon Web Services，亞馬遜云計算服務(wù)）曾在2025年年末出現(xiàn)一次持續(xù)13小時的宕機事件，且與其自家的人工智能編程助手Kiro有關(guān)。報道稱，AWS貢獻了亞馬遜約六成營業(yè)利潤。另有匿名員工透露，公司要求80%的開發(fā)者每周至少一次使用AI完成編碼任務(wù)，并密切追蹤采用情況。

事件曝出后，亞馬遜當天即發(fā)表聲明，并通過多家媒體反復(fù)強調(diào)“這是用戶錯誤”——具體系訪問權(quán)限（IAM角色）配置不當，而非AI錯誤；同時稱事件影響“極為有限”，未波及核心計算、存儲、數(shù)據(jù)庫或AI服務(wù)，也未收到客戶投訴。

事件曝光后，科技圈在社交平臺掀起“玩?！睙岢?，同時也再次將“Agentic AI（代理式AI）”在生產(chǎn)環(huán)境中的安全風險推至聚光燈下。

“當平臺提供具備高度自主性的Agentic AI時，應(yīng)承擔安全設(shè)計與風險提示義務(wù)。試圖僅以用戶配置失誤來豁免技術(shù)提供方責任，忽視了平臺作為服務(wù)提供者在風險預(yù)防中的主體作用。”中國政法大學教授、聯(lián)合國高級人工智能咨詢機構(gòu)專家、《人工智能法（學者建議稿）》起草專家組牽頭專家張凌寒在接受《中國經(jīng)營報》記者采訪時指出，從法學和治理角度看，平臺將責任完全歸于“用戶錯誤”，難以完全站得住腳。

“媒體或許可以用‘核彈安全決策’作為例子，提示預(yù)防這類風險的重要性。”曾供職于某國內(nèi)頂級安全機構(gòu)的前官員王安（化名）向記者表示，在當前激烈的AI競爭壓力下，“幾乎可以斷言，還會有下一次類似事件，甚至可能導致更具災(zāi)難性的后果。”

類似事件已非首次

據(jù)《金融時報》援引四名知情人士（包括AWS高級員工）消息，AWS工程師曾要求Kiro對系統(tǒng)進行優(yōu)化，后者評估后直接執(zhí)行了“刪除并重建”操作。而按照正常流程，Kiro需要經(jīng)過兩人審批才能推送變更；涉事工程師疑似賦予其過于寬泛的權(quán)限，導致其繞過審批并直接執(zhí)行。

事件曝光后，社交媒體上迅速出現(xiàn)大量刷屏熱梗。更有知名科技博主稱，此事暴露了“Agentic AI在生產(chǎn)環(huán)境中的真實風險——我們正在以極快速度積累技術(shù)債務(wù)”。中文社區(qū)則戲稱：“自家AI刪庫跑路，亞馬遜也太真實了”“以后誰再吹A(chǔ)gentic AI無敵，我就甩這個鏈接”。

亞馬遜在聲明中表示，Kiro默認會請求授權(quán)，此次系工程師權(quán)限配置問題，并已緊急要求生產(chǎn)環(huán)境變更增加同行評審等防護措施，同時堅持沿用已運行20余年的“Correction of Error”流程進行復(fù)盤和改進。

不過，多名云架構(gòu)師在社交平臺公開表示，Kiro的邏輯未必“出錯”——它確實是在追求理論最優(yōu)解，只是這種極致效率與人類對“安全平穩(wěn)”的預(yù)期發(fā)生了劇烈沖突。有安全研究員指出，傳統(tǒng)人工錯誤通常存在“慢慢打字、逐步發(fā)現(xiàn)不對”的緩沖過程，而AI則可能“一鍵自信執(zhí)行”，其風險性質(zhì)并不相同。

據(jù)媒體報道，除上述13小時宕機事件外，亞馬遜在2025年下半年還曾發(fā)生一起類似事件，涉及其另一個AI工具（疑似Amazon Q Developer）。AWS員工私下表示，該起事件“規(guī)模雖小但完全可預(yù)見”，原因疑似同樣與工程師對AI工具授權(quán)不當有關(guān)。

記者注意到，不少科技人士公開發(fā)聲，將亞馬遜本次事件與2025年7月出現(xiàn)的Replit AI“刪庫”事件相關(guān)聯(lián)——SaaStr創(chuàng)始人Jason Lemkin在使用Replit的“vibe coding”（氛圍編碼）AI代理進行實驗時，盡管已明確設(shè)置代碼凍結(jié)（code freeze）和“未經(jīng)明確許可不得修改”的指令，但AI仍在第9天自主運行破壞性命令，完全刪除了實時生產(chǎn)數(shù)據(jù)庫。

上述事件直接導致數(shù)據(jù)庫內(nèi)1200多名高管和1190多家公司的真實業(yè)務(wù)數(shù)據(jù)瞬間丟失，成為當年最具影響力的“AI刪庫”事件之一。更為離奇的是，事件發(fā)生后，AI為掩蓋錯誤，還偽造了4000多名虛假用戶記錄和測試結(jié)果，并謊稱“無法回滾”，延誤了恢復(fù)進程。

業(yè)界認為，兩起事件幾乎互為翻版：AI被賦予生產(chǎn)環(huán)境權(quán)限后，在追求“最優(yōu)解”的過程中造成破壞——“權(quán)限配置不當+缺乏熔斷機制”，是事件發(fā)生的共同根源。

應(yīng)構(gòu)建動態(tài)立體安全閉環(huán)

張凌寒分析稱，Kiro與傳統(tǒng)工具（如Copilot）的本質(zhì)區(qū)別在于：傳統(tǒng)工具多停留在建議層面，代碼是否采納高度依賴人類開發(fā)者確認；而Kiro可以在較少人工輸入的情況下自動執(zhí)行復(fù)雜業(yè)務(wù)流程。進入生產(chǎn)環(huán)境后，其最大風險點恰恰在于“權(quán)限過大、缺乏監(jiān)督”：當工具被賦予寬泛系統(tǒng)權(quán)限且缺少自動化熔斷機制時，微小的算法偏差會被迅速放大。

張凌寒強調(diào)，從算法治理角度看，平臺在推廣自主AI工具時，應(yīng)承擔更重的“安全設(shè)計義務(wù)”和“結(jié)果責任”。

“隨著AI自主性的增強，傳統(tǒng)‘避風港’原則的適用空間正在收縮。如果平臺明知產(chǎn)品將用于復(fù)雜云原生環(huán)境，卻未內(nèi)置防錯機制和高危攔截提示，僅靠免責條款轉(zhuǎn)移風險，存在較大爭議?！睆埩韬J為，更為務(wù)實的路徑是采用“過錯責任”思路，重點考察平臺是否盡到與技術(shù)風險相匹配的合理注意義務(wù)。

結(jié)合其主持起草的《人工智能法（學者建議稿）》及聯(lián)合國相關(guān)工作，張凌寒提出，AI系統(tǒng)介入互聯(lián)網(wǎng)基礎(chǔ)性服務(wù)（如云基礎(chǔ)設(shè)施、關(guān)鍵信息基礎(chǔ)設(shè)施等）時，必須堅守多項協(xié)同安全原則——因為Agentic AI的執(zhí)行速度已遠超人類實時理解能力，傳統(tǒng)Code Review幾近失效。

王安向記者指出，即使在國際前沿機構(gòu)和公司中，優(yōu)秀人工編程團隊的差錯也無法完全避免。“只能說盡可能降低差錯占比，但無法徹底消除。人工智能雖然被認為有希望‘進化’得更優(yōu)秀，但當人類理解能力無法跟上其編程速度時，如何確保安全、最終決策權(quán)應(yīng)如何配置，仍是關(guān)鍵問題?！?/p>

“這就像那個經(jīng)典的‘核彈安全決策’故事：當計算機系統(tǒng)告訴你，敵國核彈來襲，你怎么辦？如果你信任系統(tǒng)預(yù)警，按下按鈕實施反擊，但事實上并無核彈來襲，那么發(fā)動戰(zhàn)爭的就是你；但如果來襲屬實，你沒有做出反應(yīng)，同樣會造成巨大災(zāi)難。之所以難以抉擇，往往在于人類是否有能力迅速理解機器的決策過程，并核實機器判斷?！蓖醢舱J為，盡管這個故事并不完全恰當，但在當前巨大的AI競爭壓力下，人類可能正以激進方式讓AI介入更多領(lǐng)域，因此有必要建立更廣泛、更高層級的防范機制。

“差距在工程化護欄”

“在安全護欄建設(shè)方面，我國企業(yè)在底層大模型對齊和工程化沙箱隔離技術(shù)方面仍有提升空間，但優(yōu)勢在于國內(nèi)已形成相對完善的數(shù)據(jù)與網(wǎng)絡(luò)安全法律規(guī)范體系，能夠較快將原則性約束轉(zhuǎn)化為企業(yè)合規(guī)實踐?！睆埩韬J為。

在制度設(shè)計上，現(xiàn)行《中華人民共和國網(wǎng)絡(luò)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護條例》以及《人工智能科技倫理管理服務(wù)辦法（試行）（征求意見稿）》等，已將“可控可信”“責任可追溯”列為重點。

“預(yù)防權(quán)限失控引發(fā)的系統(tǒng)性風險，應(yīng)當在現(xiàn)有網(wǎng)絡(luò)安全法律與科技倫理監(jiān)管框架下協(xié)同落實。最新《人工智能科技倫理管理服務(wù)辦法（試行）（征求意見稿）》中，已明確將‘可控可信’和‘責任可追溯’列為審查重點。我國目前的政策思路傾向于依托科技倫理審查體系實現(xiàn)實質(zhì)上的分級準入，而非增設(shè)全新的AI許可證。例如，‘面向存在安全、人身健康風險等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)’已被明確納入專家復(fù)核范圍，這本質(zhì)上構(gòu)成了對高風險智能體的強制審計機制。同時，現(xiàn)行制度設(shè)計注重監(jiān)管銜接，已履行備案或行政審批等監(jiān)管措施的項目可免于重復(fù)復(fù)核?！睆埩韬榻B稱。

考慮到AI系統(tǒng)性風險具有溢出效應(yīng)，張凌寒認為，單純依靠國內(nèi)規(guī)則難以應(yīng)對全球性挑戰(zhàn)?！拔覀儜?yīng)積極參與聯(lián)合國及相關(guān)國際標準化組織的規(guī)則制定，推動國際共識形成與規(guī)則對接，以制度合力引導技術(shù)在全球范圍內(nèi)向善發(fā)展?！?/p>

值得一提的是，在一些程序員聚集的社交平臺上，網(wǎng)友已從初期“造?！眾蕵分饾u轉(zhuǎn)向相對嚴肅的技術(shù)與治理討論。比如，有人總結(jié)出“10種AI Agent摧毀系統(tǒng)”的模式（包括無限循環(huán)調(diào)用API、誤刪數(shù)據(jù)庫、越權(quán)操作等），也有人進一步分析了此前涉AI工具宕機事件的具體原因。

而就在幾天前，Claude Code創(chuàng)始人Boris Cherny表示：“我們將開始看到‘軟件工程師’這個頭銜逐漸消失?！彼Q，自己已經(jīng)不再手寫任何一行代碼。他同時透露，自Claude Code推出以來，Anthropic的人均工程產(chǎn)出整體提升了150%。

（編輯：張靖超 審核：李正豪 校對：翟軍）