要點：2025年9月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能安全治理框架》2.0版，完善風(fēng)險分類分級體系，構(gòu)建“技術(shù)—應(yīng)用—治理”三維防控矩陣，創(chuàng)新協(xié)同治理機制，配套工具包與評估體系，推動國際規(guī)則互認與協(xié)作，構(gòu)建安全可信的AI發(fā)展生態(tài)，實現(xiàn)技術(shù)普惠共享。

——來源于國家互聯(lián)網(wǎng)信息辦公室

2025年9月15日，在國家網(wǎng)絡(luò)安全宣傳周主論壇上，國家互聯(lián)網(wǎng)信息辦公室正式發(fā)布《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）。作為落實《全球人工智能治理倡議》的核心舉措，這一文件由國家互聯(lián)網(wǎng)應(yīng)急中心牽頭，聯(lián)合人工智能專業(yè)機構(gòu)、科研院所及行業(yè)企業(yè)共同制定，在2024年1.0版基礎(chǔ)上，結(jié)合技術(shù)發(fā)展與應(yīng)用實踐，完善風(fēng)險分類分級體系，動態(tài)調(diào)整治理措施，標(biāo)志著我國人工智能安全治理從“原則倡導(dǎo)”向“實操落地”邁出關(guān)鍵一步?！犊蚣堋?.0版的發(fā)布不僅為國內(nèi)AI產(chǎn)業(yè)發(fā)展劃定安全邊界，更通過跨國界、跨領(lǐng)域、跨行業(yè)的協(xié)同治理理念，為全球人工智能治理貢獻中國方案，推動技術(shù)紅利惠及全人類。

《框架》2.0版的出臺源于人工智能技術(shù)快速迭代帶來的治理新挑戰(zhàn)。過去一年，生成式AI、具身智能等技術(shù)突破催生了海量應(yīng)用場景，但同時也引發(fā)算法歧視、數(shù)據(jù)濫用、深度偽造等風(fēng)險。某互聯(lián)網(wǎng)企業(yè)AI安全負責(zé)人指出，1.0版框架側(cè)重宏觀原則，而2.0版針對“AI生成內(nèi)容標(biāo)識”“算法透明度”等具體問題提出可操作方案，例如要求聊天機器人需通過顯式標(biāo)識（文字標(biāo)注）和隱式標(biāo)識（技術(shù)水?。╇p重方式提示用戶，這一規(guī)則已在國內(nèi)主流AI產(chǎn)品中落地，用戶識別準(zhǔn)確率提升至98%。國家互聯(lián)網(wǎng)應(yīng)急中心數(shù)據(jù)顯示，2024年我國AI相關(guān)安全事件同比增長65%，其中深度偽造視頻詐騙案件占比達32%，《框架》2.0版通過“風(fēng)險分級+動態(tài)防控”機制，將AI風(fēng)險劃分為“核心風(fēng)險、重要風(fēng)險、一般風(fēng)險”三級，對應(yīng)不同治理強度，例如對涉及公共安全的核心風(fēng)險，要求企業(yè)每季度提交安全評估報告，而一般風(fēng)險可通過內(nèi)部合規(guī)審查自主防控。

在風(fēng)險分類體系上，《框架》2.0版構(gòu)建了“技術(shù)層—應(yīng)用層—治理層”三維風(fēng)險矩陣。技術(shù)層重點防控算法偏見、數(shù)據(jù)污染、模型投毒等風(fēng)險，要求訓(xùn)練數(shù)據(jù)需通過合規(guī)審查，模型發(fā)布前完成安全測試；應(yīng)用層聚焦自動駕駛、醫(yī)療診斷等高風(fēng)險場景，明確企業(yè)需建立“人類監(jiān)督機制”，例如AI輔助診療系統(tǒng)的重大決策需經(jīng)醫(yī)生復(fù)核；治理層則強化供應(yīng)鏈安全，要求AI芯片、基礎(chǔ)軟件等關(guān)鍵環(huán)節(jié)供應(yīng)商通過安全認證。某自動駕駛企業(yè)據(jù)此調(diào)整研發(fā)流程，在算法訓(xùn)練階段引入第三方機構(gòu)進行公平性測試，將性別、年齡等敏感特征導(dǎo)致的決策偏差降低至0.3%以下。值得注意的是，《框架》2.0版首次將“環(huán)境影響”納入治理范疇，要求AI企業(yè)定期披露算力中心能耗數(shù)據(jù)，鼓勵采用綠色算法優(yōu)化模型訓(xùn)練效率，某頭部科技公司通過模型壓縮技術(shù)，將大模型訓(xùn)練能耗降低40%，年減少碳排放1.2萬噸。

協(xié)同治理機制的創(chuàng)新是《框架》2.0版的鮮明特色。文件提出“政府引導(dǎo)—企業(yè)主責(zé)—社會監(jiān)督”的共治模式：政府層面建立“AI安全治理沙箱”，允許企業(yè)在可控環(huán)境中測試創(chuàng)新應(yīng)用；企業(yè)層面需設(shè)立首席AI安全官，對高風(fēng)險業(yè)務(wù)實施“雙人復(fù)核”；社會層面則鼓勵行業(yè)協(xié)會制定自律標(biāo)準(zhǔn)，目前已有120家企業(yè)簽署《AI安全自律公約》。在國際合作方面，《框架》2.0版與歐盟《人工智能法案》、聯(lián)合國《負責(zé)任的人工智能》原則實現(xiàn)部分規(guī)則互認，例如對“不可接受風(fēng)險AI系統(tǒng)”的判定標(biāo)準(zhǔn)達成共識，某跨國AI企業(yè)據(jù)此調(diào)整全球產(chǎn)品策略，在中歐市場同步滿足“訓(xùn)練數(shù)據(jù)本地化存儲”要求，合規(guī)成本降低30%。國家網(wǎng)信辦國際合作局負責(zé)人表示，《框架》2.0版將作為我國參與G20、APEC等多邊機制AI治理討論的基礎(chǔ)文件，推動建立跨國風(fēng)險預(yù)警平臺，目前已與15個國家實現(xiàn)AI安全事件信息共享，響應(yīng)效率提升50%。

為確保落地實效，《框架》2.0版配套推出“工具包+評估體系”實施支撐。工具包包含風(fēng)險評估模板、安全測試用例、合規(guī)自查清單等12類實用工具，某銀行AI風(fēng)控系統(tǒng)通過工具包完成算法透明度評估，將模型決策邏輯解釋準(zhǔn)確率從65%提升至89%；評估體系則引入“成熟度模型”，將企業(yè)AI治理能力分為“初始級、管理級、優(yōu)化級”三級，優(yōu)化級企業(yè)可享受監(jiān)管沙箱優(yōu)先試點等政策紅利，目前已有8家企業(yè)通過優(yōu)化級認證，獲得自動駕駛、智能電網(wǎng)等創(chuàng)新業(yè)務(wù)試點資格。地方層面，北京、上海等地已將AI安全治理納入智慧城市建設(shè)考核，對達標(biāo)企業(yè)給予稅收優(yōu)惠，某AI醫(yī)療企業(yè)因此節(jié)省研發(fā)投入2000萬元。

《框架》2.0版的發(fā)布正值全球人工智能治理體系加速構(gòu)建的關(guān)鍵期。與1.0版相比，2.0版的突出變化在于從“被動應(yīng)對”轉(zhuǎn)向“主動防控”，例如建立“AI安全漏洞獎勵計劃”，鼓勵白帽黑客發(fā)現(xiàn)AI系統(tǒng)漏洞，最高獎勵金額達500萬元；從“國內(nèi)治理”轉(zhuǎn)向“全球協(xié)同”，通過“一帶一路”AI治理倡議，向發(fā)展中國家提供技術(shù)培訓(xùn)和工具支持，目前已在東南亞、非洲等地區(qū)開展12期培訓(xùn)班，培養(yǎng)本土治理人才300余人。正如國家互聯(lián)網(wǎng)信息辦公室負責(zé)人在發(fā)布會上強調(diào)的，《框架》2.0版的核心目標(biāo)是“發(fā)展與安全并重”，既要為AI創(chuàng)新留足空間，又要通過制度設(shè)計防范風(fēng)險外溢，最終實現(xiàn)“技術(shù)可控、倫理合規(guī)、治理有效”的發(fā)展愿景。

隨著《框架》2.0版的實施，我國人工智能產(chǎn)業(yè)正邁向“安全中發(fā)展”的新階段。企業(yè)層面，百度、華為等頭部企業(yè)已成立AI治理委員會，將安全要求嵌入產(chǎn)品全生命周期；行業(yè)層面，生成式AI服務(wù)備案制與《框架》2.0版形成聯(lián)動，未通過安全評估的產(chǎn)品不得上線；國際層面，我國與聯(lián)合國教科文組織聯(lián)合發(fā)起“AI倫理全球倡議”，推動《框架》2.0版核心規(guī)則納入國際標(biāo)準(zhǔn)。這場以治理促發(fā)展的實踐，不僅為我國AI產(chǎn)業(yè)高質(zhì)量發(fā)展筑牢安全屏障，更通過開放包容的治理理念，推動全球人工智能技術(shù)普惠共享，讓AI真正成為造福人類的工具。

來源：國家互聯(lián)網(wǎng)信息辦公室官網(wǎng)

。。。