文/中國信息通信研究院院長余曉暉

4月9日的《人民日報》發(fā)表中國信息通信研究院院長余曉暉的文章——《以有效治理保障人工智能健康有序發(fā)展》，文章指出 ， 當前，人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性力量，正在深刻重構(gòu)全球創(chuàng)新版圖、發(fā)展范式與人類生產(chǎn)生活方式，同時其廣泛應(yīng)用也帶來一系列風險挑戰(zhàn)。習近平總書記高度重視人工智能治理，強調(diào)“要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準則，構(gòu)建技術(shù)監(jiān)測、風險預(yù)警、應(yīng)急響應(yīng)體系”“形成具有廣泛共識的人工智能治理框架和標準規(guī)范，不 斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性”等，系統(tǒng)回答了新時代為什么要加強人工智能治理、怎樣加強人工智能治理等一系列具有全局性、前瞻性、戰(zhàn)略性的重大理論和實踐問題，為確保我國人工智能始終沿著有益、安全、公平方向發(fā)展提供了根本遵循。

新形勢下加強人工智能治理具有重要意義

面對人工智能技術(shù)加速迭代、應(yīng)用深度滲透、風險復(fù)雜交織的新形勢，準確把握人工智能發(fā)展趨勢和規(guī)律，加強人工智能治理，才能切實推動我國人工智能健康有序發(fā)展。

事關(guān)抓住新一輪科技革命和產(chǎn)業(yè)變革戰(zhàn)略主動權(quán)。習近平總書記指出：“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量”。當前，人工智能技術(shù)創(chuàng)新進入密集活躍期，產(chǎn)業(yè)化進程加快，為贏得未來發(fā)展先機創(chuàng)造了有利條件。世界主要大國均在布局加快人工智能發(fā)展，催生智能體、無人駕駛、具身智能、智能穿戴等新領(lǐng)域新賽道，成為改變商業(yè)格局、重塑世界經(jīng)濟的新場域。加強人工智能治理，構(gòu)建穩(wěn)定、透明、可預(yù)期的治理環(huán)境，能夠為企業(yè)、科研單位等提供明確規(guī)則指引，使其敢于投入、安心創(chuàng)新，進而最大程度激發(fā)創(chuàng)新潛能，提升國家創(chuàng)新體系整體效能，進一步夯實我國人工智能技術(shù)與產(chǎn)業(yè)發(fā)展的根基，并在這場科技競賽中牢牢把握戰(zhàn)略主動。

事關(guān)推動我國經(jīng)濟社會高質(zhì)量發(fā)展。習近平總書記強調(diào)：“我們要深入把握新一代人工智能發(fā)展的特點，加強人工智能和產(chǎn)業(yè)發(fā)展融合，為高質(zhì)量發(fā)展提供新動能�！比斯ぶ悄茏鳛榘l(fā)展新質(zhì)生產(chǎn)力的重要推動力，是推動產(chǎn)業(yè)智能化升級、培育經(jīng)濟新增長點的關(guān)鍵動能。截至2025年底，我國人工智能企業(yè)超過6000家，形成了從基礎(chǔ)底座、模型框架到行業(yè)應(yīng)用的完整產(chǎn)業(yè)體系。一批國產(chǎn)大模型通過開源戰(zhàn)略引領(lǐng)全球生態(tài)，推動人工智能從少數(shù)企業(yè)的尖端科技轉(zhuǎn)變?yōu)榍邪贅I(yè)可便捷調(diào)用的普惠性工具，為我國發(fā)揮超大規(guī)模市場與完整產(chǎn)業(yè)體系優(yōu)勢、實現(xiàn)換道超車奠定了獨特生態(tài)基礎(chǔ)。根據(jù)有關(guān)測試，我國的大語言模型基礎(chǔ)能力與美國都居全球前列，模型復(fù)雜推理能力與美國的差距顯著縮小，視頻生成模型能力持續(xù)領(lǐng)先。在此背景下，探索科學有效的人工智能治理路徑，能夠更好防范風險，營造穩(wěn)定的政策環(huán)境與發(fā)展預(yù)期，構(gòu)建公平公正、健康有序、富有活力的產(chǎn)業(yè)生態(tài)，讓人工智能真正成為驅(qū)動經(jīng)濟提質(zhì)增效、社會全面進步的強大引擎。

事關(guān)維護國家安全和社會穩(wěn)定。習近平總書記指出：“完善人工智能監(jiān)管體制機制，牢牢掌握人工智能發(fā)展和治理主動權(quán)。”當前，人工智能安全風險日益凸顯，呈現(xiàn)復(fù)雜性、系統(tǒng)性和泛在化特征。一方面，技術(shù)發(fā)展伴生安全風險，人工智能大模型的內(nèi)在特性增加了安全可控的難度與復(fù)雜性。與傳統(tǒng)網(wǎng)絡(luò)安全相比，人工智能安全領(lǐng)域的攻防非對稱性加劇，技術(shù)安全面臨“易攻難守”新形勢。另一方面，應(yīng)用延展衍生安全新難題。人工智能大模型的廣泛應(yīng)用既帶來應(yīng)用形態(tài)迭代、開源生態(tài)濫用、軟件供應(yīng)鏈漏洞等外部性安全難題，也引發(fā)個人、群體、社會多層面次生風險。例如，人工智能擬人化互動服務(wù)誘導(dǎo)情感過度依賴現(xiàn)象高發(fā)，智能體任務(wù)失控及安全問題初顯。因此，加強人工智能治理是貫徹落實總體國家安全觀的內(nèi)在要求，必須建立健全覆蓋從技術(shù)研發(fā)、產(chǎn)品應(yīng)用到社會影響全鏈條的風險防控體系，確保人工智能始終被用于維護國家利益和人民福祉。

事關(guān)構(gòu)建人類命運共同體。習近平總書記指出：“人工智能應(yīng)該是造福全人類的國際公共產(chǎn)品”“推動各方加強發(fā)展戰(zhàn)略、治理規(guī)則、技術(shù)標準的對接協(xié)調(diào)，早日形成具有廣泛共識的全球治理框架和標準規(guī)范”。當前，人工智能發(fā)展處于技術(shù)躍遷、應(yīng)用爆發(fā)、治理探索的關(guān)鍵窗口期，地緣政治動蕩和逆全球化思潮，嚴重影響全球協(xié)作和可持續(xù)發(fā)展。加快推動我國人工智能治理理論創(chuàng)新、制度創(chuàng)新、實踐創(chuàng)新，主動提出蘊含中國智慧、符合世界各國共同利益的治理方案，有助于構(gòu)建一個更加公平、合理、包容、共享的全球人工智能治理體系，反對以意識形態(tài)劃線或構(gòu)筑“小院高墻”，防止全球人工智能治理的碎片化和陣營化，展現(xiàn)負責任大國擔當，推動構(gòu)建人類命運共同體。

加強人工智能治理需要把握若干基本原則

有效的治理必須以科學理念和清晰的原則作為指導(dǎo)。加強人工智能治理，要以習近平總書記關(guān)于人工智能治理的重要論述為指引，準確把握以下基本原則。

確立智能向善的價值取向。加強人工智能治理，應(yīng)確保技術(shù)發(fā)展的最終目的是增進人類福祉、推動人的全面發(fā)展，實現(xiàn)智能向善。增進人類福祉，就是以人民群眾獲得感、幸福感、安全感為衡量標準，保障各個社會群體智能服務(wù)可及性，加速彌合“數(shù)字鴻溝”；推動人的全面發(fā)展，就是要保證人的主體性永遠在場，讓人工智能成為拓展人類認知邊界和行動能力的“放大器”。只有將以人為本、智能向善作為人工智能治理的價值取向，才能確保技術(shù)進步不偏離人類價值坐標，使人工智能真正成為服務(wù)人民、造福社會的強大正能量。

貫徹統(tǒng)籌兼顧的系統(tǒng)思維。人工智能發(fā)展和安全具有高度內(nèi)在一致性。從發(fā)展看，人工智能既是事關(guān)國家競爭力和國家安全的戰(zhàn)略性技術(shù)，也是推動生產(chǎn)力躍遷的關(guān)鍵通用技術(shù)，不發(fā)展就難以在激烈的國際競爭中占領(lǐng)先機、贏得優(yōu)勢；從安全看，我國人工智能發(fā)展中面臨的風險觸點多、傳導(dǎo)快，各類風險跨界性、關(guān)聯(lián)性、穿透性較強，堅守安全底線才能在技術(shù)變革浪潮中行穩(wěn)致遠。處理好發(fā)展和安全動態(tài)依存的關(guān)系，必須牢牢掌握人工智能發(fā)展和治理主動權(quán)，以前瞻性統(tǒng)籌、整體性謀劃、系統(tǒng)性布局，主動構(gòu)建動態(tài)適配技術(shù)快速演進的治理框架，在可控邊界內(nèi)釋放創(chuàng)新活力。

夯實良法善治的制度根基。加強人工智能依法治理是堅持在法治軌道上全面建設(shè)社會主義現(xiàn)代化國家的時代要求，能夠更好為人工智能發(fā)展提供制度保障。從原則要求看，加強人工智能依法治理既要適應(yīng)生產(chǎn)力進步所帶來的新需求，也要回應(yīng)技術(shù)產(chǎn)業(yè)發(fā)展伴生的新問題，進而實現(xiàn)以良法善治保障新業(yè)態(tài)新模式健康發(fā)展。從實踐路徑看，加強人工智能依法治理，需要把握人工智能發(fā)展趨勢和規(guī)律，建設(shè)涵蓋高中低位階的法律法規(guī)、監(jiān)管政策、技術(shù)標準等制度體系，明確數(shù)據(jù)、知識產(chǎn)權(quán)、開源模型等相關(guān)權(quán)責邊界，統(tǒng)籌推進立法執(zhí)法司法普法工作，真正做到科技發(fā)展到哪里、法治建設(shè)就跟進到哪里。

創(chuàng)新敏捷動態(tài)的治理模式。應(yīng)將包容普惠導(dǎo)向貫穿人工智能治理全過程，推動算力、算法、數(shù)據(jù)等核心資源開放共享，降低技術(shù)應(yīng)用門檻；支持開源社區(qū)建設(shè)和公共數(shù)據(jù)集開放，促進知識擴散與技術(shù)擴散；保障各社會群體在智能時代的平等參與權(quán)與發(fā)展權(quán)，讓人工智能發(fā)展成果更好惠及全體人民。針對人工智能應(yīng)用的復(fù)雜性與不確定性，加快建立與技術(shù)演進相匹配的治理機制，探索“沙盒監(jiān)管”、觸發(fā)式監(jiān)管等新型監(jiān)管方式，降低制度性成本，為處于初創(chuàng)期、成長期的人工智能技術(shù)和應(yīng)用建立必要的容錯糾錯機制，為市場提供穩(wěn)定預(yù)期。

多維協(xié)同推進人工智能治理加速落地

理論的科學性最終要體現(xiàn)為實踐指導(dǎo)力。貫徹落實習近平總書記關(guān)于人工智能治理的重要論述精神，應(yīng)運用系統(tǒng)思維，構(gòu)建覆蓋人工智能研發(fā)、部署、應(yīng)用與影響全鏈條的人工智能治理體系。

夯實數(shù)據(jù)治理基礎(chǔ)。數(shù)據(jù)是人工智能發(fā)展的核心要素與戰(zhàn)略資源，其質(zhì)量、規(guī)模與治理水平直接決定了人工智能發(fā)展的深度與廣度。加強數(shù)據(jù)治理，旨在突破數(shù)據(jù)要素化進程中的關(guān)鍵瓶頸，構(gòu)建從原始數(shù)據(jù)到智能價值的安全可信通道。我國數(shù)據(jù)資源規(guī)模龐大、應(yīng)用場景豐富，為人工智能發(fā)展提供了獨特優(yōu)勢，但數(shù)據(jù)治理仍面臨挑戰(zhàn)，如數(shù)據(jù)基礎(chǔ)質(zhì)量與供給效率有待提升、數(shù)據(jù)安全威脅持續(xù)演進、生成式技術(shù)濫用導(dǎo)致數(shù)據(jù)生態(tài)污染等。為此，要創(chuàng)新數(shù)據(jù)要素市場化配置機制與生態(tài)，建立數(shù)據(jù)產(chǎn)權(quán)結(jié)構(gòu)性分置制度；開展常態(tài)化的數(shù)據(jù)安全風險評估，對各類數(shù)據(jù)來源開展合規(guī)性審查，提升訓練數(shù)據(jù)清洗效能；通過分場景、分層級、分應(yīng)用進行數(shù)據(jù)管控，建立數(shù)據(jù)溯源體系，積極回應(yīng)端云協(xié)同等新技術(shù)形態(tài)下用戶數(shù)據(jù)保護難題，夯實人工智能發(fā)展的數(shù)據(jù)根基。

提升模型治理效能。人工智能大模型已成為智能系統(tǒng)的核心載體與能力中樞。模型自身的可靠性、安全性與價值觀等，直接決定了立基于其上所有應(yīng)用的品質(zhì)與安全。因此，模型治理是人工智能治理體系中的關(guān)鍵環(huán)節(jié)。當前，模型安全面臨新挑戰(zhàn)，一是模型復(fù)雜度躍升，新型攻擊手段難防御，補丁式防護思路不適用；二是模型風險識別難度高，一些風險指標難量化；三是隨著智能體自主性的增強，其對物理世界和數(shù)字空間的運行秩序構(gòu)成潛在威脅。我國已出臺《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標識辦法》等文件，推動算法備案、大模型安全評估、內(nèi)容標識等治理手段取得積極成效。下一步，應(yīng)構(gòu)建制度建設(shè)與技術(shù)創(chuàng)新并重、風險防控與應(yīng)用賦能協(xié)同的模型治理體系。一方面，加強模型安全能力建設(shè)。可加強人工智能測試驗證平臺建設(shè)，支持第三方審計、評估、認證機構(gòu)發(fā)展，提供模型測試驗證、供需對接、內(nèi)容標識檢測等服務(wù)，落地模型對抗安全、后門安全、可解釋性等檢測能力，推進加固工具等技術(shù)開發(fā)共享。另一方面，可構(gòu)建多主體協(xié)同聯(lián)動的模型風險預(yù)警與應(yīng)對機制。探索推動監(jiān)管結(jié)果互認，統(tǒng)一監(jiān)管要求與執(zhí)行標準；推動企業(yè)定期報送風險階段性評估報告，建立完善內(nèi)部監(jiān)測與預(yù)警機制；充分發(fā)揮行業(yè)組織的協(xié)調(diào)作用，加強對行業(yè)企業(yè)發(fā)展態(tài)勢跟蹤監(jiān)測和合規(guī)評估。

優(yōu)化應(yīng)用治理生態(tài)。隨著“人工智能+”行動縱深推進，人工智能正加速從“能思考”向“能實干”轉(zhuǎn)變，應(yīng)用場景持續(xù)擴大。這在解放和發(fā)展生產(chǎn)力的同時，也導(dǎo)致技術(shù)應(yīng)用呈現(xiàn)跨域融合與系統(tǒng)性外溢特征，風險從虛擬數(shù)字空間向物理實體空間、倫理價值范疇等不斷擴展和深化。優(yōu)化人工智能應(yīng)用治理生態(tài)，應(yīng)確立場景化、精細化的治理導(dǎo)向，摒棄“一刀切”的監(jiān)管模式，針對不同應(yīng)用領(lǐng)域、具體應(yīng)用場景實施科學的分級分類管理；著力厘清人機協(xié)作新形態(tài)下的權(quán)責邊界，確保在關(guān)鍵決策節(jié)點上人類始終掌握最終的價值判斷權(quán)與控制權(quán)，切實防范技術(shù)失控可能帶來的實質(zhì)性傷害；致力于維護公平競爭的市場秩序，營造開放包容的創(chuàng)新環(huán)境，推動算力、模型、數(shù)據(jù)等核心要素開放共享，從而實現(xiàn)人工智能紅利的廣泛覆蓋與社會公平。

細化倫理治理要求。人工智能的倫理治理，不僅是技術(shù)規(guī)則的制定，更是價值秩序的構(gòu)建。從全球來看，關(guān)于算法公平、數(shù)據(jù)隱私、機器責任的討論大都深植于各國的歷史文化傳統(tǒng)之中。中華優(yōu)秀傳統(tǒng)文化中蘊含的“民為邦本”思想、“厚德載物”精神、“天人合一”理念、“執(zhí)兩用中”方法等，為我們構(gòu)建以人為本、智能向善的倫理框架提供了深厚文化根基。將中華優(yōu)秀傳統(tǒng)文化融入人工智能倫理治理，是形成中國特色治理范式、為全球貢獻中國方案的關(guān)鍵路徑。應(yīng)著力構(gòu)建人工智能倫理治理的文化內(nèi)核，系統(tǒng)挖掘中華優(yōu)秀傳統(tǒng)文化資源，形成一套與社會主義核心價值觀相契合的人工智能倫理規(guī)則體系，推動研究機構(gòu)、企業(yè)等將文化倫理理念轉(zhuǎn)化為具體的技術(shù)標準與評估工具，并以多種形式前置到產(chǎn)品開發(fā)流程中。

強化全球治理協(xié)同。人工智能治理關(guān)乎全人類命運，是世界各國面臨的共同課題。近年來，受地緣政治、文化傳統(tǒng)、體制差異等影響，全球人工智能治理導(dǎo)向發(fā)生深刻分化。特別是個別國家采取去監(jiān)管化、去多邊化、出口管制等策略，將人工智能視為大國競爭的戰(zhàn)略工具而非共同治理對象，極大削弱了全球人工智能治理的協(xié)調(diào)性。為此，必須積極落實《全球人工智能治理倡議》，構(gòu)建開放、公正、有效的治理機制，從對人類文明進步負責的高度，加快形成具有廣泛包容性的人工智能治理框架。堅定維護聯(lián)合國在國際治理中的作用，在充分尊重各國國家主權(quán)、法律體系及文化傳統(tǒng)的基礎(chǔ)上，形成具有廣泛共識的國際治理框架和標準規(guī)范。堅決反對以意識形態(tài)劃線或構(gòu)建排他性集團，惡意阻撓他國人工智能發(fā)展。倡導(dǎo)并踐行真正的多邊主義，通過多種方式支持發(fā)展中國家提升人工智能研發(fā)與應(yīng)用能力，確保不同地區(qū)、不同群體公平地獲取和受益于人工智能技術(shù)。

來源丨人民日報

編輯 | 丁開艷

審核丨秦婷

責編 | 蘭銀帆

Review of Past Articles -

01

02