價值對齊作為人工智能技術與人類社會交互的核心接口，其風險不僅源于技術實現(xiàn)的缺陷，更在于它深度參與了社會價值秩序的重構，任何細微的技術偏差都可能通過廣泛的應用場景被放大，對社會公平、文化多樣性乃至數(shù)字主權產生深遠影響。因此，將價值對齊作為技術風險治理的對象，并非否定其在保障人工智能安全中的積極意義，而是要打破對“一次性對齊”的理想化認知，以更具批判性的視角審視其技術邏輯與社會影響。

原文 ：《價值對齊也應納入技術風險防控》

作者 |南京師范大學數(shù)字與人文研究中心教授 吳靜

圖片 |網絡

[前文詳見本期頭條推送]

亟需轉向“條件性技術治理”

面對價值對齊的多重風險，單一的技術治理路徑已難以應對，亟需轉向“條件性技術治理”，構建動態(tài)、多元的風險治理框架。

首先，應放棄總體性的價值對齊方案，承認價值觀的合理分歧，建立“意圖-價值-情境”的適應性耦合機制。在意圖識別層面，通過文化語境知識庫與反事實推理模型，突破表層語義匹配的局限，捕捉用戶隱性需求與文化編碼；在價值整合層面，借助聯(lián)邦學習技術構建本地子模型-全局模型的分布式架構，讓不同文化群體自主訓練價值子模型，在保障數(shù)據(jù)隱私的同時實現(xiàn)多元價值協(xié)商；在情境適應層面，采用時空圖神經網絡，實時捕捉地理空間、時間序列、社會事件對價值權重的影響，實現(xiàn)價值的動態(tài)校準。

其次，需強化數(shù)據(jù)正義、算法正義與應用正義的協(xié)同治理，筑牢智能正義的基礎。在數(shù)據(jù)層面，建立分層抽樣機制與跨區(qū)域數(shù)據(jù)共享平臺，平衡不同地區(qū)、群體的數(shù)據(jù)表征，避免“數(shù)據(jù)殖民”；在算法層面，引入群體公平性正則化損失，將基尼系數(shù)、文化多樣性指數(shù)納入優(yōu)化目標，通過對抗性測試驗證極端分布下的差異指標，建立實時差異影響儀表盤；在應用層面，設置動態(tài)校準接口，允許地方性知識對通用規(guī)則進行合規(guī)修正，如少數(shù)民族地區(qū)司法人工智能需嵌入民族習俗權重，避免量刑偏差。這種治理路徑不僅關注技術風險的事后矯正，更注重事前預防與過程監(jiān)督，將價值對齊的風險管控貫穿人工智能全生命周期。

最后，從全球視野來看，中國語境下的人工智能風險治理需兼顧數(shù)字安全與文化自主性，構建具有包容性的智能正義體系。作為人工智能發(fā)展前沿國家，我國面臨的風險已超越技術層面，演變?yōu)樗惴ㄑb置與社會治理體系的適配性問題。在技術研發(fā)中，應突破西方中心主義的價值框架，基于我國文化傳統(tǒng)與社會制度，開發(fā)符合本土需求的價值對齊模型；在國際合作中，推動建立多元參與的全球人工智能治理規(guī)則，打破技術霸權，為發(fā)展中國家提供數(shù)據(jù)與技術支持，避免價值對齊成為數(shù)字殖民的工具。唯有如此，才能在技術創(chuàng)新與風險防控之間找到動態(tài)平衡，實現(xiàn)人工智能與人類社會的共生演進。

打破對“一次性對齊”的理想化認知

人工智能價值對齊絕非單純的技術問題，其自身所攜帶的風險屬性從根源上決定了它必須被納入技術風險治理的整體框架之中，接受系統(tǒng)性、持續(xù)性的審視與規(guī)制。在人工智能技術高速迭代的當下，技術風險的演化呈現(xiàn)出高度的復雜性與不確定性，不存在任何一種一勞永逸的治理方案能夠覆蓋所有潛在風險。每一次針對價值對齊的技術干預，無論是優(yōu)化獎懲函數(shù)、更新訓練數(shù)據(jù)，還是調整模型參數(shù)，都可能在解決現(xiàn)有問題的同時意外觸發(fā)新的風險變量。為規(guī)避“對齊偽裝”而優(yōu)化的模型反饋機制，可能導致人工智能對人類意圖的過度解讀，進而在復雜情境中產生新的決策偏差；為平衡多元文化價值而引入的分布式子模型架構，若缺乏有效的協(xié)同校準機制，又可能引發(fā)不同子模型間的價值沖突，加劇系統(tǒng)輸出的不確定性。這種從治理到新風險的循環(huán)揭示了技術風險治理的本質：它不可能是一個終點明確的線性過程，而是一場需要持續(xù)動態(tài)調整的長期實踐。

價值對齊作為人工智能技術與人類社會交互的核心接口，其風險不僅源于技術實現(xiàn)的缺陷，更在于它深度參與了社會價值秩序的重構，任何細微的技術偏差都可能通過廣泛的應用場景被放大，對社會公平、文化多樣性乃至數(shù)字主權產生深遠影響。因此，將價值對齊作為技術風險治理的對象，并非否定其在保障人工智能安全中的積極意義，而是要打破對“一次性對齊”的理想化認知，以更具批判性的視角審視其技術邏輯與社會影響。這要求既要建立實時監(jiān)測與快速響應機制，通過持續(xù)的風險評估捕捉價值對齊過程中的新變量、新矛盾，又要構建多元主體參與的協(xié)商平臺，讓技術開發(fā)者、人文學者以及用戶共同參與到價值標準的界定與調整中，避免技術精英對價值話語權的壟斷。

更進一步而言，動態(tài)適應的價值對齊方案本身也應成為技術風險治理的重要組成部分。這種動態(tài)性不僅體現(xiàn)在技術層面的參數(shù)迭代與模型優(yōu)化，更體現(xiàn)在治理理念的開放與包容上，即承認人類價值觀的流動性、社會情境的復雜性，以及技術發(fā)展的不可預測性，以“風險可控”為目標，在技術創(chuàng)新與社會穩(wěn)定之間尋求動態(tài)平衡，為數(shù)字文明的可持續(xù)發(fā)展奠定堅實基礎。

文章為社會科學報“思想工坊”融媒體原創(chuàng)出品，原載于社會科學報第1984期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：程鑫云

《社會科學報》2026年征訂

點擊下方圖片網上訂報↓↓↓