AI這匹潛力無限的“駿馬”正馳騁向前，如何為其套上“向善”的韁繩?

文/錢學(xué)勝

復(fù)旦大學(xué)智慧城市研究中心高級(jí)研究員，《科學(xué)畫報(bào)》編委會(huì)人工智能專委會(huì)副主任委員。

人工智能（AI）正前所未有地重塑著我們的世界。從科學(xué)研究到藝術(shù)創(chuàng)作，從工業(yè)生產(chǎn)到數(shù)字娛樂，AI已深深嵌入社會(huì)生活的方方面面。然而，正如歷史上出現(xiàn)的每一項(xiàng)顛覆性的新興技術(shù)一樣，AI的機(jī)遇與風(fēng)險(xiǎn)始終并存。例如，深度偽造侵蝕著公眾信任，生成式AI引發(fā)版權(quán)歸屬之爭，等等。一系列挑戰(zhàn)考驗(yàn)著我們駕馭這一新興技術(shù)的能力，也向我們揭示了一個(gè)事實(shí)：“向善”并非是AI與生俱來的能力，其發(fā)展軌跡并不自動(dòng)導(dǎo)向增進(jìn)人類福祉的坦途。

于是，“AI向善”理念應(yīng)運(yùn)而生。它強(qiáng)調(diào)AI發(fā)展應(yīng)以造福人類為宗旨，遵循倫理準(zhǔn)則，保障安全可靠，促進(jìn)包容與可持續(xù)發(fā)展。

倫理先行

構(gòu)建全球性共識(shí)

構(gòu)建全球性共識(shí)是基礎(chǔ)性的第一步。早在AI技術(shù)席卷全球之初，一批前沿學(xué)者和從業(yè)者便開始了對(duì)AI倫理的探索。2017年，在美國阿西洛馬召開的人工智能安全會(huì)議首次提出了“有益智能”概念，系統(tǒng)性地強(qiáng)調(diào)了AI研發(fā)應(yīng)以服務(wù)人類、避免潛在危害為根本目標(biāo)，為后續(xù)的全球探討奠定了基調(diào)。

此后，國際社會(huì)圍繞AI倫理的討論日益深化。聯(lián)合國專門機(jī)構(gòu)國際電信聯(lián)盟自2017年起，在瑞士日內(nèi)瓦定期舉辦“善用人工智能（AI for Good）全球峰會(huì)”。2021年，聯(lián)合國教科文組織通過了首份關(guān)于AI倫理的全球性框架《人工智能倫理問題建議書》，確立了透明度、公平性、責(zé)任與隱私保護(hù)等十大原則。

隨著AI能力的飛速躍升，AI全球治理進(jìn)程明顯加速。2023年，英國主辦了首屆全球人工智能安全峰會(huì)并發(fā)布了《布萊切利宣言》，呼吁就AI前沿模型的安全性展開國際合作。法國通過人工智能行動(dòng)峰會(huì)，推動(dòng)在AI倫理測試與一致性評(píng)估上開展合作。2024年3月，聯(lián)合國大會(huì)通過了首個(gè)關(guān)于AI的全球決議，標(biāo)志著AI治理已成為最高級(jí)別的全球政治議程。

以上的一系列行動(dòng)清晰地勾勒出一條從學(xué)術(shù)倡議到政府共識(shí)，再到全球政治決議的演進(jìn)脈絡(luò)。在這一過程之中，“中國智慧”不容忽視。中國先后發(fā)布了一系列重要文件和倡議，系統(tǒng)性地闡述了在推動(dòng)發(fā)展、確保安全和維護(hù)公平等方面的主張，為全球AI治理貢獻(xiàn)了“中國方案”。目前，中國正在積極倡議成立世界人工智能合作組織，這也預(yù)示著一個(gè)更加開放、包容和有效的全球AI治理新時(shí)代即將到來。

技術(shù)向善

為代碼植入“價(jià)值觀”

共識(shí)原則離不開技術(shù)實(shí)踐的落地。如何在算法設(shè)計(jì)與系統(tǒng)部署中嵌入“善”的價(jià)值觀，是技術(shù)領(lǐng)域的關(guān)鍵挑戰(zhàn)。近年來，一系列旨在增強(qiáng)“智善”水平的技術(shù)方向得到了快速發(fā)展。

首先是可解釋AI。以深度學(xué)習(xí)為代表的傳統(tǒng)AI模型常因其決策過程不透明而被詬病為“黑箱”?？山忉孉I的宗旨就是打開“黑箱”，為用戶和監(jiān)管者提供模型可理解的理由。這不僅有助于技術(shù)信任的建立，也為發(fā)現(xiàn)并修正模型的潛在偏見提供了可能。

其次是AI對(duì)齊，其核心是確保AI系統(tǒng)的目標(biāo)與人類價(jià)值觀一致。這不僅僅是為了防止AI執(zhí)行有害指令，更涉及如何使AI在面對(duì)模糊或復(fù)雜情境時(shí)，能夠準(zhǔn)確理解并遵循人類社會(huì)的倫理規(guī)范與價(jià)值偏好，避免出現(xiàn)“目標(biāo)錯(cuò)位”導(dǎo)致的意外后果。

最后，“去偏見”技術(shù)旨在減少訓(xùn)練數(shù)據(jù)或模型結(jié)構(gòu)中隱含的性別、種族、年齡等既有歧視性偏差，以提升AI決策的公平性。聯(lián)邦學(xué)習(xí)、差分隱私等隱私保護(hù)計(jì)算技術(shù)，使不直接暴露原始敏感數(shù)據(jù)的模型訓(xùn)練成為可能，有效平衡了AI發(fā)展與隱私保護(hù)。這些技術(shù)共同構(gòu)成了一個(gè)“AI工具箱”， 為構(gòu)建負(fù)責(zé)任、可信賴的AI系統(tǒng)提供了可實(shí)現(xiàn)的路徑。

法規(guī)就位

從原則到實(shí)踐的“硬約束”

倫理共識(shí)與技術(shù)善意需要轉(zhuǎn)化為法律規(guī)范，才能形成有效的治理效力。近年來，世界主要經(jīng)濟(jì)體都在積極探索將AI倫理原則落地為法律實(shí)踐的路徑，形成了各具特色的監(jiān)管模式。

歐盟在2024年完成了《人工智能法案》的立法程序，將AI應(yīng)用劃分為四個(gè)不同的風(fēng)險(xiǎn)等級(jí)，并施以不同強(qiáng)度的監(jiān)管措施。這種精細(xì)化的“風(fēng)險(xiǎn)金字塔”模式，力圖在保障公民基本權(quán)利與促進(jìn)技術(shù)創(chuàng)新之間取得平衡。與歐盟的強(qiáng)監(jiān)管不同，美國選擇了以行業(yè)標(biāo)準(zhǔn)和自愿性框架為主導(dǎo)的“軟法”路徑，這種模式強(qiáng)調(diào)靈活性和創(chuàng)新激勵(lì)，但也被認(rèn)為在統(tǒng)一性和強(qiáng)制力上有所不足。

我國的AI法律法規(guī)體系建設(shè)路徑有別于歐美。從2017年《新一代人工智能發(fā)展規(guī)劃》提出建立AI法律法規(guī)、倫理規(guī)范和政策體系，到2025年《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》提出“完善人工智能法律法規(guī)、倫理準(zhǔn)則等，推進(jìn)人工智能健康發(fā)展相關(guān)立法工作”，顯現(xiàn)中國將立法與實(shí)踐協(xié)同并舉，審慎而又系統(tǒng)的推進(jìn)思路。

多元共治

凝聚社會(huì)力量的“生態(tài)系統(tǒng)”

人工智能治理不僅需要倫理的邊界、技術(shù)的框架法律的韁繩，更需要全社會(huì)各方力量的共同努力和監(jiān)督。

首先，學(xué)術(shù)機(jī)構(gòu)是推動(dòng)AI治理的主導(dǎo)力量。美國坦福大學(xué)以人為本AI研究所、我國清華大學(xué)人工智能國際治理研究院等頂尖學(xué)術(shù)機(jī)構(gòu)，始終在政策研究與國際對(duì)話中扮演積極角色，持續(xù)不斷為復(fù)雜的AI治理問題提供深刻洞見和長遠(yuǎn)解決方案。

其次，技術(shù)組織為AI技術(shù)提供方向指引。例如，電氣與電子工程師協(xié)會(huì)發(fā)起的全球自主智能系統(tǒng)倫理全球倡議，通過將抽象的倫理原則轉(zhuǎn)化為可操作、可衡量的具體技術(shù)標(biāo)準(zhǔn)，推動(dòng)AI和自主系統(tǒng)以符合倫理、以人為本方式發(fā)展，其成果深刻影響著現(xiàn)今相關(guān)技術(shù)標(biāo)準(zhǔn)的制定。

再次，開源社區(qū)也是多元共治的重要基石。這些社區(qū)推動(dòng)了模型與工具的開放與共享，使公眾得以審查復(fù)現(xiàn)和改進(jìn)算法，這不僅提升了透明度，也增加了公眾監(jiān)督可能。

從次，產(chǎn)業(yè)界的力量是不可或缺的。目前，國際主要科技公司已經(jīng)成立了前沿模型論壇、人工智能聯(lián)盟等行業(yè)組織，確保前沿AI模型的安全與負(fù)責(zé)任開發(fā)。一批中國代表性的科技企業(yè)共同參與了《人工智能安全承諾》倡議并自愿披露安全實(shí)踐成果，邁出AI自律共識(shí)向?qū)嵺`落地的關(guān)鍵一步。

最后，科普工作者、媒體與具備數(shù)字素養(yǎng)的公眾也扮演著重要角色。其通過普及AI知識(shí)、展開公共討論、監(jiān)督技術(shù)濫用，持續(xù)塑造AI發(fā)展的社會(huì)規(guī)范和價(jià)值導(dǎo)向。唯有多元主體積極參與，才能形成一個(gè)穩(wěn)健、包容且不斷適應(yīng)技術(shù)變革的AI治理生態(tài)系統(tǒng)。

從 “向善” 到 “智善”

回望推動(dòng)“AI向善”的全球行動(dòng)，人類已從原則共識(shí)走向技術(shù)實(shí)踐與制度創(chuàng)新，初步構(gòu)建起涵蓋倫理規(guī)范（道）、技術(shù)工具（術(shù)）、法律框架（法）與社會(huì)共治（人）的治理體系。然而，前路依然充滿挑戰(zhàn)，技術(shù)迭代與治理演進(jìn)間的“步調(diào)差”依舊顯著。

展望未來，AI的航向歸根結(jié)底取決于我們今天的選擇。國家層面是協(xié)同合作還是封閉孤立？產(chǎn)業(yè)層面是開放包容還是巨頭壟斷？對(duì)身處其中的每一位個(gè)體而言，應(yīng)持續(xù)提升AI素養(yǎng)，讓每一次與AI的交互都成為推動(dòng)向善的微小力量，共同推動(dòng)AI最終抵達(dá)“智善”境界——這不僅關(guān)乎AI， 更關(guān)乎我們智能時(shí)代的未來。

點(diǎn)擊圖片訂閱

2026年《科學(xué)畫報(bào)》