2025年，全球智能化浪潮風(fēng)起云涌，人工智能領(lǐng)域創(chuàng)新呈群體性突破之勢，語言大模型、多模態(tài)大模型和具身智能等領(lǐng)域日新月異，推動人工智能向更高效、強智能的方向快速發(fā)展。同時，人工智能帶來的風(fēng)險挑戰(zhàn)引發(fā)廣泛關(guān)注。國際社會需進(jìn)一步凝聚共識，確保人工智能為人類所利用、為人類所掌控，朝著向善普惠的方向發(fā)展，成為造福人類的國際公共產(chǎn)品。本期邀請4位國內(nèi)外專家，就加強人工智能全球治理分享真知灼見?！　?/p>

薛瀾（清華大學(xué)人工智能國際治理研究院院長）

　　托馬斯·葛格里（匈牙利科學(xué)院數(shù)學(xué)研究所學(xué)部委員、布達(dá)佩斯技術(shù)和經(jīng)濟大學(xué)榮譽教授）

　　安東尼·穆恩薩米（南非豪登省合作治理部首席主任）

　　英厄·馮貝勒（光輝國際中東公司高級客戶合伙人）

7月26日，觀眾在2025世界人工智能大會上參觀超聚變的計算單元。
　　 沈啟來攝（影像中國）

治理赤字

人工智能催生新的智能鴻溝，帶來多種可能產(chǎn)生全球影響的潛在風(fēng)險

　　薛瀾：人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，正在對全球經(jīng)濟社會發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。與所有人類重大科技進(jìn)步一樣，人工智能算法與模型具有普惠共益的巨大潛力，可以極大地促進(jìn)人類社會的福祉。但與此同時，人工智能的快速發(fā)展也在全球范圍內(nèi)催生新的智能鴻溝，并帶來濫用惡用、系統(tǒng)故障等多種可能產(chǎn)生全球影響的潛在風(fēng)險。如何趨利避害，在推動人工智能普惠向善的同時，加強人工智能的風(fēng)險治理，已經(jīng)成為國際公認(rèn)的治理挑戰(zhàn)。

　　盡管以聯(lián)合國為代表的國際組織，以人工智能安全峰會、二十國集團(tuán)為代表的多邊機制，以中美為首的人工智能大國，以及跨國企業(yè)、科學(xué)家共同體等多利益相關(guān)方都在積極參與和推動人工智能全球治理，但現(xiàn)有治理格局整體仍然呈現(xiàn)碎片化狀態(tài)，統(tǒng)一、有效的治理體系尚未成型。各類人工智能國際治理機制主要依賴倫理規(guī)范、價值準(zhǔn)則、行為守則、自律承諾、政策指南、監(jiān)管指引、技術(shù)標(biāo)準(zhǔn)等“軟法”，而非具有普遍約束力的國際“硬法”，也未發(fā)展出足夠豐富且能滿足不同需求的治理工具。加快構(gòu)建一個更具包容性、有效性與前瞻性的人工智能全球治理框架，已成為世界各國面臨的共同課題。

6月28日，在中國科學(xué)技術(shù)館拍攝的人工智能機器人星啟8號。
　　新華社記者 金立旺攝

　　托馬斯·葛格里：隨著數(shù)字技術(shù)的迅速發(fā)展特別是生成式人工智能的廣泛應(yīng)用，當(dāng)今社會的信息空間正從過去的被動響應(yīng)，逐步演變?yōu)榫哂凶灾餍缘慕?jīng)濟社會力量。這一轉(zhuǎn)變使人工智能深度滲透生產(chǎn)、服務(wù)、醫(yī)療、教育、政治和文化等各領(lǐng)域，不僅深刻影響人們?nèi)粘Ｉ?，也在重塑全球治理格局。加強人工智能全球治理與國際合作的重要性日益凸顯。人工智能的發(fā)展具有跨國界、跨平臺、跨產(chǎn)業(yè)等特點，一旦缺乏國際協(xié)調(diào)，各國便可能陷入“技術(shù)競速”“模型競速”等局面，容易忽略安全檢查、倫理評估與長期影響，從而加劇技術(shù)風(fēng)險。

　　英厄·馮貝勒：建立彼此信任、規(guī)則清晰和可預(yù)期的監(jiān)管環(huán)境，對人工智能健康發(fā)展至關(guān)重要。無論是參加人工智能技術(shù)相關(guān)論壇，還是與不同國家企業(yè)交流，我都能清晰感受到各方對加強人工智能治理的需求日益迫切。阿聯(lián)酋去年通過《人工智能憲章》，提出了基于倫理和可操作的人工智能治理框架。歐盟依據(jù)風(fēng)險程度將人工智能系統(tǒng)劃分為禁止、高風(fēng)險、有限風(fēng)險和最低風(fēng)險，并根據(jù)技術(shù)迭代速度建立季度更新機制。為確保人工智能真正成為有益于人類社會的國際公共產(chǎn)品，各方需要加強協(xié)作，共同構(gòu)建更加公平、有效的人工智能全球治理體系，進(jìn)一步平衡發(fā)展與責(zé)任，推動人工智能以更加安全、包容和可持續(xù)的方式服務(wù)社會。

　　安東尼·穆恩薩米：發(fā)達(dá)國家憑借歷史積累與技術(shù)優(yōu)勢在人工智能治理中掌握更多話語權(quán)，全球南方國家的聲音仍顯不足。聯(lián)合國最新報告顯示，全球人工智能治理框架已逾60個，但源自全球南方的不足1/5。以“全球人工智能伙伴關(guān)系”為例，22個創(chuàng)始成員中僅有2個來自全球南方。決策權(quán)重的嚴(yán)重失衡，導(dǎo)致許多全球南方國家特別是非洲國家難以參與核心議程設(shè)置，往往只能被動接受既有規(guī)則和框架。

今年8月，聯(lián)合國通過決議，決定設(shè)立國際人工智能科學(xué)小組和全球人工智能治理對話機制，展現(xiàn)了各國彌合智能鴻溝的積極訴求。人工智能具備非競爭性和非排他性，影響力和受益范圍跨越國界，應(yīng)該是國際公共產(chǎn)品。中國將善治邏輯引入人工智能領(lǐng)域，聚焦推動人類文明整體進(jìn)步，代表了構(gòu)建包容、健康、可持續(xù)的人工智能全球治理體系的正確方向。

　 2025世界人工智能大會暨人工智能全球治理高級別會議主會場——上海世博中心。
　　施覺攝（影像中國）

以人為本

只有把“人”放在核心位置，人工智能技術(shù)才能真正推動社會進(jìn)步

　　托馬斯·葛格里：面對層出不窮的挑戰(zhàn)，如何對人工智能主導(dǎo)的信息空間進(jìn)行系統(tǒng)性治理成為重要議題。各國研究者普遍認(rèn)為，需要建立兼具本國和全球?qū)用娴娜斯ぶ悄苤卫砜蚣?，涵蓋理念、倫理、法律等各方面，以確保信息環(huán)境安全、有序，讓人工智能朝著增進(jìn)公共利益、增進(jìn)人民福祉的方向發(fā)展。

　　中國積極提出人工智能治理的原則和思路。2019年，《人工智能北京共識》提出人工智能的研發(fā)、使用和治理應(yīng)有益于人類命運共同體構(gòu)建和社會可持續(xù)發(fā)展。近年來，中國持續(xù)推動人工智能全球治理和倫理體系建構(gòu)，強調(diào)人工智能應(yīng)堅持促發(fā)展、非歧視、以人為本，主張治理框架應(yīng)充分尊重各國不同的發(fā)展階段和文化背景。

　　安東尼·穆恩薩米：只有把“人”放在人工智能全球治理的核心位置上，人工智能技術(shù)才能真正推動社會進(jìn)步、服務(wù)人類發(fā)展。中國創(chuàng)新性地提出“堅持以人為本、智能向善”，強調(diào)人工智能治理應(yīng)符合全人類共同價值，為人工智能全球治理提供了建設(shè)性思路和全新視角?！耙匀藶楸尽笔侵袊鴤鹘y(tǒng)文化的精髓，這與倡導(dǎo)“人因他人而為人”的南非烏班圖精神有異曲同工之妙。二者均強調(diào)人是社會的基石，人與人之間相互依存、彼此成就，可以幫助人工智能全球治理從世界優(yōu)秀傳統(tǒng)文化中尋找關(guān)鍵答案和治理思路。

　　薛瀾：人工智能全球治理需要堅持“以人為本”理念、“智能向善”宗旨、“相互尊重、平等互利”原則，確保各國都享有平等發(fā)展和利用人工智能的權(quán)利。具體來看，“以人為本”是人工智能全球治理的初衷。人工智能研發(fā)與應(yīng)用的最終目的不是技術(shù)自身迭代，而是服務(wù)于增進(jìn)人類共同福祉。如果脫離這一價值錨點，人工智能的發(fā)展便可能與技術(shù)創(chuàng)新的初衷背道而馳，異化為損害人類權(quán)益的工具。

“智能向善”是契合人類共同價值的人工智能全球治理目標(biāo)。人工智能的特殊屬性使其超越了價值中立的技術(shù)工具范疇，其算法設(shè)計、數(shù)據(jù)訓(xùn)練、應(yīng)用部署等各環(huán)節(jié)都不可避免地嵌入了人類的意圖、偏見與價值判斷。堅持“智能向善”，即要求人工智能發(fā)展必須始終遵循和平、發(fā)展、公平、正義、民主、自由的全人類共同價值，為全球人工智能發(fā)展劃定了價值底線。

“相互尊重、平等互利”是實現(xiàn)人工智能治理必然的路徑選擇。只有尊重世界各國文化傳統(tǒng)、發(fā)展階段、意識形態(tài)等方面的差異，允許各國根據(jù)自身國情選擇不同的技術(shù)路徑與治理模式，才有可能實現(xiàn)人工智能全球治理的集體行動。只有堅持權(quán)利平等、機會平等、規(guī)則平等，確保各國都有平等發(fā)展和利用人工智能的權(quán)利，才能構(gòu)建一個真正包容、可持續(xù)的人工智能全球治理體系。

　　英厄·馮貝勒：在中東地區(qū)，越來越多企業(yè)和機構(gòu)就人工智能全球治理達(dá)成了共識，即要以人為中心、有利于人類福祉、堅持平等與相互尊重。阿聯(lián)酋《人工智能憲章》提出，人工智能發(fā)展應(yīng)以和諧人機關(guān)系為基礎(chǔ)，確保技術(shù)進(jìn)步服務(wù)于人類福祉。因此，“智能向善”既是理念也是操作原則，可以通過提高生產(chǎn)力、改善公共服務(wù)、創(chuàng)造就業(yè)等落到實處。鑒于人工智能生態(tài)系統(tǒng)從模型、數(shù)據(jù)、基礎(chǔ)設(shè)施和人才等均緊密互聯(lián)且跨越國界，構(gòu)建基于國際協(xié)作的治理體系顯得尤為重要。

11月14日，主題為“人工智能與機器人：共創(chuàng)可持續(xù)未來”的2025年亞太機器人世界杯總決賽在阿聯(lián)酋阿布扎比舉行。
　　本報中東中心分社 塔里克·易卜拉欣攝

協(xié)同共治

聯(lián)合國應(yīng)發(fā)揮主渠道作用，發(fā)達(dá)國家應(yīng)承擔(dān)更多治理責(zé)任，各國需深化交流合作

　　英厄·馮貝勒：人工智能治理不可能由單一國家或集團(tuán)完成，必須依靠真正的多邊合作。國際協(xié)同監(jiān)管是人工智能安全有效發(fā)展的支柱，也是確保技術(shù)紅利惠及更廣泛民眾的途徑。遵循全球共識、以風(fēng)險為尺度的差異化管控，是符合人工智能技術(shù)特性的創(chuàng)新治理思路。各國立法不必完全一致，但框架需要相互兼容。可操作的治理標(biāo)準(zhǔn)和監(jiān)管工具需要由各國政府、技術(shù)人員和學(xué)者共同探索、攜手推動、廣泛接受。各方需要加強人工智能基礎(chǔ)設(shè)施、教育與知識共享，保障各國特別是發(fā)展中國家公平獲得算力、人才與安全模型等，以讓各國都能有效參與并共同塑造人工智能的未來。

　　托馬斯·葛格里：國際協(xié)同監(jiān)管是加強人工智能全球治理的重要一環(huán)，其根本目的在于確保人工智能技術(shù)發(fā)展始終運行在符合倫理、法律及增進(jìn)人類福祉的軌道上。為實現(xiàn)這一目標(biāo)，監(jiān)管必須與更廣泛的信息空間治理緊密結(jié)合，涵蓋數(shù)據(jù)所有權(quán)、信息傳播及信息商業(yè)化等制度安排，并通過明確的指導(dǎo)方針與動態(tài)更新的技術(shù)標(biāo)準(zhǔn)，積極引導(dǎo)人工智能服務(wù)于公共利益，而非完全受地緣政治或商業(yè)因素驅(qū)動。同時，要保障科學(xué)知識的自由流通，以促進(jìn)創(chuàng)新、提升透明度和防止技術(shù)壟斷。

7月26日，與會嘉賓在2025世界人工智能大會暨人工智能全球治理高級別會議開幕式現(xiàn)場交流。
　　 王壯飛攝

國際社會必須加強合作，共同致力于就人工智能治理領(lǐng)域的倫理規(guī)則達(dá)成共識。即便是一個初步、最低限度的共同框架，也將為推動人工智能國際協(xié)同監(jiān)管與全球治理發(fā)揮重要作用。如果缺乏共識，各國可能出臺相互矛盾的規(guī)則，導(dǎo)致人工智能全球治理體系陷入碎片化。

　　安東尼·穆恩薩米：數(shù)據(jù)顯示，全球92%的人工智能研發(fā)投入集中于北美、東亞和歐洲，非洲人工智能相關(guān)專利占比不足0.5%。目前，非洲人工智能技術(shù)發(fā)展仍處于起步階段。盡管面臨數(shù)字基礎(chǔ)設(shè)施薄弱、電力供應(yīng)不穩(wěn)、人工智能人才短缺等多重挑戰(zhàn)，但非洲有全球最年輕的人口結(jié)構(gòu)和快速增長的數(shù)字經(jīng)濟潛力，可以成為人工智能全球治理體系的重要組成部分。

　　人工智能的風(fēng)險與收益都具有全球性特征，加強人工智能全球治理需要聯(lián)合國發(fā)揮主渠道作用，需要發(fā)達(dá)國家肩負(fù)更多治理責(zé)任，需要各國深化交流合作。我注意到，中國今年倡議成立全球性的人工智能協(xié)調(diào)機構(gòu)——世界人工智能合作組織。從理念引領(lǐng)到具體落實，中國推動開放共享、智能平權(quán)，不僅為人工智能全球治理貢獻(xiàn)智慧，也為彌合智能鴻溝、促進(jìn)普惠發(fā)展注入重要動能。

　　薛瀾：構(gòu)建一個公平、公正、綜合、平衡的人工智能全球治理體系，關(guān)乎全人類的共同發(fā)展。聯(lián)合國作為全球范圍內(nèi)最有能力協(xié)調(diào)不同區(qū)域性人工智能治理愿景的政府間國際組織，需進(jìn)一步發(fā)揮在人工智能全球治理中的主渠道作用，引領(lǐng)各國形成具有廣泛共識的治理框架和標(biāo)準(zhǔn)規(guī)范。國際社會應(yīng)積極支持聯(lián)合國及其專門機構(gòu)框架下的對話合作，共同協(xié)商、制定、更新在人工智能治理領(lǐng)域的倫理準(zhǔn)則和法律框架。人工智能領(lǐng)先國家在享受人工智能技術(shù)發(fā)展紅利的同時，有責(zé)任為人工智能全球治理作出更多貢獻(xiàn)。

　　中國已提出《全球人工智能治理倡議》《人工智能能力建設(shè)普惠計劃》《人工智能全球治理行動計劃》《“人工智能+”國際合作倡議》，以能力建設(shè)為抓手推進(jìn)了一系列務(wù)實合作，倡議成立世界人工智能合作組織，為加強人工智能能力建設(shè)機制化注入重要動力，也為人工智能全球治理貢獻(xiàn)了關(guān)鍵力量。全球人工智能發(fā)展需要構(gòu)建多元參與、協(xié)同共治的治理生態(tài)，形成國際組織、各國政府、企業(yè)、科研院校、民間機構(gòu)和公民個人等各主體秉持共商共建共享的理念共同參與的局面，充分發(fā)揮多利益相關(guān)方各自的治理優(yōu)勢，解決“機制復(fù)合體”造成的協(xié)調(diào)失靈甚至矛盾沖突。

?。ū緢笥浾哧惿形摹⒂睇惷?、鄭翔、管克江采訪整理，人民網(wǎng)杰勒德·阿勒費爾參與采寫）