來源：科技日報

記者：劉霞

英國《自然》網(wǎng)站12月10日發(fā)表社論指出，近年來，圍繞人工智能（AI）技術(shù)的研發(fā)與應(yīng)用，全球各類智庫、組織及團(tuán)體展開了廣泛對話，發(fā)布了大量白皮書并提出諸多建議。然而，在將這些規(guī)則轉(zhuǎn)化為全球共識，以最大化AI效益并降低其風(fēng)險的過程中，全球領(lǐng)導(dǎo)力卻顯不足。中國正致力于改變這一局面。

圖片來源：攝圖網(wǎng)

中國倡議成立一個全球性的AI協(xié)調(diào)機(jī)構(gòu)——世界AI合作組織。社論認(rèn)為，建立此類機(jī)構(gòu)符合各國共同利益，世界各國政府均應(yīng)積極參與。

AI風(fēng)險需要警惕

AI模型具有驚人的能力，既能推動科學(xué)進(jìn)步，亦可促進(jìn)經(jīng)濟(jì)增長。然而，由于其對世界的理解尚不完整，這些模型可能以不可預(yù)測的方式出錯，并通過加劇不平等、助長犯罪、傳播錯誤與虛假信息等方式造成傷害。有知名學(xué)者甚至認(rèn)為，未來可能出現(xiàn)的“超智能AI”——即在所有任務(wù)上超越人類最高水平的AI系統(tǒng)，可能對人類存續(xù)構(gòu)成威脅。

然而，在目前快速發(fā)展的AI競爭中，這些風(fēng)險尚未得到足夠重視。美國雖擁有部分最強(qiáng)大、應(yīng)用最廣泛的AI模型，卻缺乏國家層面的統(tǒng)一監(jiān)管機(jī)構(gòu)與法律，僅依賴各州零散立法?？傮w而言，美國仍期待企業(yè)通過自我監(jiān)管建立內(nèi)部防線。

不過，總部位于美國加州的“未來生命研究所”于12月3日發(fā)布了針對大型科技公司安全與風(fēng)險政策的最新評估報告——《AI安全指數(shù)》。在該評分體系（A—F級）中，沒有一家美國公司獲得高于C+的評分。

歐盟去年提出的《AI法案》要求最強(qiáng)AI系統(tǒng)的制造商加強(qiáng)對模型風(fēng)險的評估。該法案正分階段實(shí)施，但對違規(guī)行為處以高額罰款的威懾效果尚未顯現(xiàn)。據(jù)報道，企業(yè)界正持續(xù)向歐盟施壓，要求放寬相關(guān)限制。

中國倡議值得重視

社論指出，中國選擇了一條不同的路徑。中國政府在積極推動AI融入社會各領(lǐng)域——從地方政務(wù)聊天機(jī)器人到提升生產(chǎn)效率的工廠機(jī)器人，同時也通過監(jiān)管機(jī)構(gòu)要求AI輸出具備可追溯性，并落實(shí)企業(yè)主體責(zé)任。

自2022年起，中國已出臺一系列法律法規(guī)與技術(shù)標(biāo)準(zhǔn)，要求開發(fā)者在部署生成式AI模型前接受安全評估，并在生成內(nèi)容中嵌入顯著且不可去除的標(biāo)識，以防止欺詐與虛假信息傳播。這一進(jìn)程正在加速：據(jù)北京協(xié)和人工智能咨詢公司統(tǒng)計(jì)，僅2025年上半年，中國發(fā)布的國家級AI相關(guān)要求數(shù)量已接近過去3年之和。

理解中國在AI領(lǐng)域的標(biāo)準(zhǔn)對國際社會日益重要。中國企業(yè)提供的免費(fèi)或低成本“開源”模型，正促使全球越來越多的公司基于中國AI技術(shù)構(gòu)建服務(wù)。與此同時，中國研究人員也正通過多邊參與，協(xié)助評估何種全球治理機(jī)制既有效又可行。

全球治理乃大勢所趨

目前全球?qū)用娴腁I監(jiān)管努力，如經(jīng)濟(jì)合作與發(fā)展組織的《AI原則》與歐盟委員會的《AI框架公約》，或因缺乏約束力，或因執(zhí)行不足而效果有限。有效的AI治理需要創(chuàng)新思路。世界AI合作組織或可借鑒維也納國際原子能機(jī)構(gòu)監(jiān)管核能的模式，以確保共同遵守協(xié)定。

《自然》社論強(qiáng)調(diào)，全球AI競賽并不能確保人類更安全或更富裕。更合理的路徑是國際社會就“何為安全”以及“如何利用AI”達(dá)成共識。中國發(fā)起成立世界AI合作組織的倡議值得歡迎，全球研究人員與相關(guān)機(jī)構(gòu)應(yīng)積極參與其中。