01

世界互聯(lián)網(wǎng)大會(huì)發(fā)布

《為人類共同福祉構(gòu)建全球人工智能安全與治理體系》報(bào)告

11月6日至9日，2025年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)在中國浙江省烏鎮(zhèn)舉辦。11月8日，世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)人工智能技術(shù)創(chuàng)新與治理論壇發(fā)布《為人類共同福祉構(gòu)建全球人工智能安全與治理體系》報(bào)告（以下簡稱《報(bào)告》。

《報(bào)告》系統(tǒng)梳理了當(dāng)前全球人工智能安全與治理體系的探索與實(shí)踐、應(yīng)解決的關(guān)鍵問題及其他領(lǐng)域的全球治理多邊實(shí)踐經(jīng)驗(yàn)；重點(diǎn)圍繞機(jī)制設(shè)計(jì)展開分析，探討如何從人類命運(yùn)共同體的理念出發(fā)，構(gòu)建具有廣泛國際共識(shí)的全球人工智能安全與治理體系。

《報(bào)告》提出，全球人工智能治理碎片化加劇，構(gòu)建完善的人工智能安全與治理體系已刻不容緩。當(dāng)前應(yīng)著力解決四個(gè)關(guān)鍵問題：一是防范應(yīng)對(duì)全球性的安全風(fēng)險(xiǎn)；二是平衡各國的發(fā)展能力水平與治理訴求差異；三是協(xié)調(diào)多利益攸關(guān)方來實(shí)現(xiàn)有力行動(dòng)；四是克服在此過程中地緣政治與意識(shí)形態(tài)帶來的障礙和干擾。為此，各方應(yīng)通過強(qiáng)化風(fēng)險(xiǎn)應(yīng)對(duì)協(xié)同機(jī)制、深化能力建設(shè)合作機(jī)制、健全履約審查與監(jiān)督機(jī)制、完善科學(xué)研判與決策機(jī)制等，整合優(yōu)化全球安全與治理資源，共同推動(dòng)構(gòu)建以聯(lián)合國為中心的，能夠確保安全、確保包容、權(quán)責(zé)明晰、協(xié)調(diào)有力、權(quán)威高效的全球人工智能安全與治理體系。

新聞來源：中國網(wǎng)信網(wǎng)、光明網(wǎng)

圖片來源：光明網(wǎng)

02

特朗普政府明確否認(rèn)

為AI企業(yè)提供擔(dān)保背書

11月8日，特朗普政府官員明確表示不會(huì)為人工智能企業(yè)提供任何形式的聯(lián)邦擔(dān)?；蚓戎嚓P(guān)選項(xiàng)未被納入政府議程。此番表態(tài)直接回應(yīng)了OpenAI首席財(cái)務(wù)官莎拉·弗里爾本周提出的建議。弗里爾此前建議政府為企業(yè)融資擔(dān)保提供背書。

白宮人工智能與加密貨幣事務(wù)負(fù)責(zé)人大衛(wèi)·薩克斯在X平臺(tái)發(fā)文，明確表示不會(huì)有聯(lián)邦層面對(duì)人工智能的救助。他解釋說，美國目前至少擁有五家主要的前沿大模型公司，市場競爭機(jī)制能夠自行調(diào)節(jié)。如果某家公司失敗，其他公司將自然填補(bǔ)其位置。

隨后，OpenAI首席執(zhí)行官薩姆·奧爾特曼作出澄清，表示OpenAI既不擁有也不尋求政府對(duì)其數(shù)據(jù)中心的擔(dān)保。

此次爭議的背景是OpenAI承諾投入約1.4萬億美元用于數(shù)據(jù)中心與芯片建設(shè)。鑒于該公司尚未實(shí)現(xiàn)盈利，如此巨額投資引發(fā)市場對(duì)AI泡沫的擔(dān)憂。

特朗普總統(tǒng)11月8日在白宮表示，他并不擔(dān)心AI泡沫問題。特朗普總統(tǒng)認(rèn)為人工智能技術(shù)將非常有幫助，代表著未來發(fā)展的浪潮，而美國正在這一領(lǐng)域引領(lǐng)世界。

盡管特朗普對(duì)AI產(chǎn)業(yè)持樂觀態(tài)度，但在當(dāng)前通脹壓力依然存在的背景下，動(dòng)用納稅人資金支持科技巨頭可能會(huì)引發(fā)選民不滿，這也成為政府拒絕提供聯(lián)邦擔(dān)保的重要考量。

新聞來源：Bloomberg

圖片來源：Bloomberg

03

有報(bào)告稱中資AI模型前沿風(fēng)險(xiǎn)

已接近美國產(chǎn)品水平

北京AI安全咨詢公司安遠(yuǎn)AI（Concordia AI）最新研究顯示，中國人工智能系統(tǒng)的“前沿風(fēng)險(xiǎn)”（frontier risks）水平正接近美國同類產(chǎn)品，引發(fā)業(yè)界對(duì)AI安全的關(guān)注。

前沿風(fēng)險(xiǎn)指AI模型可能危及公共安全和社會(huì)穩(wěn)定的潛在威脅。研究負(fù)責(zé)人王偉兵介紹，風(fēng)險(xiǎn)評(píng)分基于模型在網(wǎng)絡(luò)攻擊、生物風(fēng)險(xiǎn)、化學(xué)風(fēng)險(xiǎn)和失控風(fēng)險(xiǎn)四個(gè)領(lǐng)域的表現(xiàn)。

該研究評(píng)估了50個(gè)領(lǐng)先AI模型，發(fā)現(xiàn)深度求索（DeepSeek）5月更新的R1模型在網(wǎng)絡(luò)攻擊能力方面風(fēng)險(xiǎn)評(píng)分最高。字節(jié)跳動(dòng)的豆包Seed 1.6成為首個(gè)在生物協(xié)議故障排除上超越人類專家的中國模型，與OpenAI的GPT-5和xAI的Grok 4并列。專家警告，這種能力與潛在的生物武器開發(fā)相關(guān)。

安遠(yuǎn)AI的研究顯示，過去一年所有模型的風(fēng)險(xiǎn)評(píng)分均有上升——失控風(fēng)險(xiǎn)激增50%，生物風(fēng)險(xiǎn)躍升38%。該公司CEO Brian Tse表示，推理模型的普及是風(fēng)險(xiǎn)增加的主要原因。相比之下，OpenAI和Anthropic的模型雖能力提升，但因加強(qiáng)了安全措施，風(fēng)險(xiǎn)水平保持相對(duì)較低。

政策層面上，國內(nèi)監(jiān)管部門近月來持續(xù)關(guān)注前沿風(fēng)險(xiǎn)。國家網(wǎng)信辦下屬機(jī)構(gòu)上月指出AI系統(tǒng)失控風(fēng)險(xiǎn)，中國網(wǎng)絡(luò)安全法上周修訂時(shí)首次納入AI安全和事故報(bào)告條款。

新聞來源：南華早報(bào)

圖片來源：安遠(yuǎn)AI

04

白宮阻止英偉達(dá)向中國

銷售縮減版AI芯片B30A

當(dāng)?shù)貢r(shí)間11月6日，美國科技媒體The Information引述三名知情人士報(bào)道，美國白宮已通知其他聯(lián)邦機(jī)構(gòu)，不會(huì)允許美國晶片巨頭英偉達(dá)向中國出售最新的縮減版人工智能晶片。

據(jù)報(bào)道，英偉達(dá)已向幾家中國客戶提供了該晶片的樣品。報(bào)道補(bǔ)充，這款名為B30A的晶片若以集群方式高效部署，可用于訓(xùn)練大型語言模型，這正是許多中國企業(yè)所需要的。

The Information并引述兩名英偉達(dá)員工稱，該公司正努力修改B30A的設(shè)計(jì)，以期美國政府重新考慮其立場。英偉達(dá)發(fā)言人則告訴路透社，該公司“在中國競爭激烈的數(shù)據(jù)中心計(jì)算市場中份額為零，因此并未將其納入我們的業(yè)績預(yù)期”。白宮尚未回應(yīng)路透社的置評(píng)請(qǐng)求。

此外，報(bào)道指出，特朗普政府目前明令禁止英偉達(dá)將最先進(jìn)的Blackwell晶片售往中國。美國財(cái)長貝森特在11月4日接受美國消費(fèi)者新聞與商業(yè)頻道（CNBC）采訪時(shí)表示，當(dāng)這些晶片不再是最頂尖的產(chǎn)品時(shí)，或許會(huì)允許賣給中國。白宮新聞秘書萊維特同日于記者會(huì)上也確認(rèn)，特朗普政府目前“沒有意愿”允許英偉達(dá)售賣Blackwell晶片給中國。此前在11月2日，美國總統(tǒng)特朗普表示，全球市值最高的公司（即英偉達(dá)）所生產(chǎn)的最尖端晶片必須保留給美國公司，不應(yīng)讓中國和其他國家持有。

新聞來源：聯(lián)合早報(bào)

圖片來源：路透社

05

歐盟擬推遲AI法案部分條款實(shí)施

據(jù)英國《金融時(shí)報(bào)》11月7日?qǐng)?bào)道，歐盟委員會(huì)將在11月19日決定是否暫緩執(zhí)行人工智能法案部分條款。這一調(diào)整主要源于美國政府和大型科技公司的施壓，以及提升歐盟自身競爭力的考慮。

歐盟人工智能法案于2024年8月生效，被視為全球最嚴(yán)格的AI監(jiān)管框架。根據(jù)原計(jì)劃，針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的條款將于2026年8月開始實(shí)施。

據(jù)英國《金融時(shí)報(bào)》獲得的提案草案顯示，歐盟委員會(huì)正考慮兩項(xiàng)關(guān)鍵調(diào)整。第一，為違反高風(fēng)險(xiǎn)AI使用規(guī)則的公司提供一年寬限期，讓已推出生成式AI系統(tǒng)的企業(yè)有時(shí)間調(diào)整而不擾亂市場。第二，將透明度規(guī)則的罰款時(shí)間推遲至2027年8月。

一位歐盟高級(jí)官員透露，歐盟一直在就這些調(diào)整與特朗普政府進(jìn)行接觸。布魯塞爾方面擔(dān)心過于嚴(yán)格的執(zhí)法可能激怒特朗普，引發(fā)貿(mào)易戰(zhàn)或影響對(duì)烏克蘭的支持。

Meta等美國科技公司此前警告，歐盟的監(jiān)管方式可能讓歐洲與尖端AI服務(wù)脫節(jié)。這些壓力成為推動(dòng)政策調(diào)整的重要因素。

該草案還計(jì)劃通過歐盟人工智能辦公室實(shí)現(xiàn)執(zhí)法集中化，減輕企業(yè)合規(guī)負(fù)擔(dān)。目前草案仍在內(nèi)部討論，可能在正式通過前有所調(diào)整。

歐盟委員會(huì)發(fā)言人表示，正在考慮多種選項(xiàng)，但仍完全支持人工智能法案的目標(biāo)。提案一旦正式提出，還需獲得多數(shù)成員國和歐洲議會(huì)批準(zhǔn)。

新聞來源：FT中文網(wǎng)

圖片來源：金融時(shí)報(bào)

06

印度計(jì)劃將人工智能教育

推廣至8歲及以上學(xué)生

據(jù)《日經(jīng)亞洲》11月10日?qǐng)?bào)道，印度計(jì)劃從2026-2027學(xué)年開始，將人工智能教育的目標(biāo)年齡范圍從11歲開始擴(kuò)大到8歲兒童，以將人工智能作為一項(xiàng)基礎(chǔ)的通用技能進(jìn)行教授。

印度政府近年來重視人工智能教育。2020年，印度將人工智能教育納入學(xué)校課程體系，作為印度《國家教育政策2020》的一部分。根據(jù)印度教育部副部長蘇坎塔·馬宗達(dá)（Shri Sukanta Majumdar）2025年8月份在議會(huì)的介紹，目前印度在公立學(xué)校以及部分私立學(xué)校為六年級(jí)至八年級(jí)（初中）的學(xué)生開設(shè)15小時(shí)的人工智能技能課程，并為九年級(jí)至十二年級(jí)（高中）的學(xué)生開設(shè)與人工智能相關(guān)的選修課。

印度此次計(jì)劃進(jìn)一步擴(kuò)大人工智能教育的范圍，為小學(xué)教育中的三至五年級(jí)（8至10歲）學(xué)生開設(shè)人工智能課程。2024-2025學(xué)年，該學(xué)齡段學(xué)生有 6600 萬人次，印度預(yù)計(jì)到 2026 年，接受人工智能教育的學(xué)生總數(shù)將近2億。

新聞來源：日經(jīng)亞洲

圖片來源：日經(jīng)亞洲

07

微軟公布新愿景聚焦發(fā)展“超級(jí)智能”

據(jù)《華爾街日?qǐng)?bào)》11月6日?qǐng)?bào)道，微軟負(fù)責(zé)人工智能領(lǐng)域發(fā)展的高管提出了新的發(fā)展愿景，聚焦發(fā)展“超級(jí)智能”（superintelligence）。

微軟人工智能首席執(zhí)行官穆斯塔法·蘇萊曼（Mustafa Suleyman）在近期的博客文章和采訪中介紹了這一愿景。蘇萊曼表示，微軟正在組建新的超級(jí)智能團(tuán)隊(duì)，該團(tuán)隊(duì)將把人類利益和安全保障放在首位。根據(jù)蘇萊曼設(shè)想，微軟計(jì)劃發(fā)展的“超級(jí)智能”將具有“極其先進(jìn)的人工智能能力，始終服務(wù)于人類，造福于人”。

微軟這一表態(tài)與此前OpenAI重組有關(guān)。10月28日，OpenAI對(duì)外宣稱完成重組工作，其非營利實(shí)體現(xiàn)更名為OpenAI基金會(huì)（OpenAI Foundation），并持有約1300億美元的營利部門股權(quán)。其營利部門則改制為OpenAI Group PBC公司，OpenAI基金會(huì)持有26%的股權(quán)，員工與投資者合計(jì)持有47%股份，微軟則作為最大股東掌握27%股權(quán)。

在此基礎(chǔ)上，蘇萊曼肯定了微軟與其合作完成的工作，但批評(píng)了OpenAI正在發(fā)展的通用人工智能（AGI）技術(shù)，認(rèn)為不應(yīng)將人工智能視為可以擁有類似人類的情感或權(quán)利。蘇萊曼認(rèn)為，人們使用人工智能過程中，不應(yīng)該誤以為自己是在與有感知能力的生物對(duì)話。

新聞來源：《華爾街日?qǐng)?bào)》、路透社、OpenAI網(wǎng)站、微軟網(wǎng)站

圖片來源：OpenAI網(wǎng)站

來源 | 全球人工智能創(chuàng)新治理中心

作者 | 王奕博 謝嘉龍