過(guò)去幾天一直在巴黎，見(jiàn)了一些老朋友，也參加了幾場(chǎng)人工智能行動(dòng)峰會(huì)的活動(dòng)。峰會(huì)11號(hào)已經(jīng)閉幕了，在這里也說(shuō)說(shuō)感受：

1、英國(guó)布萊切利峰會(huì)的時(shí)候，我也去湊了個(gè)熱鬧。英國(guó)峰會(huì)和后面的首爾峰會(huì)，主題都是圍繞AI安全風(fēng)險(xiǎn)以及如何防止風(fēng)險(xiǎn)展開(kāi)，最大的新聞是誰(shuí)誰(shuí)又簽署了前沿AI安全承諾。巴黎峰會(huì)名義上是前兩次會(huì)的后續(xù)，但主基調(diào)已徹底從AI安全轉(zhuǎn)向AI創(chuàng)新和發(fā)展。安全還是個(gè)議題，但很大程度上邊緣化，最后發(fā)布的宣言已經(jīng)找不到幾句《布萊切利宣言》里的話，英國(guó)很不爽，就沒(méi)簽最后的聲明。Youshua Bengio牽頭的國(guó)際專(zhuān)家組發(fā)布了298頁(yè)的《國(guó)際人工智能安全報(bào)告》，但我很懷疑有多少人會(huì)認(rèn)真看完。大家在AI安全問(wèn)題上仍然不在一個(gè)頻道上，特別是AI到底會(huì)不會(huì)真會(huì)威脅人類(lèi)生存有很多懷疑，科學(xué)家、倫理學(xué)家和政策制定者、普通人這些非專(zhuān)業(yè)人士在安全問(wèn)題上的體感差別比較大。

2、歐盟委員會(huì)主席馮德萊恩在峰會(huì)上官宣了歐盟版的“星際之門(mén)”計(jì)劃“InvestAI”，誓言為歐盟的AI發(fā)展籌集2000億歐元，其中包括一個(gè)200億歐元的新基金，用于建設(shè)四個(gè)“AI超級(jí)工廠”；黑石、KKR&Co.和EQT等20多家投資機(jī)構(gòu)也承諾未來(lái)五年向歐盟投資1500億歐元發(fā)展AI。歐盟委員會(huì)負(fù)責(zé)科技監(jiān)管的執(zhí)行副主席維爾庫(kù)寧開(kāi)始著手簡(jiǎn)化AI監(jiān)管規(guī)則，為技術(shù)創(chuàng)新松綁。從德拉吉報(bào)告到現(xiàn)在，歐盟這次似乎是真想明白了：指望在AI競(jìng)賽中趕上中美，不可能靠一堆繁復(fù)的監(jiān)管法規(guī)，還得靠真金白銀的投入。當(dāng)然，想明白了不代表能做到，正如谷歌前CEO施密特所言，歐盟要想真正把AI搞起來(lái)，還有一堆阻礙變革的繁文縟節(jié)需要清理，比如對(duì)金融和投資行業(yè)的過(guò)度監(jiān)管。

3、不管是峰會(huì)的正式會(huì)議還是各種邊會(huì)，DeepSeek不出意外地成為絕對(duì)的熱點(diǎn)。公開(kāi)發(fā)言的基本都是歐洲人，整體態(tài)度比較正面，覺(jué)得這家公司是真正的創(chuàng)新，也是歐洲的機(jī)會(huì)。歐洲AI的希望之星Mistral的聯(lián)合創(chuàng)始人Arthur Mensch把DeepSeek稱(chēng)為“中國(guó)的Mistral”，認(rèn)為其成功印證了開(kāi)源的方向是對(duì)的，并給了Mistral繼續(xù)發(fā)展的靈感。這次有很多美國(guó)AI安全和政策領(lǐng)域的專(zhuān)家參會(huì)，我基本上是逮著人就問(wèn)“美國(guó)會(huì)禁止DeepSeek嗎？”，從交流的情況看，絕大多數(shù)人認(rèn)為不太可能被禁，理由主要集中在三點(diǎn)：1）不是社交媒體（中國(guó)語(yǔ)境中的“輿論屬性和社會(huì)動(dòng)員能力”）；2）用戶(hù)基數(shù)小；3）模型開(kāi)源、美國(guó)公司受益。跟去參會(huì)的微軟法國(guó)的政府事務(wù)負(fù)責(zé)也人聊了幾句，她認(rèn)為歐洲對(duì)DeepSeek態(tài)度正面，主要是因?yàn)樗_(kāi)源，代表了普惠、共享和透明，很對(duì)歐洲的胃口。這讓人不由想到：未來(lái)中國(guó)AI出海如果要盡量減少地緣政治、國(guó)家安全等因素干擾，一定要足夠開(kāi)放透明，開(kāi)源會(huì)不會(huì)成為一個(gè)比較好的策略？

4、中國(guó)參會(huì)的人也在說(shuō)DeepSeek，但一些評(píng)論似乎受到了國(guó)內(nèi)輿論的影響，有一些過(guò)分夸大和捧高。DeepSeek自然很給我們長(zhǎng)臉，我們有理由自信和自豪，但經(jīng)過(guò)了這么長(zhǎng)時(shí)間的沉淀以及各種專(zhuān)業(yè)解讀后，如果還認(rèn)為DeepSeek已經(jīng)“超越”了美國(guó)的模型，甚至因此認(rèn)為中國(guó)已經(jīng)無(wú)懼于美國(guó)的封鎖，可能就有失準(zhǔn)確，在國(guó)際場(chǎng)合頻繁炫耀更是毫無(wú)幫助。我們需要認(rèn)清的一些基本事實(shí)是：1）DeepSeek和美國(guó)最前沿的模型相比還是落后的，甚至成本也不是最低（如Gemini 2.0就更便宜）；2）DeepSeek有創(chuàng)新，但并非顛覆式的創(chuàng)新，還是在transformer這個(gè)架構(gòu)下；3）即使沿著DeepSeek為我們開(kāi)辟的路走下去，中國(guó)大模型的升級(jí)仍然需要美國(guó)管制的GPU，仍然需要大量的算力投入。我們需要消除狂熱和自滿(mǎn)情緒，回歸事實(shí)和本質(zhì)，才能繼續(xù)取得新的成功。在AI國(guó)際交流中，能韜光養(yǎng)晦、悶聲發(fā)財(cái)最好，無(wú)謂夸大自己的優(yōu)勢(shì)則有害無(wú)益。

5、人工智能全球治理進(jìn)入了一個(gè)重新洗牌的轉(zhuǎn)折點(diǎn)。本來(lái)最具普遍性和代表性的AI全球治理規(guī)則制定平臺(tái)應(yīng)該是聯(lián)合國(guó)，我們也一直這么主張，但現(xiàn)在美國(guó)顯然認(rèn)為在聯(lián)合國(guó)搞只會(huì)便宜中國(guó)，因?yàn)槎鄶?shù)時(shí)候中國(guó)總能聚攏起足夠多的票數(shù)干翻西方。英國(guó)抓住機(jī)會(huì)率先開(kāi)啟了布萊切利進(jìn)程，與其說(shuō)有多關(guān)注安全，不如說(shuō)是在自身技術(shù)和產(chǎn)業(yè)都無(wú)法與中美匹敵的情況下，希望從“安全”和“治理”議題切入，利用脫歐后在治理上的靈活性吸引全球AI投資往倫敦走。但布萊切利進(jìn)程發(fā)展到今天，生動(dòng)說(shuō)明了一個(gè)苦澀的事實(shí)：想要引領(lǐng)AI全球治理，靠的是硬核技術(shù)、強(qiáng)大產(chǎn)業(yè)和雄厚資金。不幸的是，這三個(gè)東西英國(guó)都沒(méi)有，技術(shù)和產(chǎn)業(yè)拼不過(guò)中美，論資金甚至不如阿聯(lián)酋，因此輕易就被想讓巴黎成為歐洲AI中心的法蘭西搶了風(fēng)頭，最后不歡而散，所謂巴黎峰會(huì)的宣言“弱化安全”，不過(guò)是給不簽署宣言找了個(gè)臺(tái)階下。但法蘭西就能成為新的全球治理領(lǐng)導(dǎo)者嗎？如果馬克龍真有這樣的底氣，就不會(huì)拉上印度壯膽。巴黎峰會(huì)大皇宮內(nèi)外糟糕的組織和訪客體驗(yàn)，似乎已經(jīng)為其失敗埋下伏筆。下屆峰會(huì)在印度舉辦，要知道印度可是自詡新興國(guó)家的領(lǐng)頭羊，豈會(huì)自甘成為追隨者？

6、AI全球治理最終還是要看中美。美利堅(jiān)民族的性格，從來(lái)都是自己來(lái)制定規(guī)則讓其他國(guó)家遵守，對(duì)英國(guó)首先搞出一個(gè)峰會(huì)，美國(guó)打心里是不舒服的，但礙于傳統(tǒng)盟友關(guān)系不好撕破臉皮。哈里斯飛往倫敦出席布萊切利峰會(huì)前，拜登高調(diào)簽署AI行政令，向世界公開(kāi)宣示美國(guó)的AI治理方法，之后又單獨(dú)召開(kāi)國(guó)際AI安全研究所網(wǎng)絡(luò)的首次會(huì)議（舊金山全球AI安全峰會(huì)），已經(jīng)彰顯取而代之的意圖。現(xiàn)在換了對(duì)歐洲沒(méi)什么好氣的川普上來(lái)，表面功夫也都可以省了。萬(wàn)斯副總統(tǒng)這次來(lái)都沒(méi)帶美國(guó)AI安全研究所的人，說(shuō)話也一點(diǎn)都不拐彎抹角：美國(guó)才是并會(huì)一直是人工智能的領(lǐng)導(dǎo)者，美國(guó)不接受你們歐洲搞得這套只會(huì)束縛美國(guó)公司的東西，我們有自己的想法，而且世界要跟隨我們的標(biāo)準(zhǔn)。說(shuō)完這些，萬(wàn)斯就在一眾歐洲國(guó)家元首和政府高官難看的臉色中揚(yáng)長(zhǎng)而去，連集體合影都沒(méi)參加，美國(guó)政府最后也沒(méi)簽署峰會(huì)的宣言，委實(shí)是一點(diǎn)面子都不給。

7、相比美國(guó)，中國(guó)就更謙謙君子一些，雖然也看不上，但面子還是給了。英國(guó)布萊切利峰會(huì)和法國(guó)巴黎峰會(huì)，中國(guó)都派出了較高級(jí)別的代表團(tuán)參加，特別是法國(guó)這次，我們派出的是國(guó)家元首代表、副總理，給足了法國(guó)面子，當(dāng)然這也是因?yàn)樯洗沃袊?guó)國(guó)家元首訪法的時(shí)候已經(jīng)答應(yīng)了馬克龍會(huì)支持。但中方的參與，感覺(jué)也不是對(duì)英法搞得這套多感冒，很大程度上出于中英和中法雙邊關(guān)系大局的考慮。我們有自己的《全球人工智能治理倡議》，在國(guó)內(nèi)監(jiān)管實(shí)踐上也形成了由《生成式人工智能管理暫行規(guī)定》以及一系列配套標(biāo)準(zhǔn)、技術(shù)文件等的完整框架，輔之以快速發(fā)展的大模型技術(shù)和豐富的應(yīng)用場(chǎng)景，事實(shí)上已具備爭(zhēng)奪全球AI治理主導(dǎo)權(quán)的基礎(chǔ)。在峰會(huì)上，中方也給將于7月份在上海舉行的“世界人工智能大會(huì)”打了call，熱情邀請(qǐng)各國(guó)上海聚首、共話人工智能。

8、中國(guó)官宣了自己的“AI安全研究所”。目前美國(guó)、英國(guó)、日本、新加坡、法國(guó)等都成立了AI安全研究所，美英的研究所甚至還聯(lián)合組織了對(duì)OpenAI的o1、Anthropic的Claude 3.5等大模型的測(cè)評(píng)。西方過(guò)去一段時(shí)間一直在猜測(cè)中國(guó)會(huì)不會(huì)也搞自己的AI安全研究所，看到遲遲沒(méi)動(dòng)靜又開(kāi)始逐個(gè)分析哪個(gè)機(jī)構(gòu)可能適合作為研究所，這次終于水落石出。但是，中國(guó)的AI安全研究所沒(méi)完全照抄西方，名字叫“中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)”（China AI Safety & Development Association, CnAISDA），鮮明體現(xiàn)了我們平衡AI安全與發(fā)展的治理理念，其組成則匯集了清華、北大、中科院、信通院、電子信息產(chǎn)業(yè)發(fā)展研究院、智源研究院、上海AI Lab、上海期智研究院等幾乎全部國(guó)內(nèi)頂尖AI研究機(jī)構(gòu)。我認(rèn)為，“中國(guó)AI安全研究所”目前主要的職能應(yīng)該是代表中方用一個(gè)聲音和各國(guó)AI安全研究機(jī)構(gòu)展開(kāi)對(duì)話與合作，參與AI全球治理，至于以后會(huì)不會(huì)像英美的AI安全研究所一樣承接一些模型測(cè)評(píng)，技術(shù)和資源上似乎是夠了，但這和國(guó)內(nèi)的AI監(jiān)管格局密切相關(guān)，目前還很難說(shuō)。

9、峰會(huì)上也有一些中國(guó)公司的身影。繼智譜去年在首爾峰會(huì)簽署“前沿人工智能安全承諾”之后，又有兩家公司MiniMax和零一萬(wàn)物加入簽署了承諾。但有意思的是，這次主辦方操作的方式出奇地低調(diào)，只是在峰會(huì)召開(kāi)前兩天悄悄在安全承諾的官方網(wǎng)站上更新了名單，沒(méi)有做任何宣傳，相關(guān)的企業(yè)也十分低調(diào)。除了MiniMax和零一萬(wàn)物，英偉達(dá)和另外一家舊金山的美國(guó)AI初創(chuàng)公司Magic也簽署了承諾。此外，百度和聯(lián)想作為創(chuàng)始成員，和其他來(lái)自美歐的35家科技企業(yè)加入了法國(guó)首次倡議的“可持續(xù)人工智能聯(lián)盟”。這個(gè)聯(lián)盟的宗旨是“推動(dòng)人工智能邁向更具環(huán)境可持續(xù)性的發(fā)展道路”。

10、AI和地緣政治也是峰會(huì)上一個(gè)重要話題。中國(guó)前外交部副部長(zhǎng)傅瑩大使指出，地緣政治的干擾影響了中美AI合作，美國(guó)對(duì)華科技封鎖和打壓毒化了全球合作氛圍，科技爆發(fā)與中美關(guān)系受到損害的兩條曲線相交加劇了緊張局面，AI全球治理應(yīng)當(dāng)超越地緣政治。但從美國(guó)的表態(tài)看，AI和地緣政治可能會(huì)是個(gè)長(zhǎng)期持續(xù)的主題。萬(wàn)斯的演講花了相當(dāng)篇幅不點(diǎn)名地影射中國(guó)：重復(fù)了以前那些老話：諸如外國(guó)對(duì)手、軟件武器化、監(jiān)視和言論審查、AI增強(qiáng)軍事情報(bào)能力、數(shù)據(jù)安全、外國(guó)宣傳等等，強(qiáng)調(diào)美國(guó)會(huì)保護(hù)人工智能和芯片技術(shù)免受“盜竊和濫用”，并和與盟友、伙伴國(guó)家合作，關(guān)閉“外國(guó)對(duì)手”獲得人工智能能力的途徑（看到這些感覺(jué)芯片出口管制和AI擴(kuò)散框架應(yīng)該都不太可能取消了）。萬(wàn)斯還用監(jiān)控設(shè)備和5G作為例子提醒其他國(guó)家不要使用中國(guó)的“廉價(jià)技術(shù)”。“如果一筆交易看起來(lái)太好了，就像我們硅谷的那句老話：如果你沒(méi)有為產(chǎn)品付費(fèi)，那你就是產(chǎn)品?！?/p>

11、隨著歐盟在自我反思后躬身入局，未來(lái)全球AI技術(shù)升級(jí)會(huì)加速，產(chǎn)業(yè)層面對(duì)算力和人才競(jìng)爭(zhēng)會(huì)更激烈。AI安全議題進(jìn)入一段時(shí)期的冷靜期，科學(xué)家們需要繼續(xù)加強(qiáng)對(duì)AI安全風(fēng)險(xiǎn)的研究，但更要提供扎實(shí)的證據(jù)來(lái)證明風(fēng)險(xiǎn)迫在眉睫甚至已經(jīng)發(fā)生，唯其如此才能說(shuō)服普通大眾和決策者采取行動(dòng)。美國(guó)一直想拉著歐洲在AI全球治理方面孤立中國(guó)，拜登政府時(shí)期的AI安全研究所網(wǎng)絡(luò)實(shí)際就是要統(tǒng)一西方內(nèi)部的AI模型測(cè)評(píng)、紅隊(duì)測(cè)試等安全標(biāo)準(zhǔn)，形成事實(shí)上的市場(chǎng)準(zhǔn)入和壁壘，排除中國(guó)AI技術(shù)和企業(yè)。中國(guó)為了應(yīng)對(duì)，有可能被迫自立山頭，推出自己的理念和標(biāo)準(zhǔn)與西方競(jìng)爭(zhēng)，由此全球AI治理可能會(huì)呈現(xiàn)和網(wǎng)絡(luò)治理、數(shù)據(jù)治理時(shí)代越來(lái)越相似的陣營(yíng)化、碎片化。無(wú)論對(duì)技術(shù)、產(chǎn)業(yè)還是全球化發(fā)展，這都不是理想的局面，都會(huì)帶來(lái)更多挑戰(zhàn)。

最后，要發(fā)自?xún)?nèi)心地向不遠(yuǎn)千里來(lái)參會(huì)、組織各種邊會(huì)的我國(guó)專(zhuān)家和機(jī)構(gòu)們致敬。這幾天和他們交流很多，從傅瑩大使、薛瀾院長(zhǎng)、梁正副院長(zhǎng)、姚期智院士這些大咖，到各個(gè)國(guó)內(nèi)AI研究機(jī)構(gòu)、企業(yè)的專(zhuān)家和普通工作人員，每個(gè)人都在為人工智能安全、為中國(guó)在人工智能全球治理中的話語(yǔ)權(quán)忘我地工作。他們讓我堅(jiān)信，中國(guó)不會(huì)在這次對(duì)人類(lèi)歷史影響深遠(yuǎn)的技術(shù)變革中落后或缺席。

文章僅做學(xué)術(shù)探討和市場(chǎng)研究交流使用，相關(guān)判斷不代表任何公司或機(jī)構(gòu)立場(chǎng)，也不構(gòu)成任何投資建議。轉(zhuǎn)載請(qǐng)注明來(lái)源。歡迎加入知識(shí)星球參與討論。