2025年2月10-13日，復(fù)旦發(fā)展研究院副教授、全球人工智能創(chuàng)新治理中心研究員江天驕受邀參與慕安會多場人工智能治理側(cè)邊活動。在相關(guān)對話和討論過程中，歐美專家此番不約而同的將目光轉(zhuǎn)向非國家行為體濫用先進(jìn)人工智能技術(shù)的安全風(fēng)險(xiǎn)及其治理議題值得關(guān)注。

第62屆慕尼黑安全會議開幕式現(xiàn)場。圖片來源：新華社

在具體風(fēng)險(xiǎn)場景方面，專家們對非國家行為體濫用人工智能發(fā)動網(wǎng)絡(luò)攻擊、核生化攻擊以及恐怖襲擊等挑戰(zhàn)表達(dá)了共同的擔(dān)憂，同時(shí)呼吁各國政府、監(jiān)管機(jī)構(gòu)和企業(yè)在各個(gè)環(huán)節(jié)建立有效的技術(shù)和政策干預(yù)措施。

歐美學(xué)者則對開源模型在這一問題上的潛在風(fēng)險(xiǎn)提出了更多疑慮。前幾個(gè)月，Anthropic已經(jīng)公開發(fā)布報(bào)告將矛頭對準(zhǔn)所謂人工智能加劇大規(guī)模網(wǎng)絡(luò)攻擊問題。此次會上，國外專家進(jìn)一步援引相關(guān)報(bào)告以及國外對國內(nèi)開源模型在核生化等議題上的安全測評結(jié)果，帶來較大挑戰(zhàn)。更為棘手的是，國內(nèi)一些模型發(fā)布的同時(shí)確實(shí)沒有公布安全測評說明，在國際交流和交鋒中吃了啞巴虧。

在應(yīng)對措施方面，歐美專家建議推動人工智能危機(jī)管理并建立專門的政府間溝通聯(lián)絡(luò)機(jī)制和企業(yè)間的信息披露或共享機(jī)制。類似倡議早在英國舉辦人工智能安全峰會時(shí)就已經(jīng)提出并初步建立了相關(guān)機(jī)制。但目前看來，一是人工智能被濫用的風(fēng)險(xiǎn)有增無減，形勢挑戰(zhàn)更加嚴(yán)峻；二是已有機(jī)制可能并不及預(yù)期。尤其美國對人工智能安全監(jiān)管的政策變化是較大的不確定性因素。此外，相關(guān)危機(jī)處置究竟應(yīng)該由誰牽頭、向誰報(bào)告或披露信息、在多長時(shí)間內(nèi)完成、披露或分享哪些信息都是極為復(fù)雜的國內(nèi)治理和外交博弈問題。

最后，在一次非正式晚餐會上，德國專家表達(dá)了對歐洲人工智能發(fā)展和整個(gè)地緣政治經(jīng)濟(jì)格局的焦慮。在加拿大總理卡尼的達(dá)沃斯講話之后，歐洲開始更加嚴(yán)肅的討論所謂“戰(zhàn)略自主”問題。面對中美在人工智能領(lǐng)域的高歌猛進(jìn)，一些歐洲專家坦言是時(shí)候多到中國走走看看，實(shí)地感受一下人工智能的浪潮。恰逢近期德國總理訪華，期待中德能夠在這一關(guān)鍵領(lǐng)域開辟廣闊的合作空間。

來源 | 全球人工智能創(chuàng)新治理中心

排版 | 蒲云濤