2025年2月10-13日，復(fù)旦發(fā)展研究院副教授、全球人工智能創(chuàng)新治理中心研究員江天驕受邀參與慕安會(huì)多場(chǎng)人工智能治理側(cè)邊活動(dòng)。在相關(guān)對(duì)話和討論過(guò)程中，歐美專家此番不約而同的將目光轉(zhuǎn)向非國(guó)家行為體濫用先進(jìn)人工智能技術(shù)的安全風(fēng)險(xiǎn)及其治理議題值得關(guān)注。

第62屆慕尼黑安全會(huì)議開幕式現(xiàn)場(chǎng)。圖片來(lái)源：新華社

在具體風(fēng)險(xiǎn)場(chǎng)景方面，專家們對(duì)非國(guó)家行為體濫用人工智能發(fā)動(dòng)網(wǎng)絡(luò)攻擊、核生化攻擊以及恐怖襲擊等挑戰(zhàn)表達(dá)了共同的擔(dān)憂，同時(shí)呼吁各國(guó)政府、監(jiān)管機(jī)構(gòu)和企業(yè)在各個(gè)環(huán)節(jié)建立有效的技術(shù)和政策干預(yù)措施。

歐美學(xué)者則對(duì)開源模型在這一問題上的潛在風(fēng)險(xiǎn)提出了更多疑慮。前幾個(gè)月，Anthropic已經(jīng)公開發(fā)布報(bào)告將矛頭對(duì)準(zhǔn)所謂人工智能加劇大規(guī)模網(wǎng)絡(luò)攻擊問題。此次會(huì)上，國(guó)外專家進(jìn)一步援引相關(guān)報(bào)告以及國(guó)外對(duì)國(guó)內(nèi)開源模型在核生化等議題上的安全測(cè)評(píng)結(jié)果，帶來(lái)較大挑戰(zhàn)。更為棘手的是，國(guó)內(nèi)一些模型發(fā)布的同時(shí)確實(shí)沒有公布安全測(cè)評(píng)說(shuō)明，在國(guó)際交流和交鋒中吃了啞巴虧。

在應(yīng)對(duì)措施方面，歐美專家建議推動(dòng)人工智能危機(jī)管理并建立專門的政府間溝通聯(lián)絡(luò)機(jī)制和企業(yè)間的信息披露或共享機(jī)制。類似倡議早在英國(guó)舉辦人工智能安全峰會(huì)時(shí)就已經(jīng)提出并初步建立了相關(guān)機(jī)制。但目前看來(lái)，一是人工智能被濫用的風(fēng)險(xiǎn)有增無(wú)減，形勢(shì)挑戰(zhàn)更加嚴(yán)峻；二是已有機(jī)制可能并不及預(yù)期。尤其美國(guó)對(duì)人工智能安全監(jiān)管的政策變化是較大的不確定性因素。此外，相關(guān)危機(jī)處置究竟應(yīng)該由誰(shuí)牽頭、向誰(shuí)報(bào)告或披露信息、在多長(zhǎng)時(shí)間內(nèi)完成、披露或分享哪些信息都是極為復(fù)雜的國(guó)內(nèi)治理和外交博弈問題。

最后，在一次非正式晚餐會(huì)上，德國(guó)專家表達(dá)了對(duì)歐洲人工智能發(fā)展和整個(gè)地緣政治經(jīng)濟(jì)格局的焦慮。在加拿大總理卡尼的達(dá)沃斯講話之后，歐洲開始更加嚴(yán)肅的討論所謂“戰(zhàn)略自主”問題。面對(duì)中美在人工智能領(lǐng)域的高歌猛進(jìn)，一些歐洲專家坦言是時(shí)候多到中國(guó)走走看看，實(shí)地感受一下人工智能的浪潮。恰逢近期德國(guó)總理訪華，期待中德能夠在這一關(guān)鍵領(lǐng)域開辟?gòu)V闊的合作空間。

來(lái)源 | 全球人工智能創(chuàng)新治理中心

排版 | 蒲云濤