近日，一段據(jù)稱拍攝于美國(guó)紐約拉瓜迪亞機(jī)場(chǎng)事故現(xiàn)場(chǎng)的短視頻在社交平臺(tái)傳播。畫(huà)面中，受損嚴(yán)重的客機(jī)機(jī)頭高高翹起，前景還有警員站立，給人一種“現(xiàn)場(chǎng)近距離拍攝視頻”的印象。但經(jīng)核查，這段視頻并非事故發(fā)生時(shí)的原始現(xiàn)場(chǎng)視頻，而是依附真實(shí)事故照片，由人工智能二次生成的“擬現(xiàn)場(chǎng)視頻”。

值得警惕的是，這種“真事件+假視頻”的組合，比普通假圖、假消息更容易讓人相信。

面對(duì)這類信息，普通受眾該如何警惕？這又對(duì)人工智能治理提出了哪些新的挑戰(zhàn)？

拉瓜迪亞機(jī)場(chǎng)"墜機(jī)視頻”從哪來(lái)？

先看事故本身。當(dāng)?shù)貢r(shí)間3月22日晚，一架加拿大航空快運(yùn)客機(jī)在紐約拉瓜迪亞機(jī)場(chǎng)降落時(shí)，與一輛機(jī)場(chǎng)消防救援車相撞，造成兩名飛行員死亡、多人受傷。也就是說(shuō)，事故是真的，傷亡情況也是真的。

問(wèn)題出在后續(xù)傳播的影像上。事故發(fā)生后不久，社交平臺(tái)上迅速出現(xiàn)了一段所謂“現(xiàn)場(chǎng)近距離拍攝”的短視頻。視頻里，機(jī)頭受損嚴(yán)重，前景還有警員站立，畫(huà)面很像手機(jī)拍下的第一現(xiàn)場(chǎng)，因而具有很強(qiáng)迷惑性。

網(wǎng)傳拉瓜迪亞機(jī)場(chǎng)所謂“墜機(jī)現(xiàn)場(chǎng)”視頻

不過(guò)，沿著傳播鏈條往前追，這段視頻并非事故發(fā)生時(shí)的原始視頻，而是由靜態(tài)照片加工生成而來(lái)。海外社交平臺(tái)X上，賬號(hào)@Surflick 在發(fā)布時(shí)就直接寫(xiě)明，這是一張由人工智能大模型Grok依據(jù)真實(shí)照片制成的動(dòng)畫(huà)畫(huà)面。也就是說(shuō)，先有真實(shí)事故照片，再有AI生成的動(dòng)態(tài)視頻。

根據(jù)現(xiàn)有公開(kāi)可見(jiàn)信息，目前可追溯到的較早傳播節(jié)點(diǎn)之一，由賬號(hào)@AZ_Intel在X平臺(tái)發(fā)布的事故近景靜態(tài)圖。航空資訊網(wǎng)站自航航空（Paddle Your Own Kanoo）3月23日在報(bào)道中，直接引用了該賬號(hào)發(fā)布的近景圖，配文是“機(jī)艙前部嚴(yán)重受損的近景照片”。而在@AZ_Intel發(fā)布照片大約14分鐘后，賬號(hào)Surflick發(fā)布了基于事故照片生成的動(dòng)態(tài)視頻。

真實(shí)事故圖片和AI動(dòng)態(tài)生成圖片在社交平臺(tái)的發(fā)布情況

這起事件最值得警惕的地方，不是“事故是假的”，而是“真事故+假視頻形態(tài)”。類似情況，近期并不少見(jiàn)。比如，3月肯尼亞內(nèi)羅畢洪災(zāi)造成至少70人死亡后，社交平臺(tái)上很快出現(xiàn)多段所謂“災(zāi)情現(xiàn)場(chǎng)視頻”和圖片，后經(jīng)核查發(fā)現(xiàn)，其中一些內(nèi)容其實(shí)是AI生成，并非真實(shí)災(zāi)區(qū)畫(huà)面。

再如，美國(guó)內(nèi)布拉斯加州3月發(fā)生該州史上最大規(guī)模山火后，網(wǎng)上也迅速流傳多張所謂火場(chǎng)影像。多家核查機(jī)構(gòu)指出，這些畫(huà)面并不真實(shí)，而是虛構(gòu)內(nèi)容。

社交平臺(tái)流傳的“肯尼亞內(nèi)羅畢洪災(zāi)”和“內(nèi)布拉斯加州山火”AI圖片

“真事故+假視頻／圖片”，這類信息背后傳播的邏輯非常相似：都依附于真實(shí)災(zāi)難事件，借助公眾對(duì)突發(fā)現(xiàn)場(chǎng)畫(huà)面的關(guān)注，偽裝成“第一現(xiàn)場(chǎng)”迅速擴(kuò)散，因此更具迷惑性。

那么，面對(duì)這種“真事件+假視頻”的新型誤導(dǎo)內(nèi)容，普通受眾該如何識(shí)別？科技平臺(tái)和AI企業(yè)又該如何應(yīng)對(duì)？中國(guó)國(guó)際問(wèn)題研究院世界和平與安全研究所助理研究員謝卉就此接受了總臺(tái)環(huán)球資訊的采訪。

這類“半真半假”的內(nèi)容為何能得到迅速傳播?

謝卉指出，這種“真事故+人工智能制作的假視頻”的傳播形態(tài)，本質(zhì)上是一種“更隱蔽的造假方式”。

以拉瓜迪亞機(jī)場(chǎng)事件為例，事故本身是真實(shí)發(fā)生的，但網(wǎng)上流傳的一些視頻“并不是現(xiàn)場(chǎng)拍攝，而是由靜態(tài)圖片二次生成的動(dòng)態(tài)畫(huà)面”。之所以傳播這么快，核心有三點(diǎn)：

一是真假混合，降低了公眾警惕。

二是視頻比圖片更有沖擊力，容易被當(dāng)成“第一手目擊”或“現(xiàn)場(chǎng)拍攝”。

三是平臺(tái)算法會(huì)放大這種“高情緒、高關(guān)注”的內(nèi)容。

謝卉強(qiáng)調(diào)，這類內(nèi)容的風(fēng)險(xiǎn)，已經(jīng)“不只是信息不夠準(zhǔn)確”，它還可能“誤導(dǎo)公眾的判斷”，也可能在災(zāi)害現(xiàn)場(chǎng)“干擾救援”，長(zhǎng)期來(lái)看，更會(huì)削弱社會(huì)對(duì)信息的基本信任。

而且，隨著技術(shù)發(fā)展，類似造假還會(huì)繼續(xù)演化，可能“不只是圖像、視頻”，還可能包括“語(yǔ)音克隆、換臉播報(bào)、偽造文件”等，從內(nèi)容造假進(jìn)一步走向“身份造假”甚至“權(quán)威造假”。

真假難辨 普通受眾如何應(yīng)對(duì)?

謝卉認(rèn)為，當(dāng)前人工智能生成內(nèi)容已經(jīng)高度逼真，普通人“很難只靠肉眼、靠聽(tīng)力去判斷真假”。因此，關(guān)鍵不在于“能不能去識(shí)別它是不是AI生成”，而在于“如何處理那些可能引起懷疑的內(nèi)容”。

謝卉建議，公眾至少把握三個(gè)重點(diǎn)：

第一，對(duì)“現(xiàn)場(chǎng)直擊”“剛剛流出”等說(shuō)法保持高度警惕。

第二，要看信息有沒(méi)有明確來(lái)源，“是誰(shuí)拍的，什么時(shí)候發(fā)布的”。

第三，盡量做更多的交叉驗(yàn)證，看看“權(quán)威媒體或官方有沒(méi)有同步此類信息”。

科技企業(yè)應(yīng)變身“守門(mén)人”

謝卉強(qiáng)調(diào)，平臺(tái)和科技企業(yè)在其中“不是旁觀者”，而是“守門(mén)人”的角色。一方面，在生成端要做好標(biāo)識(shí)，讓AI生成內(nèi)容“一眼可識(shí)別”；另一方面，在傳播端要加強(qiáng)審核，尤其是災(zāi)害、事故等高風(fēng)險(xiǎn)場(chǎng)景。再則，還應(yīng)建立快速辟謠或溯源機(jī)制，“不能只追求流量而忽視治理”，否則就可能放大平臺(tái)或科技企業(yè)這類“半真半假”視頻造成更大風(fēng)險(xiǎn)的可能性。

面對(duì)此類挑戰(zhàn) 國(guó)內(nèi)有什么應(yīng)對(duì)措施？

謝卉提出，應(yīng)對(duì)此類挑戰(zhàn)，國(guó)內(nèi)已不只是停留在原則倡議層面，而是已形成了一套比較完整的治理體系”。

首先在規(guī)則層面，2022年已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確禁止利用人工智能制作、傳播虛假信息，并要求平臺(tái)落實(shí)實(shí)名審核、內(nèi)容管理和辟謠機(jī)制；2023年的《生成式人工智能管理辦法》，又進(jìn)一步將責(zé)任壓實(shí)到內(nèi)容生成和傳播全過(guò)程。

其次在技術(shù)標(biāo)志層面，最新的《人工智能安全治理框架2.0》和《生成合成內(nèi)容標(biāo)志辦法》明確提出，要建立“顯示標(biāo)志和隱式標(biāo)志機(jī)制”，“既讓用戶看得見(jiàn)，也要實(shí)行可追溯”，同時(shí)推動(dòng)數(shù)字水印等技術(shù)應(yīng)用，從源頭提升識(shí)別能力。

第三，在平臺(tái)應(yīng)用層面，在政務(wù)公開(kāi)、司法取證等關(guān)鍵場(chǎng)景，已經(jīng)要求部署深度偽造檢測(cè)工具，對(duì)疑似人工智能內(nèi)容進(jìn)行來(lái)源核驗(yàn)和交叉驗(yàn)證，同時(shí)壓實(shí)平臺(tái)“守門(mén)人責(zé)任”。

在國(guó)際層面，我國(guó)也提出了全球人工智能治理倡議和人工智能全球治理行動(dòng)計(jì)劃，強(qiáng)調(diào)“以人為本、智能向善”，反對(duì)利用人工智能制造虛假信息，推動(dòng)構(gòu)建“可審查、可追溯”的全球治理體系。

來(lái)源 | 總臺(tái)環(huán)球資訊

策劃、編輯 | 李修莉

簽審 | 賈延寧

監(jiān)制 | 劉軼瑤