近日，一段長(zhǎng)約5秒的韓國(guó)職業(yè)棒球（KBO）賽場(chǎng)“美女球迷”視頻瘋狂刷屏。畫面中的女性面容姣好、微表情生動(dòng)細(xì)膩，“完美到不真實(shí)”。

為這位美女瘋狂的不僅僅是韓國(guó)網(wǎng)民，在美國(guó)最大的社交論壇等歐美主流社交平臺(tái)上，“韓國(guó)棒球女神”也很快成為熱門話題，很多人表白“愛你老婆”。

“美女球迷” 視頻截圖

不過最新報(bào)道證實(shí)，這段視頻是灰產(chǎn)賬號(hào)用AI生成，很多資深棒球迷也指出了視頻中的不合邏輯之處。韓國(guó)網(wǎng)友對(duì)“以假亂真”的AI生成視頻心有余悸，有人表示按照AI技術(shù)的迭代速度，自己遲早無法識(shí)別未來的電信詐騙。

“賽場(chǎng)邊美女”紅遍全網(wǎng)

資深棒球迷打假

這段時(shí)長(zhǎng)僅5秒的短視頻被上傳至全球各大社交媒體平臺(tái)，并配文“真希望我能上電視”，迅速走紅。視頻畫面似乎是韓華老鷹隊(duì)與斗山熊隊(duì)的比賽直播畫面，視頻中一名長(zhǎng)直發(fā)的女子身穿白色抹胸上衣和牛仔褲，盤腿而坐，全神貫注地觀看比賽。她咬著嘴唇，目光躲閃，似乎對(duì)比賽內(nèi)容很不滿意。這時(shí)屏幕上響起英文旁白：“哇，我根本沒法集中精力玩游戲！”

這段視頻迅速走紅。發(fā)布3天后，僅僅在韓國(guó)國(guó)內(nèi)網(wǎng)絡(luò)的累計(jì)觀看量就超過了811萬，點(diǎn)贊數(shù)超過2.5萬。

4日，這段視頻被分享到美國(guó)最大的在線社區(qū)上，標(biāo)題為“非同尋常的韓國(guó)女性”，同樣獲得高贊，并被大量轉(zhuǎn)發(fā)到各個(gè)歐美主流平臺(tái)，稱“贏得了國(guó)際網(wǎng)友的贊譽(yù)”。

不過在大熱之后，韓國(guó)國(guó)內(nèi)資深棒球迷們指出了視頻中的關(guān)鍵錯(cuò)誤。視頻中左上角的記分牌屏幕上顯示的是投手金瑞賢和擊球手趙寅成，但這在現(xiàn)實(shí)中根本不可能。趙寅成于1998年加入LG雙子隊(duì)，2017年退役，目前擔(dān)任教練，從未效力過斗山隊(duì)。而金瑞賢是一名投手，于2023年加入韓華隊(duì)。因此從時(shí)間線上看，這兩名球員根本不可能在同一場(chǎng)比賽中交鋒。

此外視頻里橫幅上寫的是“最強(qiáng)的是斗山”，現(xiàn)實(shí)中的斗山熊隊(duì)主場(chǎng)標(biāo)語(yǔ)為更簡(jiǎn)潔的“最強(qiáng)斗山”，而且視頻里的字體顏色也不是球隊(duì)標(biāo)志性的紅色。還有球迷指出：“在斗山對(duì)陣韓華的近兩年比賽中，第八局從未出現(xiàn)過4比3的比分。”

有報(bào)道核實(shí)稱，最初上傳這段視頻的賬號(hào)是專門發(fā)布人工智能生成內(nèi)容的灰產(chǎn)賬號(hào)。據(jù)推測(cè)，這種賬號(hào)可能是通過批量生產(chǎn)爆款內(nèi)容漲粉，后期再引導(dǎo)賬號(hào)粉絲為自己經(jīng)營(yíng)的灰色產(chǎn)業(yè)牟利。

5月5日，韓國(guó)職業(yè)棒球聯(lián)賽現(xiàn)場(chǎng)（據(jù)視覺中國(guó)）

韓網(wǎng)友擔(dān)憂AI灰產(chǎn)泛濫

“以后恐怕躲不過電詐了”

盡管賽場(chǎng)細(xì)節(jié)漏洞百出，但在逼真的皮膚紋理與諸如“輕咬嘴唇”“視線游移”等微表情的加持下，普通觀眾幾乎很難分辨真?zhèn)?。韓國(guó)網(wǎng)民紛紛驚嘆：“這看上去如此流暢和真實(shí)，一點(diǎn)不覺得是AI生成的?！庇卸嗝n國(guó)網(wǎng)民評(píng)論稱：“連眼神游離的細(xì)節(jié)都毫無違和感，以后我恐怕真的連電信詐騙都躲不過了。”另外也有網(wǎng)民不滿AI“污染”社交媒體的氛圍：“再過十年社媒上全是AI自?shī)首詷?，真正的人類就沒有幾個(gè)了?！?/p>

從贊嘆AI生成的逼真美貌到驚呼“細(xì)思極恐”，韓國(guó)社會(huì)對(duì)AI技術(shù)濫用的寬容度正被迅速消耗。

在韓國(guó)，根據(jù)今年1月22日生效的《人工智能框架法》，任何對(duì)外傳播的人工智能生成結(jié)果都必須以人類可識(shí)別的方式明確標(biāo)注“人工智能生成”。尤其值得注意的是，違反此項(xiàng)標(biāo)注義務(wù)的與選舉相關(guān)深度偽造內(nèi)容，最高可被處以3000萬韓元的罰款。不過據(jù)分析，該法案目前僅能約束企業(yè)級(jí)的AI服務(wù)提供商，對(duì)于個(gè)人制作并上傳至社交平臺(tái)的深度偽造內(nèi)容，尚未形成具備強(qiáng)制力的攔截機(jī)制。

韓國(guó)一動(dòng)物園發(fā)生“狼出逃”事件的相關(guān)目擊圖片

這種監(jiān)管真空帶來的社會(huì)反噬并非首次。就在今年4月，韓國(guó)大田動(dòng)物園曾發(fā)生“狼群逃脫”的烏龍事件。始作俑者利用AI合成虛假目擊照片在網(wǎng)絡(luò)散播，導(dǎo)致公共搜救資源被嚴(yán)重錯(cuò)配，最終被以涉嫌妨害公務(wù)罪移送法辦。在此次“AI棒球女”事件后，韓國(guó)業(yè)界正強(qiáng)烈呼吁出臺(tái)具有實(shí)操性的防范對(duì)策，要求社交平臺(tái)承擔(dān)起內(nèi)容過濾與強(qiáng)制標(biāo)識(shí)的責(zé)任。

紅星新聞?dòng)浾?鄭直