這年頭，AI黑產(chǎn)可謂是越來越猖狂了，kpop藝人成了受害者“重災(zāi)區(qū)”！

近日，有網(wǎng)友在Instagram上刷到一則令人瞠目結(jié)舌的廣告：韓國知名歌手IU（李知恩）竟在視頻中，熱情地推薦一款名為“Chicken Road”的賭博應(yīng)用。不少網(wǎng)友細看之后，才發(fā)現(xiàn)這是AI換臉合成的詐騙內(nèi)容！

在這段廣為流傳的短片中，“AI版IU”坐在車里手持平板，語氣夸張地宣稱：“說什么‘Chicken Road是騙局’的評論真是聽夠了！” 更離譜的是，她邊說邊演示：“我剛說話這會兒，1700萬韓元（約合人民幣10萬元）就進賬了！” 隨后還慫恿觀眾趕緊下載應(yīng)用，并承諾新用戶可以獲300萬韓元的獎金。視頻左下角雖然標著“廣告”字樣，但賬號不僅禁止留言，搜索賬號更是顯示“不存在”，這明顯是詐騙團隊為了逃避追查設(shè)置的陷阱。

其實IU并非首個受害者。在此之前，演員李哈妮就被AI合成視頻冒充，畫面中的她激動地宣稱自己“15分鐘賺了2000萬韓元”，甚至還編造了在電影試映會發(fā)現(xiàn)這款應(yīng)用的虛假故事。

緊接著，女團Wonder Girls出身的演員安昭熙也遭遇了“毒手”，被AI偽造視頻的她揚言“用賺來的錢買了奔馳”，企圖以此誘導(dǎo)粉絲下載賭博軟件。

面對這一現(xiàn)象，律師指出，濫用AI偽造形象可能觸犯《信息通信網(wǎng)法》，如果內(nèi)容涉及誹謗，最高可判7年徒刑或5000萬韓元罰金；若內(nèi)容涉及色情，根據(jù)修訂后的《性暴力處罰法》，刑期可能進一步加重。但遺憾的是，目前這類犯罪往往跨國運作，追查難度極大，明星團隊也無能為力。

事件爆發(fā)后，IU粉絲紛紛在社交媒體發(fā)起“保護李知恩”話題，并要求平臺加強審核。有網(wǎng)友痛心疾首地表示：“連IU這樣零負面新聞的藝人都被偽造，AI詐騙還有底線嗎？”更有人調(diào)侃：“這‘演技’比某些劇里的某些所謂演員好多了，但，用錯地方了！”

目前，IU團隊尚未公開回應(yīng)此事。

你怎么看呢？