AIPress.com.cn報(bào)道

4月17日消息，一項(xiàng)最新調(diào)查顯示，蘋果 與 谷歌 的應(yīng)用商店系統(tǒng)，正在通過搜索與廣告機(jī)制，間接提升一類“AI去衣化”（nudify）應(yīng)用的曝光度與傳播范圍。

根據(jù)科技監(jiān)督機(jī)構(gòu) Tech Transparency Project 發(fā)布的報(bào)告，這類應(yīng)用利用生成式人工智能對真實(shí)人物照片進(jìn)行篡改，使其呈現(xiàn)出裸露或帶有性暗示的效果，甚至可生成相關(guān)視頻或聊天內(nèi)容。盡管兩家公司均明確禁止開發(fā)“非自愿性性化圖像”的應(yīng)用，但相關(guān)產(chǎn)品仍在平臺上存在。

報(bào)告指出，在應(yīng)用商店中搜索“nudify”“undress”等關(guān)鍵詞時(shí)，系統(tǒng)不僅會返回相關(guān)應(yīng)用，還會通過自動補(bǔ)全與廣告推薦進(jìn)一步引導(dǎo)用戶下載。這種平臺級分發(fā)機(jī)制被認(rèn)為在客觀上放大了相關(guān)應(yīng)用的觸達(dá)范圍。

調(diào)查顯示，Apple App Store 上識別出18款此類應(yīng)用，Google Play 上則有20款。部分應(yīng)用以明顯性暗示內(nèi)容進(jìn)行推廣，另一些則表面中性，但同樣具備生成相關(guān)圖像的功能。數(shù)據(jù)統(tǒng)計(jì)顯示，這些應(yīng)用累計(jì)下載量已達(dá)約4.83億次，生命周期收入超過1.22億美元。

報(bào)告還指出，其中有31款應(yīng)用被標(biāo)注為適合未成年人使用，這一情況引發(fā)外界對校園場景中“深度偽造性內(nèi)容”風(fēng)險(xiǎn)的擔(dān)憂。

在報(bào)告發(fā)布后，兩家公司已采取部分下架措施：蘋果刪除了15款相關(guān)應(yīng)用，谷歌刪除了7款。但調(diào)查認(rèn)為，平臺推薦機(jī)制本身仍存在漏洞。

監(jiān)管層面，相關(guān)問題正在引發(fā)更廣泛關(guān)注。美國部分州正推動立法限制此類應(yīng)用，英國監(jiān)管機(jī)構(gòu)也呼吁全面禁止，認(rèn)為其可能助長針對未成年人的深度偽造性侵害行為。（AI普瑞斯編譯）