【TechWeb】針對(duì)近期頻發(fā)的利用AI技術(shù)仿冒公眾人物、制作虛假視頻等違規(guī)現(xiàn)象，小紅書“薯管家”近日發(fā)布重要公告，明確要求站內(nèi)用戶對(duì)AI生成及合成內(nèi)容進(jìn)行主動(dòng)標(biāo)識(shí)，并宣布將采取嚴(yán)厲措施治理相關(guān)亂象。

公告指出，平臺(tái)近期接到大量舉報(bào)，部分用戶利用AI技術(shù)偽造公眾人物形象與視頻。此類內(nèi)容不僅因缺乏授權(quán)而侵害了當(dāng)事人的合法權(quán)益，更因未履行標(biāo)識(shí)義務(wù)，混淆視聽，嚴(yán)重?fù)p害了社區(qū)用戶的信任感與平臺(tái)內(nèi)容的真實(shí)性。

為維護(hù)社區(qū)生態(tài)，小紅書表示將嚴(yán)格依據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，全面升級(jí)平臺(tái)的識(shí)別檢測(cè)能力。新規(guī)確立了“主動(dòng)標(biāo)識(shí)為主，被動(dòng)標(biāo)識(shí)為輔”的監(jiān)管邏輯：若創(chuàng)作者在發(fā)布環(huán)節(jié)未如實(shí)標(biāo)注AI生成內(nèi)容，平臺(tái)將自動(dòng)通過檢測(cè)系統(tǒng)為其添加顯眼標(biāo)識(shí)。

更具威懾力的是，對(duì)于此類未主動(dòng)履行標(biāo)識(shí)義務(wù)的AI合成內(nèi)容，平臺(tái)將直接采取限制分發(fā)的處罰措施，即通過降低推薦權(quán)重的方式，遏制虛假內(nèi)容的傳播范圍。這一舉措標(biāo)志著小紅書在應(yīng)對(duì)AI技術(shù)濫用、保障網(wǎng)絡(luò)信息真實(shí)性方面邁出了實(shí)質(zhì)性的一步。（Suky）