剛刷到網(wǎng)信部門處置上萬違規(guī) AI 賬號(hào)的新聞，再看看朋友圈里刷屏的 Seedance2.0 生成視頻，心里真是五味雜陳。不得不說，現(xiàn)在的 AI 技術(shù)太讓人驚嘆了，西游記師徒包餃子、名人隔空拜年，各種腦洞大開的畫面隨手就能做出來，可熱鬧背后，那些無標(biāo)識(shí)的虛假內(nèi)容、惡意牟利的操作，也著實(shí)讓人后怕。

AI 技術(shù)的發(fā)展本是好事，能讓普通人也擁有創(chuàng)作的能力，給內(nèi)容行業(yè)帶來新的可能。但總有人把這份便利用錯(cuò)了地方：為了博流量，編造狗救嬰兒、虛假火災(zāi)的 AI 視頻，把獵奇當(dāng)賣點(diǎn)；為了賺快錢，AI 換臉假冒公眾人物發(fā)不實(shí)言論，甚至售賣無授權(quán)的拜年視頻；更過分的是，有人魔改動(dòng)畫角色制作血腥內(nèi)容，拿孩子的喜好博眼球，還有人公然分享、售賣去 AI 標(biāo)識(shí)的工具，硬生生把技術(shù)變成了造假的幫兇。這些行為不僅混淆了公眾的認(rèn)知，攪亂了網(wǎng)絡(luò)生態(tài)，更讓不少人對(duì) AI 內(nèi)容產(chǎn)生了抵觸，實(shí)在是得不償失。

其實(shí)從去年 9 月《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》施行開始，AI 內(nèi)容 “持證上崗” 就已經(jīng)成了硬性要求，顯式標(biāo)識(shí) + 隱式水印的設(shè)計(jì)，本就為內(nèi)容溯源、責(zé)任認(rèn)定鋪好了路?？蛇€是有不少人抱有僥幸心理，覺得不標(biāo)標(biāo)識(shí)也沒人發(fā)現(xiàn)，殊不知監(jiān)管的手從來沒有放松。這次網(wǎng)信部門一次性處置 13421 個(gè)賬號(hào)、清理 54.3 萬余條違規(guī)信息，上海也專門開展整治 AI 涉企虛假信息的專項(xiàng)行動(dòng)，就是最明確的信號(hào)：AI 生成內(nèi)容從來不是法外之地，虛假造假、濫用技術(shù)的行為，遲早會(huì)被盯上。

有人覺得，給 AI 內(nèi)容加標(biāo)識(shí)會(huì)影響傳播，可比起一時(shí)的流量，守住真實(shí)和合規(guī)的底線才更重要。試想一下，當(dāng)你刷到一條 “突發(fā)事故” 的視頻，分不清是真實(shí)發(fā)生還是 AI 生成，會(huì)不會(huì)被誤導(dǎo)？當(dāng)你看到公眾人物的 “表態(tài)”，實(shí)則是 AI 換臉的產(chǎn)物，會(huì)不會(huì)被欺騙？正是這些真假難辨的內(nèi)容，讓網(wǎng)絡(luò)空間充滿了不信任，而加標(biāo)識(shí)這件事，看似是給創(chuàng)作加了一道 “枷鎖”，實(shí)則是給公眾的知情權(quán)加了一層保護(hù)，也是給創(chuàng)作者自己留了一條退路。

當(dāng)然，整治 AI 亂象從來都不是監(jiān)管部門的獨(dú)角戲，平臺(tái)、創(chuàng)作者、每一個(gè)網(wǎng)民都有責(zé)任。平臺(tái)要切實(shí)履行審核義務(wù)，完善技術(shù)識(shí)別機(jī)制，不讓違規(guī)內(nèi)容有可乘之機(jī)；創(chuàng)作者要守住底線，主動(dòng)給 AI 內(nèi)容加標(biāo)識(shí)，不造謠、不造假、不侵權(quán)，讓技術(shù)成為創(chuàng)作的助力，而非牟利的工具；我們普通網(wǎng)民也要提高辨別能力，看到可疑內(nèi)容多一份警惕，發(fā)現(xiàn)違規(guī)行為及時(shí)舉報(bào)。

AI 技術(shù)的發(fā)展勢(shì)不可擋，我們不該因?yàn)閭€(gè)別亂象就否定技術(shù)的價(jià)值，更不能放任技術(shù)濫用而置之不理。就像這次整治行動(dòng)傳遞的信號(hào)一樣，技術(shù)創(chuàng)新可以大膽走，但規(guī)則底線必須牢牢守。

只有讓 AI 內(nèi)容在陽光下生長，讓創(chuàng)作有邊界、傳播有規(guī)矩、監(jiān)管有力度，才能讓 AI 真正賦能生活，而不是成為網(wǎng)絡(luò)生態(tài)的 “攪局者”。技術(shù)再炫，也抵不過真實(shí)可貴；流量再誘人，也不如合規(guī)長久。

各位讀者，您怎么看待這些AIGC視頻？評(píng)論區(qū)一起聊聊吧