▲女子“用AI流浪漢騙老公”，結果丈夫信以為真，當即報警求助。圖/都市快報視頻截圖

女子用AI制作“流浪漢闖入家中”圖片，丈夫嚇到報警。這不是小說情節(jié)，而是真實發(fā)生的現(xiàn)實。

據(jù)安徽商報報道，近日，安徽一女子用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)給在外聚餐的丈夫想測試其反應，沒想到丈夫信以為真，當即報警求助。而在媒體的相關報道中，用AI制作“流浪漢闖入家中”圖片、視頻來整蠱家人的帖子，也在社交平臺走紅。

需明確的是，這不是什么好玩的事，AI的使用是有邊界的，夫妻或者家人之間的感情，也沒必要用AI來測試。AI整蠱，這種看似荒誕的操作，實則存在不少隱患。

如今，AI換臉、語音合成等技術正在改變?nèi)藗兩畹姆椒矫婷妫瑫r也讓制造虛假信息變得輕而易舉。“流浪漢闖入家中”這類謊言，之所以能起到以假亂真的效果，一方面說明AI工具的生成功能強大，足夠以假亂真，另一方面也意味著，AI的使用門檻在變低，使得人們可以輕易用AI整蠱、開玩笑。

技術本是中性的，一種技術的被發(fā)明創(chuàng)造，初衷總是為服務于人。但當其可以被大范圍、低門檻地使用時，就面臨著“異化”的風險。

用AI流浪漢騙老公或者其他親人事件的出現(xiàn)，就發(fā)出了這樣一種警示。使用者或許只是出于好奇、好玩的心理，想著開個玩笑、無傷大雅。但這類玩笑本身已是對雙方信任關系的消耗，也是對家庭成員的不尊重。

而這類玩笑中，AI的工具屬性從“服務人”變成了“戲弄人”。此舉一旦引發(fā)模仿效應，無疑將帶來更多的AI濫用問題。

事實上，據(jù)新聞報道可知，近期多地已出現(xiàn)類似AI整蠱引起的鬧劇，有的引發(fā)整棟樓逐層排查，有的導致親屬緊急“奔襲”。

從法律層面看，這種“玩笑”也暗藏巨大風險。根據(jù)《中華人民共和國治安管理處罰法》相關規(guī)定，對謊報警情的違法行為有著明確的罰款、拘留規(guī)定。而刑法中也有“編造、故意傳播虛假信息罪”，規(guī)定“造成嚴重后果的，處3年以上7年以下有期徒刑。”

今年7月，就有一男子為博取關注使用AI大模型生成了“女兒被人抱走”的“尋人啟事”并發(fā)布到社交平臺，最終被行政拘留。

這類法律規(guī)定、處罰教訓足以說明，技術濫用的代價從來不是 “一句玩笑”就能抹平的。

遏制AI濫用亂象，需要多維度的協(xié)同發(fā)力。此前，中央網(wǎng)信辦部署開展“清朗·整治AI技術濫用”專項行動取得顯著成效，但技術治理的長效機制仍需持續(xù)完善。

相應的制度規(guī)范要“長出牙齒”，對濫用技術造成危害的行為依法嚴懲。平臺層面也需加強對AI生成內(nèi)容的標識管理，一旦這種AI整蠱的圖片、視頻在平臺出現(xiàn)，就得及時予以核實規(guī)制，防止其擴散后產(chǎn)生示范效應。

AI的價值不在于制造虛假，而在于賦能真實。而讓AI真正服務于生活，而非成為破壞信任、傷害感情的工具，或許是AI時代每個人都須具備的“媒介素養(yǎng)”。

來源 | 新京報評論

撰稿 | 流水（媒體人）

值班編輯 | 王可

主編推薦