3月3日奧斯卡頒獎禮之后，網(wǎng)上開始流傳一段美國影星羅伯特·德尼羅在臺上大罵Fuck Trump的視頻，很多網(wǎng)友為德尼羅點贊，宣揚(yáng)他不畏總統(tǒng)權(quán)勢敢于在如此盛大的場合公開表達(dá)對特朗普不滿的勇氣。

但同時也有網(wǎng)友質(zhì)疑這段視頻并不是發(fā)生在今年的奧斯卡頒獎禮上，從視頻畫面里也能看到德尼羅身后顯示著“TONY”背景墻，因此認(rèn)為這段視頻出自幾年前的托尼獎頒獎典禮。

于是向AI提問，字節(jié)跳動的豆包明確回答這出自2018年托尼獎頒獎禮；月之暗面的KIMI 也確定是托尼獎頒獎禮，并且說德尼羅并未參加今年的奧斯卡頒獎禮。

唯獨(dú)接入了DeepSeek的騰訊元寶，經(jīng)過4秒鐘的深度思考后，言之鑿鑿地說是這件事發(fā)生在今年的奧斯卡頒獎禮上，并且搜索到4個網(wǎng)頁來支持這一結(jié)論。

象騰訊元寶這樣生成的內(nèi)容包含了不準(zhǔn)確、虛構(gòu)或與現(xiàn)實不符的信息，則被稱之為AI幻覺。但之所以會發(fā)生這種偏離事實的AI幻覺，從這個例子來看其源頭是網(wǎng)絡(luò)上存在著大量的虛假的、人為編造的垃圾信息，影響了AI的判斷。

比如“老子的算法只認(rèn)五星紅旗”這個在網(wǎng)上突然爆火的話題，明顯出于自媒體的人為編造，而且經(jīng)過AI加工還活靈活現(xiàn)地添加了梁文峰發(fā)言的狀態(tài)和現(xiàn)場聽眾的反應(yīng)，但因為契合了民間情緒，所以網(wǎng)上熱度飆升；特別有的自媒體借機(jī)發(fā)揮又編造出華為任正非帶上女兒孟晚舟在加拿大被扣押的腳鏈參加企業(yè)家峰會的細(xì)節(jié)，雖然一眼假，但并不妨礙這篇爽文閱讀量沖上10萬+。

所以，當(dāng)網(wǎng)絡(luò)上充斥著這些人類刻意編造的虛假信息的時候，要求被這些語料喂養(yǎng)的AI做出是非判斷，避免AI幻覺的發(fā)生，究竟該由誰來承擔(dān)起責(zé)任呢？

全國政協(xié)委員甘華田建議加快制定針對AI生成虛假信息的專項法律法規(guī)，明確AI生成內(nèi)容的“全生命周期”責(zé)任，包括開發(fā)者、使用者和運(yùn)營者的法律責(zé)任和義務(wù)…… 但如果AI生成虛假內(nèi)容的源頭是人類制造的垃圾信息呢？