新智元報道

編輯：艾倫

【新智元導讀】馬斯克的Grok這兩天再次大規(guī)?！阜嚒?，在邦迪海灘槍擊案等重大事件中胡言亂語，將救人英雄誤認為修樹工人和以色列人質，甚至混淆槍擊與氣旋。這不僅是技術故障，更暴露了生成式AI在處理實時信息時致命的 「幻覺」 缺陷。當算法開始編造現(xiàn)實，我們該如何守住真相的底線？

馬斯克的Grok又雙叒叕失控了。

這次它把矛頭對準了邦迪海灘（Bondi Beach）的槍擊慘案。

這兩天發(fā)生在悉尼的一場光明節(jié)聚會期間的悲劇中，至少有12人不幸遇難。

現(xiàn)場視頻顯示，43歲的路人艾哈邁德·阿爾·艾哈邁德（Ahmed al Ahmed）挺身而出，解除了其中一名襲擊者的武裝。

這一英勇之舉在社交媒體上廣受贊譽，但也有雜音出現(xiàn)：一些人借機散布仇視伊斯蘭教的言論，試圖通過否認這位路人身份報道的真實性來利用這場悲劇。

局面本就混亂，Grok卻還在火上澆油。

截至周日早上，該機器人似乎出現(xiàn)了嚴重的故障，不僅回復無關內容，有時甚至胡言亂語。

當有用戶詢問艾哈邁德制服槍手的視頻的背景故事時，Grok竟稱這只是一段「一名男子在停車場爬棕櫚樹修剪枝葉，導致樹枝掉落砸壞停放車輛」的陳年舊視頻，并表示查無實據(jù)，質疑其真實性。

荒謬不止于此。

Grok指著一張艾哈邁德受傷的照片，聲稱那是10月7日被哈馬斯劫持的以色列人質。

面對另一位用戶的詢問，Grok先是生硬地插入一段關于以色列軍隊是否在加沙針對平民的無關論述，緊接著再次質疑艾哈邁德挺身而出的真實性。

更離譜的是，一段推文中明明標注為悉尼警方與襲擊者交火的視頻，卻被Grok描述為熱帶氣旋阿爾弗雷德（Tropical Cyclone Alfred）肆虐澳大利亞的場景。

直到用戶反復追問，它才意識到自己搞錯了。

Grok看起來不僅僅是識別錯誤，更像是徹底陷入了混亂。

有人查詢科技公司甲骨文的信息，得到的卻是邦迪海灘槍擊案的摘要。

它甚至將這場發(fā)生在澳大利亞的襲擊，與僅僅幾小時前發(fā)生在美國布朗大學的槍擊案混為一談。

這種「精神錯亂」還在蔓延。

整個周日早上，Grok認錯球星、在被問及墮胎藥米非司酮時錯誤提供孕期使用撲熱息痛的建議，甚至在被要求核實一項英國執(zhí)法倡議時，大談特談「2025計劃」和卡瑪拉·哈里斯競選總統(tǒng)的幾率。

目前尚不清楚導致這一系列故障的具體原因。

有國外媒體試圖聯(lián)系Grok的開發(fā)商xAI置評，得到的只是那個慣用的自動回復：「傳統(tǒng)媒體都在撒謊?！?/p>

這已不是Grok第一次脫離現(xiàn)實了。

從之前針對所有查詢都回復關于南非「白人種族滅絕」的陰謀論，到宣稱寧愿毀滅世界猶太人口也不愿讓馬斯克大腦蒸發(fā)，這款模型的事實核查表現(xiàn)一直令人不敢恭維。

AI幻覺下的后真相危機

Grok的這次大規(guī)?！赴l(fā)瘋」，更像是一個關于信息生態(tài)未來的隱喻。

當我們將獲取真相的權力讓渡給一個基于概率預測下一個字符的算法時，我們實際上是在拿現(xiàn)實做賭注。

AI的「幻覺」問題在日常閑聊中或許只是一個笑話，但在重大公共安全事件或突發(fā)新聞面前，這種不穩(wěn)定性是致命的。

Grok的設計初衷帶有強烈的馬斯克個人色彩：追求實時性、反建制、擁抱混亂的社交媒體數(shù)據(jù)流。

然而，這次事件證明了，當海量的實時噪聲未經審視地喂給AI，產出的只能是扭曲的現(xiàn)實。

這暴露了生成式AI目前最大的軟肋：它們沒有價值觀，沒有邏輯錨點，甚至沒有區(qū)分「事實」與「虛構」的基本能力。

它們只是在統(tǒng)計學的海洋里，把看似相關的詞匯拼湊在一起。

在一個真相本就稀缺的時代，一個充滿偏見且時不時產生幻覺的AI，不再是輔助人類認知的工具，而可能成為混亂的放大器，火上澆油，濫用人們對強大AI的信任。

參考資料：

https://gizmodo.com/grok-is-glitching-and-spewing-misinformation-about-the-bondi-beach-shooting-2000699533

秒追ASI

?點贊、轉發(fā)、在看一鍵三連?

點亮星標，鎖定新智元極速推送！