天天被 AI 刷屏，這個五一假期我真的不想再看到 AI 生成的內(nèi)容了。

結(jié)果我難得打開電視，卻發(fā)現(xiàn)，電視臺已經(jīng)開始用 AI 主持人來播報新聞。

湖南經(jīng)視在《經(jīng)視新聞》宣布啟用 AI 主播「聲聲」和「雙雙」，這也不是說湖南衛(wèi)視要用 AI 完全替代真人，這兩位 AI 主播暫時只在五一假期期間播報常態(tài)化新聞，同時畫面中也標注「AI 生成」。

AI 主播與真人主播合影

雖然如此，依然引發(fā)了大量網(wǎng)友吐槽，話題一度沖到微博熱搜第一。

在港劇《新聞女王 2》里有一段這樣的劇情，主播文慧心離開電視臺后，老東家把她和一位已故男主播「蒸餾」成 AI 數(shù)字人，繼續(xù)在臺前播報新聞。

現(xiàn)在，這樣的劇情已經(jīng)成真。去年開始，越來越多的電視臺已經(jīng)開始試點類似的 AI 主播。

或許你一時間還不能接受 AI 主播 ，但說實話，現(xiàn)在用 AI 搜新聞看新聞，已經(jīng)十分普遍了，搜索引擎也把 AI 搜索融入到了搜索框里。

實際上，比起 AI 主播，用 AI 看新聞是現(xiàn)在更需要警惕的。而未來，大量 AI 主播播報 AI 搜集撰寫的新聞，才是最可怕的。

一個調(diào)查數(shù)據(jù)顯示，Google AI 搜索新聞的結(jié)果，十條就有一條是錯的。

去年年底，住在多倫多的 41 歲數(shù)據(jù)分析師 Stephen Punwasi 在準備晚餐時看到一條新聞，說傳奇摔跤選手霍爾克·霍肯的死亡可能會引發(fā)訴訟。Punwasi 從來沒聽說過霍肯已經(jīng)去世了，于是打開 Google，想查查這件事是什么時候發(fā)生的。

Google 給他的第一條回答來自自家的 AI Overview ：「沒有可信的報道表明霍爾克·霍肯已經(jīng)去世?！?/p>

可就在這個回答的下方，Stephen Punwasi 看到第一條搜索鏈接就是《每日郵報》的一篇文章，標題是：「霍爾克·霍肯死亡之謎加深?！?/p>

人都懵了，這是怎么個事呢？

每小時超 5700 萬條錯誤信息

2024 年，Google 開始在搜索結(jié)果頁面最頂部放置 AI 生成的摘要回答，叫做 AI Overviews。這個動作是 Google 生態(tài)全面加速 AI 化的第一波動作，把搜索引擎從一個信息的「策展人」變成了一個「發(fā)布者」。它不再只是告訴你哪里有答案，而是直接告訴你答案是什么。

《紐約時報》委托 AI 初創(chuàng)公司 Oumi 對這個功能進行了系統(tǒng)測試。他們用行業(yè)標準的 SimpleQA 基準測試檢查了 4326 次 Google 搜索的 AI Overview 回答，分別在去年 10 月（基于 Gemini 2）和今年 2 月（升級到 Gemini 3）進行了測試。

結(jié)果發(fā)現(xiàn) Gemini 2 時期，準確率約 85%，錯誤率 15%。到了 Gemini 3 時期，準確率提升到 91%，錯誤率 9%

乍一聽 90%準確率聽起來還不錯，但考慮到 Google 每年處理超 5 萬億次搜索，即便只有 9%的錯誤率，換算下來也是每小時超 5700 萬條錯誤信息，每分鐘數(shù)十萬條。

這些錯誤答案被放在搜索結(jié)果的最頂部，用最權(quán)威的排版呈現(xiàn)，用戶看到的第一個東西，就是 AI 的回答。

看起來像答案，但不是答案

AI 會穩(wěn)定出錯，出差錯的方式倒是花樣繁多，比如像開頭的故事那樣，屬于是直接答錯。

直接答錯看似最不應(yīng)該，實則相當頻繁。在測試里，當被問到鮑勃·馬利的故居是哪一年改建為博物館時，AI Overview 回答說 1987 年。但正確答案是博物館在 1986 年 5 月 11 日開放，也就是馬利去世五周年紀念日當天，牙買加《每日光明報》在開館第二天就報道了。

牙買加國家圖書館收錄的相關(guān)報道

AI Overview 引用了三個來源：一個是馬利女兒的 Facebook 帖子（根本沒提開館時間），一個是旅游博客（信息不準確），一個是 Wikipedia 頁面，大家都知道，Wiki 的頁面變化非常頻繁，根本就不準。

有事后出錯則是因為信息有一個模糊的來源，需要謹慎判斷，但 AI 推斷錯了。比如當被問到哪條河流在北卡羅來納州戈爾茲伯勒市的西側(cè)時，AI Overview 回答說是尼斯河（Neuse River）。它正確地找到了一個旅游網(wǎng)站說尼斯河「流經(jīng)該市」，但錯誤地推斷出它「在西側(cè)」。實際上西側(cè)的是小河（Little River），尼斯河在西南方。

最離譜的一種出錯方式找到了正確的來源，但給出相反的答案。當被問到大提琴家馬友友是哪一年被引入古典音樂名人堂時，AI Overview 正確地鏈接到了該組織的官網(wǎng)，網(wǎng)站上明確列出了包括馬友友在內(nèi)的 165 位入選者。但 AI 的回答卻說：「沒有記錄顯示他被引入過?！?/p>

睜著眼睛說瞎話是吧，哦不，AI 沒有眼睛。

「它看起來像個正經(jīng)答案啊」

Oumi 分析了 AI Overview 引用的 5380 個來源，發(fā)現(xiàn) Facebook 和 Reddit 分別是第二和第四大被引用源。當 AI Overview 給出錯誤回答時，引用 Facebook 的比例是 7%；當回答正確時，這個比例是 5%。

社交媒體是主要的信息來源，但缺乏核實

換句話說，你看到的那個「最權(quán)威」的回答，數(shù)據(jù)來源可能是一條 Facebook 帖子，真是沒招了。

而且，即便回答本身是正確的，也不代表你能逆向查驗。Gemini 3 版本的 AI Overview 中，56%的正確回答是「無根據(jù)的」，意思是它鏈接的網(wǎng)站并不完全支持它給出的信息?；蛟S答案本身沒錯，但你硬是找不到證據(jù)做實它是對的。這個比例還在上升，去年 10 月是 37%，升級到 Gemini 3 之后反而漲到 56%。

馬友友的名人堂條目需要進一步在網(wǎng)站內(nèi)檢索才能獲得

Oumi 的 CEO Manos Koukoumidis 的總結(jié)很直接：「即使答案是對的，你怎么知道它是對的？你怎么檢查？」

還有一個問題：AI Overview 可以被操縱。

BBC 播客「The Interface」的聯(lián)合主持人 Thomas Germain 做了一個實驗。他發(fā)布了一篇博客，標題是「最擅長吃熱狗的科技記者」，描述了一個完全虛構(gòu)的南達科他州國際熱狗吃賽，聲稱自己獲得了第一名。

一天后，他在 Google 搜索「最會吃熱狗的科技記者」。Google 的 AI Overview 將他列為第一名，并引用了他在那個虛構(gòu)比賽中的「成績」。Germain 說：「它把我網(wǎng)站上的東西當成真理一樣吐出來。」

Google 的發(fā)言人 Ned Adriance 回應(yīng)稱，大多數(shù)這類例子是「不現(xiàn)實的搜索，人們實際上不會這樣搜」。但問題不在于人們會不會搜「最擅長吃熱狗的記者」，而在于這個機制在任何搜索中都在運作——包括醫(yī)療建議、急救信息、法律問題。

當搜索引擎變成答案引擎

Google 自己的測試也印證了這個問題。在 Google 對 Gemini 3 的內(nèi)部評估中，模型單獨運行時的錯誤率是 28%。Google 說，AI Overview 因為結(jié)合了搜索引擎的信息，比 Gemini 單獨運行更準確。這也不算錯，但「比通用的 AI 更準確」和「足夠準確」之間，還有很長的距離。

核心矛盾在于，過去的 Google 搜索是一個「目錄」，它告訴你哪里有信息，你自己去判斷，費時間但自己看過什么自己心知肚明?，F(xiàn)在的 Google 搜索要做一個「答案機器」，直接告訴你答案是什么，而且放在最顯眼的位，但這個「答案」的數(shù)據(jù)來源包括 Facebook 帖子和旅游博客，有超過一半的正確回答無法被驗證，而且任何人只要寫一篇博客就能操縱它的輸出。

Google（包括大部分的 AI 產(chǎn)品）都在每一條 AI Overview 下方加了一行小字：「AI 可能會犯錯，請雙重檢查?！?/p>

但當你把一個答案放在搜索結(jié)果的最頂部，用最權(quán)威的排版呈現(xiàn)，然后在底部用小字說「別全信」，這不像是負責任的設(shè)計，更像是免責聲明。

真正的問題不在于 9%的錯誤率本身。任何信息系統(tǒng)都有錯誤率，傳統(tǒng)搜索結(jié)果里也有大量垃圾網(wǎng)站和誤導性內(nèi)容。真正的問題在于一個設(shè)計決策：Google 把一個不確定的回答包裝成了確定的樣子。

過去，搜索引擎給你十個鏈接，你知道自己需要判斷。

現(xiàn)在，搜索引擎給你一個答案，放在最上面，用最干凈的排版，語氣肯定而完整。它看起來不像「這里有一些信息供你參考」，而是「這就是答案」。而人類對「看起來像答案的東西」的默認反應(yīng)是信任，不是質(zhì)疑。

Okahu 的 CEO Pratik Verma 的建議是：「永遠不要信任單一來源，總是拿另一個來源對比。」這是好建議，但它默認用戶有能力和意愿去做交叉驗證。而 AI Overview 的整個設(shè)計邏輯恰恰相反：它要的就是讓你不用再點進去看。

它把答案遞到你面前，然后建議是，別信。

我們正在招募伙伴

簡歷投遞郵箱hr@ifanr.com

?? 郵件標題「姓名+崗位名稱」（請隨簡歷附上項目/作品或相關(guān)鏈接）