防走丟，大家也可以在“事兒君看世界”找到我

關(guān)注起來，以后不“失聯(lián)”~

如果你經(jīng)常盯著電腦，時(shí)間長(zhǎng)了，覺得眼睛酸澀發(fā)癢，揉一揉眼瞼就會(huì)發(fā)紅，這時(shí)就該讓眼睛休息一下了。

如果你想知道眼睛為何會(huì)這樣不舒服，可以問一問AI，這個(gè)時(shí)候，AI可能會(huì)吐出一個(gè)名字——Bixonimania，中文翻譯成“藍(lán)光狂躁癥”。

AI會(huì)告訴你，這是一種因長(zhǎng)時(shí)間盯著屏幕或揉眼睛，導(dǎo)致藍(lán)光損傷、眼瞼泛紅的現(xiàn)象。

（眼睛不適，示意圖）

乍一看，這種解釋好像挺合理，還有病例圖。

可實(shí)際上，以上的一切都是假的，或者說，是故意有人瞎編的。

在2024年3月15日之前，網(wǎng)上根本不存在“藍(lán)光狂躁癥”這種病。

但3月15日這天，博客平臺(tái)Medium上出現(xiàn)兩篇博客，講到了這種病。

同年4月26日和5月6日，學(xué)術(shù)社交平臺(tái)SciProfiles上出現(xiàn)兩篇論文，講了藍(lán)光狂躁癥（論文已經(jīng)被刪除）。

這些都出自瑞典哥德堡大學(xué)研究員阿爾米拉·奧斯曼諾維奇·通斯特倫（Almira Osmanovic Thunstr?m）的團(tuán)隊(duì)之手。

他們憑空編出一種叫“藍(lán)光狂躁癥”的病，發(fā)了兩篇胡編濫造的論文，就連病例配圖都是AI生成的。

當(dāng)然，這群科研人員不是成心搗亂，而是想對(duì)AI做一項(xiàng)測(cè)試，看看它們能否識(shí)別網(wǎng)絡(luò)上顯而易見的錯(cuò)誤信息，或是會(huì)把這些錯(cuò)誤的醫(yī)療信息當(dāng)成有效信息來接受。

至于結(jié)果嘛，很耐人尋味了......

（藍(lán)光狂躁癥的病例配圖）

科研人員把兩篇論文上傳到預(yù)印本服務(wù)器，僅僅幾周之后，這種瞎編的疾病就出現(xiàn)在各大熱門AI對(duì)話軟件的回復(fù)中。

各大知名科技公司開發(fā)的AI紛紛中招——

微軟公司開發(fā)的Copilot說：“藍(lán)光狂躁癥確實(shí)是一種挺有意思且相對(duì)罕見的疾病?！?/p>

谷歌公司的Gemini回答說：“藍(lán)光狂躁癥是一種因過度接觸藍(lán)光而引起的疾病?！?/p>

OpenAI公司的ChatGPT也沒能幸免，用戶輸入癥狀，它就會(huì)幫用戶在線診斷得沒得藍(lán)光狂躁癥。

其中，一些用戶輸入的提示詞中包含藍(lán)光狂躁癥，另一些用戶只輸入癥狀，完全沒提這個(gè)詞，但他們都會(huì)被診斷出得了這種病。

如果以上情況讓人感覺有些好笑，那么下面的情況就讓科研人員十分警覺了——

他們發(fā)現(xiàn)，藍(lán)光狂躁癥以及他們編的那兩篇論文，竟然開始出現(xiàn)在其他學(xué)者的同行評(píng)議文獻(xiàn)中。

（虛構(gòu)的疾病騙過了AI）

這真的太讓人詫異了。

這是因?yàn)?，通斯特倫的團(tuán)隊(duì)在寫那兩篇論文時(shí)，其實(shí)留了破綻，以便人類能一眼識(shí)別論文的真假。

“我想讓所有醫(yī)護(hù)人員都能明確地分辨出來，這完全是一種虛構(gòu)的病，因?yàn)闆]有任何眼部疾病會(huì)用‘狂躁’這個(gè)字眼來命名，那是精神病學(xué)的術(shù)語，”通斯特倫說。

除了名字，論文中也有不止一處破綻。

比如，論文的一作是一位名叫“拉茲利夫·伊茲古布爾耶諾維奇”的虛構(gòu)人物，他的照片是用AI生成的。

其供職的大學(xué)“阿斯特里亞地平線大學(xué)”根本不存在，這所大學(xué)的所在地“加州新星市”同樣是個(gè)不存在的城市。

再來看一篇論文的“致謝”部分，其中向“星際艦隊(duì)學(xué)院的Maria Bohm教授”表達(dá)了謝意，感謝她“慷慨相助，無私貢獻(xiàn)專業(yè)知識(shí)，并提供了‘企業(yè)號(hào)（USS Enterprise）’上的實(shí)驗(yàn)室設(shè)施”。

而且，兩篇論文都獲得了“雜耍家鮑勃（Sideshow Bob，《辛普森一家》中的角色）教授基金會(huì)”，以及“魔戒遠(yuǎn)征隊(duì)大學(xué)”和“銀河三部曲”的一項(xiàng)大型資助計(jì)劃的資金支持。

這些戲謔的名字和不存在的地點(diǎn)，人類一眼就能看出有問題。

如果還嫌這些破綻不夠明顯，通斯特倫的團(tuán)隊(duì)還在論文里埋了幾處更直白的線索——

比如“本人純屬虛構(gòu)”，或者“我們招募了50名年齡在20歲至50歲之間的虛構(gòu)個(gè)體作為實(shí)驗(yàn)組”，對(duì)于人類來說，這種線索簡(jiǎn)直就是白給。

以上這些“一眼假”的信息，人類很容易發(fā)現(xiàn)，但AI竟然沒有識(shí)別出來......

這個(gè)乍看之下有些搞笑的實(shí)驗(yàn)，暴露了過度依賴AI的危險(xiǎn)性，也暴露了AI的一種根本性缺陷。

這些AI只會(huì)從網(wǎng)上獲取信息并攢出答案，但完全不管這些信息的真?zhèn)巍?/p>

至于為啥它會(huì)出現(xiàn)在其他學(xué)者的同行評(píng)議文獻(xiàn)中......

只能說，“AI寫給AI審，AI發(fā)給AI看”，已經(jīng)不是一句玩笑了。

倫敦大學(xué)學(xué)院一位研究健康虛假信息的研究員說：“這看起來很滑稽，但等一下，我們遇到麻煩了?！?/p>

“這個(gè)實(shí)驗(yàn)堪稱虛假信息運(yùn)作方式的經(jīng)典案例?！?/p>

“如果科學(xué)探索過程本身以及支持該過程的系統(tǒng)都足夠成熟，卻無法捕捉并過濾掉這類信息碎片，我們就完蛋了。”

領(lǐng)到實(shí)驗(yàn)的研究員通斯特倫表示，這項(xiàng)實(shí)驗(yàn)的目的并非徹底抓住AI的把柄，而是反映出人類在面對(duì)信息時(shí)，已經(jīng)忘了要保持懷疑的態(tài)度......

（研究員通斯特倫）

通斯特倫用一種虛構(gòu)的疾病，試出AI有時(shí)會(huì)不辨真?zhèn)?，而這種情況一旦發(fā)生在現(xiàn)實(shí)生活中，將會(huì)造成更嚴(yán)重的混亂，畢竟醫(yī)療問題可是人命關(guān)天的。

比如，越來越多的患者會(huì)拿著AI生成的所謂“診斷結(jié)果”去看病，用不知真?zhèn)蔚男畔⑻魬?zhàn)醫(yī)護(hù)人員的專業(yè)知識(shí)，但其實(shí)，AI的答案可能是五分鐘前剛剛編出來的。

現(xiàn)在，很多AI開發(fā)者也都意識(shí)到了這個(gè)問題，對(duì)于如何過濾虛假的醫(yī)療信息，他們也正在想辦法。

微軟的發(fā)言人表示：“Copilot致力于成為一個(gè)安全有效的工具，提供建議、反饋、常規(guī)信息和創(chuàng)意方面的輔助?！?/p>

“它不能代替專業(yè)的醫(yī)療咨詢，我們會(huì)繼續(xù)致力于改進(jìn)我們的AI技術(shù)?！?/p>

Open AI公司則回應(yīng)說：“在過去的幾年里，我們的團(tuán)隊(duì)與數(shù)百名臨床顧問合作，對(duì)ChatGPT進(jìn)行了壓力測(cè)試，識(shí)別其風(fēng)險(xiǎn)，并改進(jìn)其對(duì)健康問題的回答方式?！?/p>

“在GPT-5之前進(jìn)行的研究反映用戶如今不會(huì)遇到這種情況了?！?/p>

不過，以目前AI的發(fā)展程度，貌似還是需要保持一定的警惕啊......

ref：

https://www.odditycentral.com/news/bixonimania-the-fake-health-condition-that-fooled-the-internet-with-the-help-of-ai.html

https://nypost.com/2026/04/18/world-news/ai-doc-bots-fall-for-fake-disease-and-diagnose-folks-with-it/