所謂ai幻覺，說人話就是：大數(shù)據(jù)模型一本正經(jīng)地給你胡說八道，但是由于其輸出過程過于有條理有邏輯，且表述過程中甚至不惜引經(jīng)據(jù)典，加上“AI很強(qiáng)”的外部氛圍，導(dǎo)致你一不留神，就會誤以為真——其實(shí)通篇都在扯淡。

AI幻覺這玩意兒不是新鮮事，早在ChatGPT剛推出時已經(jīng)有了“很多”討論，后面到了o4、o1以及現(xiàn)在最新的o3，一方面是癥狀減輕了，另一方面是因?yàn)槲覀円呀?jīng)積累了足夠多的、與ChatGPT斗智斗勇的經(jīng)驗(yàn)了——不停地在google做fact-checking，一遍又一遍地跟它argue。

但，我確實(shí)低估了兩件事：

1）ChatGPT的高門檻。限定梯子+如果你要流暢訂閱ChatGPT Plus你甚至有一張香港銀行卡都不行，因?yàn)镺pen AI在香港未開通付費(fèi)服務(wù)。過去幾個月我?guī)椭撕脦孜慌笥验_通ChatGPT Plus訂閱，很多朋友都是老網(wǎng)民了，依然搞不定，其門檻真的高得離譜。

2）與之相比，從春節(jié)前開始爆發(fā)的，因?yàn)閐eepseek之低門檻、免費(fèi)、人人可用（甚至我給爸媽手機(jī)都裝上了，跟他們說這是baidu最新款 emmm，以后不用百度用這個），其在簡中的普及程度并非ChatGPT可比。也因?yàn)閐eepseek之免費(fèi)，許多用戶是以休閑、體驗(yàn)、分享的心態(tài)來使用，而非我身邊的自媒體從業(yè)者，愿意一個月給美帝20刀購買ChatGPT訂閱——因?yàn)檫@是吃飯的家伙，所以會不停地總結(jié)工具的使用心得，鍛煉出強(qiáng)勁的fact-checking經(jīng)驗(yàn)。

3）當(dāng)然，也是因?yàn)閐s在中文本地化的語境中，打造出了一套更適合中國國情的表達(dá)方式，中文表達(dá)更優(yōu)于chat；“邏輯正確，答案也正確”，這種潛移默化的思維（如果你在大廠上過班，你一定會修煉出所謂的，通過一份ppt，把一團(tuán)垃圾的結(jié)果，匯報(bào)成一場偉大戰(zhàn)役的功夫），我們理科至上、文科生靠邊站的思維，使得人稍不留神就被中招。

最終的結(jié)果，就是dk生成了大量的、天馬行空的謬誤。這些謬誤，嚴(yán)重地污染了簡體中文互聯(lián)網(wǎng)（而本身deepseek在信源引用上，跟ChatGPT相比，確實(shí)做得不如）。

今日公眾號上看到一篇，好家伙，幻覺都變長城了，好文章。感興趣可以看看。

如今在小紅書上，可以刷到了無數(shù)ds生成的帖子，前陣子我看到一個很有代表性，叫做《我聽了這么多年五月天，還不如deepseek》，大概是讓deepseek說說五月天音樂里的彩蛋：這里面全特么是扯幾把蛋，但是評論區(qū)里都是大呼小叫，我留言了一句：我說你們就不能自己去查查看嗎？沒人理我。

兩周前我的朋友紅老師也在第一時間試用了deepseek之后給我發(fā)來賀電，分享了她和ds討論她的愛豆woodz的音樂風(fēng)格、路線、趨勢，因?yàn)槲視缘胐eepseek對音樂文本的無能，所以本能反應(yīng)也是——這特么的一眼假啊。邏輯沒問題，但是這里面的論據(jù)、信源都是扯淡的啊。它本義就是一個大數(shù)據(jù)生成（搜索）模型，如果本身信源是不存在的，它能怎么得知呢？

我就隨便點(diǎn)開紅老師發(fā)給我的圖：隨便進(jìn)去一首歌吧，這里說：

1.人聲處理黑科技

·雙聲道交替(《Trigger》副歌)：左右聲道分別錄制不同音高，營造眩暈感

這，我壓根沒聽出這首歌里的左右聲道有什么高八度低八度，而且不同音高本身根本不會制造眩暈感啊，如果要左右聲道錄double、通過音高作出區(qū)分，那是增強(qiáng)力道??？眩暈感是通過混響、延遲整的?。縟eepseek你在說啥呢？

·呼吸聲放大(《Bump Bump》前奏):將吸氣聲提升 6dB作節(jié)奏組件

這首歌前奏哪里有吸氣聲了……？吸氣聲提升6db做beat？不是哥們，這是什么玩意兒??？就算我當(dāng)你是有吸氣聲，但是“提升”肯定要有相對對吧，你是跟什么相對呢？你推大音量，你也要有“標(biāo)準(zhǔn)”對吧？這完全就是一個狗屁不通的描述??？

·元音拉伸(《Waiting》橋段):將”oh”音采樣后時間拉伸 300%制造太空感

不是哥們，這首歌有bridge嗎？橋在哪里？我連橋都找不到。

哦哦，說的是副歌后面的那個oh了一下的？這個真要說應(yīng)該是“后副歌”，以及……這樣采樣拉伸300%，也是純粹扯淡了。

好好好，下面還有：

2.節(jié)拍設(shè)計(jì)密碼

反拍陷阱:在 4/4拍中植入7/8拍吉他切分(《Dirt on my leather》)

Dirt on my leather這首歌確實(shí)是四四拍，確實(shí)也是走的rock band風(fēng)格，有一把電吉他從頭貫穿始終，但是7/8從何而來？這吉他彈的就是一個比較hard rock的，一直在彈call & response，節(jié)拍是一直跟著鼓組的，并沒有任何復(fù)合節(jié)奏的意思。

心跳模擬:BPM嚴(yán)格對應(yīng)心率變化曲線(《l hate you》從72BPM漸增至128BPM)

喂喂喂，這首歌從頭到尾的速度都沒有變化??？BPM一直穩(wěn)定在86左右啊，這心率曲線是什么來的？

破碎節(jié)拍:用 Ableton Live的 Beat Repeat功能隨機(jī)切碎鼓組(《Chaser》)

Live里面確實(shí)是有一個叫做Beat Repeat的功能，打開里面確實(shí)是能把鼓組切碎，但是這首chaser里面，鼓組一直都是非常穩(wěn)定的?。磕睦锼榱?？

所以到了后面風(fēng)格預(yù)測那些，大可笑笑罷了。

我確定了，紅老師這是對我進(jìn)行釣魚，他就是希望以此摁頭讓我去聽他家愛豆的歌，讓我好好復(fù)習(xí)一下，然后讓我去懟DeepSeek，讓我給她說說，未來她的哥哥音樂會怎么走，她一定是在釣魚。100%的。

總之，AI幻覺不是deepseek的問題，ChatGPT也一樣跑火車，當(dāng)然ChatGPT跑的程度會少一點(diǎn)（最新發(fā)布的o3貌似跑得離譜一些了），可deepseek的語言模型實(shí)在太真了，太言之確鑿了，而且使用ds的門檻太低了，適用人數(shù)太多了，這里所造成的ai幻覺，確實(shí)是長城一般了。如之前紅老師給我發(fā)的這些，我當(dāng)然可以說，一眼假，不信我打開歌曲聽聽，看看是不是都是扯淡——但是，如果討論的是我不清楚的領(lǐng)域呢？我能否有這么輕松的方式去鑒定真?zhèn)危烤拖袢缃竦膞iaohongshu里，到處都是“我跟ds聊了聊XX”的內(nèi)容，每次標(biāo)題都很酷，我都點(diǎn)進(jìn)去看了，結(jié)果又變著戲法再推給我這些玩意兒。AI確實(shí)是很強(qiáng)大的東西，但目前的AI有著巨大的技術(shù)缺陷，“顛覆了傳統(tǒng)知識傳播鏈條——專業(yè)論文→科普文章→網(wǎng)絡(luò)內(nèi)容”，你以為AI里面說的都是對的，尤其是它說出大量的專業(yè)詞匯、超出你的學(xué)科認(rèn)知的時候，其信息量之大，你幾乎無從下手，無可辨別。

人無可替代。這是Ai自己都知道的事兒。???????