所謂ai幻覺(jué)，說(shuō)人話就是：大數(shù)據(jù)模型一本正經(jīng)地給你胡說(shuō)八道，但是由于其輸出過(guò)程過(guò)于有條理有邏輯，且表述過(guò)程中甚至不惜引經(jīng)據(jù)典，加上“AI很強(qiáng)”的外部氛圍，導(dǎo)致你一不留神，就會(huì)誤以為真——其實(shí)通篇都在扯淡。

AI幻覺(jué)這玩意兒不是新鮮事，早在ChatGPT剛推出時(shí)已經(jīng)有了“很多”討論，后面到了o4、o1以及現(xiàn)在最新的o3，一方面是癥狀減輕了，另一方面是因?yàn)槲覀円呀?jīng)積累了足夠多的、與ChatGPT斗智斗勇的經(jīng)驗(yàn)了——不停地在google做fact-checking，一遍又一遍地跟它argue。

但，我確實(shí)低估了兩件事：

1）ChatGPT的高門(mén)檻。限定梯子+如果你要流暢訂閱ChatGPT Plus你甚至有一張香港銀行卡都不行，因?yàn)镺pen AI在香港未開(kāi)通付費(fèi)服務(wù)。過(guò)去幾個(gè)月我?guī)椭撕脦孜慌笥验_(kāi)通ChatGPT Plus訂閱，很多朋友都是老網(wǎng)民了，依然搞不定，其門(mén)檻真的高得離譜。

2）與之相比，從春節(jié)前開(kāi)始爆發(fā)的，因?yàn)閐eepseek之低門(mén)檻、免費(fèi)、人人可用（甚至我給爸媽手機(jī)都裝上了，跟他們說(shuō)這是baidu最新款 emmm，以后不用百度用這個(gè)），其在簡(jiǎn)中的普及程度并非ChatGPT可比。也因?yàn)閐eepseek之免費(fèi)，許多用戶(hù)是以休閑、體驗(yàn)、分享的心態(tài)來(lái)使用，而非我身邊的自媒體從業(yè)者，愿意一個(gè)月給美帝20刀購(gòu)買(mǎi)ChatGPT訂閱——因?yàn)檫@是吃飯的家伙，所以會(huì)不停地總結(jié)工具的使用心得，鍛煉出強(qiáng)勁的fact-checking經(jīng)驗(yàn)。

3）當(dāng)然，也是因?yàn)閐s在中文本地化的語(yǔ)境中，打造出了一套更適合中國(guó)國(guó)情的表達(dá)方式，中文表達(dá)更優(yōu)于chat；“邏輯正確，答案也正確”，這種潛移默化的思維（如果你在大廠上過(guò)班，你一定會(huì)修煉出所謂的，通過(guò)一份ppt，把一團(tuán)垃圾的結(jié)果，匯報(bào)成一場(chǎng)偉大戰(zhàn)役的功夫），我們理科至上、文科生靠邊站的思維，使得人稍不留神就被中招。

最終的結(jié)果，就是dk生成了大量的、天馬行空的謬誤。這些謬誤，嚴(yán)重地污染了簡(jiǎn)體中文互聯(lián)網(wǎng)（而本身deepseek在信源引用上，跟ChatGPT相比，確實(shí)做得不如）。

今日公眾號(hào)上看到一篇，好家伙，幻覺(jué)都變長(zhǎng)城了，好文章。感興趣可以看看。

如今在小紅書(shū)上，可以刷到了無(wú)數(shù)ds生成的帖子，前陣子我看到一個(gè)很有代表性，叫做《我聽(tīng)了這么多年五月天，還不如deepseek》，大概是讓deepseek說(shuō)說(shuō)五月天音樂(lè)里的彩蛋：這里面全特么是扯幾把蛋，但是評(píng)論區(qū)里都是大呼小叫，我留言了一句：我說(shuō)你們就不能自己去查查看嗎？沒(méi)人理我。

兩周前我的朋友紅老師也在第一時(shí)間試用了deepseek之后給我發(fā)來(lái)賀電，分享了她和ds討論她的愛(ài)豆woodz的音樂(lè)風(fēng)格、路線、趨勢(shì)，因?yàn)槲視缘胐eepseek對(duì)音樂(lè)文本的無(wú)能，所以本能反應(yīng)也是——這特么的一眼假啊。邏輯沒(méi)問(wèn)題，但是這里面的論據(jù)、信源都是扯淡的啊。它本義就是一個(gè)大數(shù)據(jù)生成（搜索）模型，如果本身信源是不存在的，它能怎么得知呢？

我就隨便點(diǎn)開(kāi)紅老師發(fā)給我的圖：隨便進(jìn)去一首歌吧，這里說(shuō)：

1.人聲處理黑科技

·雙聲道交替(《Trigger》副歌)：左右聲道分別錄制不同音高，營(yíng)造眩暈感

這，我壓根沒(méi)聽(tīng)出這首歌里的左右聲道有什么高八度低八度，而且不同音高本身根本不會(huì)制造眩暈感啊，如果要左右聲道錄double、通過(guò)音高作出區(qū)分，那是增強(qiáng)力道啊？眩暈感是通過(guò)混響、延遲整的啊？deepseek你在說(shuō)啥呢？

·呼吸聲放大(《Bump Bump》前奏):將吸氣聲提升 6dB作節(jié)奏組件

這首歌前奏哪里有吸氣聲了……？吸氣聲提升6db做beat？不是哥們，這是什么玩意兒?。烤退阄耶?dāng)你是有吸氣聲，但是“提升”肯定要有相對(duì)對(duì)吧，你是跟什么相對(duì)呢？你推大音量，你也要有“標(biāo)準(zhǔn)”對(duì)吧？這完全就是一個(gè)狗屁不通的描述??？

·元音拉伸(《Waiting》橋段):將”oh”音采樣后時(shí)間拉伸 300%制造太空感

不是哥們，這首歌有bridge嗎？橋在哪里？我連橋都找不到。

哦哦，說(shuō)的是副歌后面的那個(gè)oh了一下的？這個(gè)真要說(shuō)應(yīng)該是“后副歌”，以及……這樣采樣拉伸300%，也是純粹扯淡了。

好好好，下面還有：

2.節(jié)拍設(shè)計(jì)密碼

反拍陷阱:在 4/4拍中植入7/8拍吉他切分(《Dirt on my leather》)

Dirt on my leather這首歌確實(shí)是四四拍，確實(shí)也是走的rock band風(fēng)格，有一把電吉他從頭貫穿始終，但是7/8從何而來(lái)？這吉他彈的就是一個(gè)比較hard rock的，一直在彈call & response，節(jié)拍是一直跟著鼓組的，并沒(méi)有任何復(fù)合節(jié)奏的意思。

心跳模擬:BPM嚴(yán)格對(duì)應(yīng)心率變化曲線(《l hate you》從72BPM漸增至128BPM)

喂喂喂，這首歌從頭到尾的速度都沒(méi)有變化??？BPM一直穩(wěn)定在86左右啊，這心率曲線是什么來(lái)的？

破碎節(jié)拍:用 Ableton Live的 Beat Repeat功能隨機(jī)切碎鼓組(《Chaser》)

Live里面確實(shí)是有一個(gè)叫做Beat Repeat的功能，打開(kāi)里面確實(shí)是能把鼓組切碎，但是這首chaser里面，鼓組一直都是非常穩(wěn)定的?。磕睦锼榱?？

所以到了后面風(fēng)格預(yù)測(cè)那些，大可笑笑罷了。

我確定了，紅老師這是對(duì)我進(jìn)行釣魚(yú)，他就是希望以此摁頭讓我去聽(tīng)他家愛(ài)豆的歌，讓我好好復(fù)習(xí)一下，然后讓我去懟DeepSeek，讓我給她說(shuō)說(shuō)，未來(lái)她的哥哥音樂(lè)會(huì)怎么走，她一定是在釣魚(yú)。100%的。

總之，AI幻覺(jué)不是deepseek的問(wèn)題，ChatGPT也一樣跑火車(chē)，當(dāng)然ChatGPT跑的程度會(huì)少一點(diǎn)（最新發(fā)布的o3貌似跑得離譜一些了），可deepseek的語(yǔ)言模型實(shí)在太真了，太言之確鑿了，而且使用ds的門(mén)檻太低了，適用人數(shù)太多了，這里所造成的ai幻覺(jué)，確實(shí)是長(zhǎng)城一般了。如之前紅老師給我發(fā)的這些，我當(dāng)然可以說(shuō)，一眼假，不信我打開(kāi)歌曲聽(tīng)聽(tīng)，看看是不是都是扯淡——但是，如果討論的是我不清楚的領(lǐng)域呢？我能否有這么輕松的方式去鑒定真?zhèn)危烤拖袢缃竦膞iaohongshu里，到處都是“我跟ds聊了聊XX”的內(nèi)容，每次標(biāo)題都很酷，我都點(diǎn)進(jìn)去看了，結(jié)果又變著戲法再推給我這些玩意兒。AI確實(shí)是很強(qiáng)大的東西，但目前的AI有著巨大的技術(shù)缺陷，“顛覆了傳統(tǒng)知識(shí)傳播鏈條——專(zhuān)業(yè)論文→科普文章→網(wǎng)絡(luò)內(nèi)容”，你以為AI里面說(shuō)的都是對(duì)的，尤其是它說(shuō)出大量的專(zhuān)業(yè)詞匯、超出你的學(xué)科認(rèn)知的時(shí)候，其信息量之大，你幾乎無(wú)從下手，無(wú)可辨別。

人無(wú)可替代。這是Ai自己都知道的事兒。???????