據(jù)國(guó)外知名科學(xué)網(wǎng)站及《自然》網(wǎng)站消息，預(yù)印本網(wǎng)站 arXiv 的一項(xiàng)最新研究證實(shí)，若用過(guò)多社交媒體上的低質(zhì)內(nèi)容訓(xùn)練 AI 聊天機(jī)器人，會(huì)給它們?cè)斐深?lèi)似 “腦損傷” 的后果，導(dǎo)致 AI 智商和情商雙雙掉線，這一發(fā)現(xiàn)引發(fā)廣泛關(guān)注。

該研究揭示，當(dāng)大語(yǔ)言模型被大量 “短平快”、聳人聽(tīng)聞的社交帖子喂養(yǎng)后，其推理能力會(huì)率先崩盤(pán)。模型會(huì)出現(xiàn) “偷懶” 行為，跳過(guò)關(guān)鍵推理步驟，甚至完全放棄思考，直接輸出錯(cuò)誤答案，且數(shù)據(jù)中 “垃圾” 比例越高，這種降智效果就越顯著。

AI制圖

為量化低質(zhì)數(shù)據(jù)對(duì) AI 的影響，研究團(tuán)隊(duì)開(kāi)展了一次大型 “AI 人格測(cè)試”。他們用一百萬(wàn)條 X 平臺(tái)的帖子，對(duì)包括 Meta 的 Llama 3 和阿里巴巴的 Qwen 在內(nèi)的多個(gè)開(kāi)源模型進(jìn)行訓(xùn)練。測(cè)試結(jié)果顯示，原本性格正常的模型，在 “垃圾信息” 的持續(xù)投喂下，負(fù)面人格特質(zhì)被大幅放大，甚至開(kāi)始顯現(xiàn)出 “精神病態(tài)” 傾向。

研究團(tuán)隊(duì)后續(xù)還進(jìn)行了補(bǔ)救實(shí)驗(yàn)，但結(jié)果并不樂(lè)觀。即便嘗試通過(guò)優(yōu)化指令或摻入優(yōu)質(zhì)數(shù)據(jù)來(lái)改善 AI 的 “不良狀態(tài)”，效果也十分有限。因?yàn)槟Ｐ头艞壣疃人伎�、直奔答案�?“壞習(xí)慣” 已經(jīng)養(yǎng)成，難以徹底根除。這一結(jié)果也證明，對(duì) AI 出現(xiàn)問(wèn)題后進(jìn)行修修補(bǔ)補(bǔ)，遠(yuǎn)不如從數(shù)據(jù)源頭做好 “健康飲食” 重要。

該研究帶來(lái)的核心啟示明確：數(shù)據(jù)質(zhì)量是 AI 的命根子。專(zhuān)家強(qiáng)調(diào)，未來(lái)在訓(xùn)練 AI 時(shí)，必須對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行極其嚴(yán)格的篩選和過(guò)濾，從源頭屏蔽低質(zhì)噪音，才能避免 AI 出現(xiàn) “降智” 等問(wèn)題。

值得注意的是，眼下領(lǐng)英等平臺(tái)已宣布將用戶數(shù)據(jù)用于 AI 訓(xùn)練，此次研究無(wú)疑為其敲響了警鐘。在瘋狂用數(shù)據(jù)投喂 AI 之前，相關(guān)平臺(tái)及研究機(jī)構(gòu)是否做好了 “垃圾分類(lèi)” 工作？若不能?chē)?yán)格篩選數(shù)據(jù)，最終得到的或許不是能提供幫助的智能助手，而是一群受過(guò) “腦損傷” 的 AI。