2025年無疑是人工智能迅猛發(fā)展的一年，但這給人們帶來的并不都是益處。美國專欄作家安娜莉·紐伊茨（Annalee Newitz）在《新科學(xué)家》刊文指出，人工智能生成的內(nèi)容并不都是真實可靠的，若不采取措施遏制，我們的信息流將被人工智能生成的“泔水”淹沒。

原文 ：《 <新科學(xué)家> ：警惕人工智能生成的低質(zhì)內(nèi)容污染》

編譯 |李彥文

圖片 |網(wǎng)絡(luò)

2025年是人工智能發(fā)展史上的飛躍之年，但也被人們批評為“泔水之年”（year of slop）。“泔水”是一個流行語，指的是人工智能生成的漏洞百出、光怪陸離的內(nèi)容，這些內(nèi)容幾乎已經(jīng)腐蝕了互聯(lián)網(wǎng)上的每個平臺，也在腐蝕我們的思想。

過去的幾年里，人工智能領(lǐng)域已經(jīng)積累了足夠多的“泔水”，現(xiàn)在，科學(xué)家們可以測量其對人們的影響了。麻省理工學(xué)院的研究人員發(fā)現(xiàn)，使用大型語言模型（LLM，比如ChatGPT背后的語言模型）來寫文章的人，其大腦活動要比不使用的人少得多。此外，聊天機(jī)器人也會對我們的心理健康產(chǎn)生潛在的不良影響。有報道稱，某些聊天機(jī)器人會鼓勵人們相信自己的幻想或陰謀論，并可能誘導(dǎo)自殘，從而引發(fā)或加重精神疾病。

深度造假也已成為常態(tài)，使得網(wǎng)上內(nèi)容的真實性無法被核實。微軟的一項研究顯示，人們只能在62%的情況下識別出人工智能生成的視頻?，F(xiàn)在，利用人工智能生成足以亂真的視頻變得輕而易舉。OpenAI推出了應(yīng)用程序Sora，這個文生視頻大模型幾乎完全由人工智能生成內(nèi)容，只有一處例外——它會掃描用戶面部信息，將真人形象嵌入其生成的虛構(gòu)場景中。針對這一問題，OpenAI的創(chuàng)始人薩姆·奧爾特曼（Sam Altman）只是輕描淡寫地回答，他允許人們利用他本人的形象進(jìn)行《斯基比迪馬桶人》（Skibidi Toilet）風(fēng)格的視頻制作，由此對可能產(chǎn)生的爭議進(jìn)行輕松化解。

人工智能生成的“泔水”不僅會給我們的生活與工作造成影響，而且會對我們的歷史造成損害。我們將事物付諸文字或影像記錄的重要原因之一，正是想要留下特定時代的人類活動記錄。當(dāng)我寫作時，我希望為未來的人創(chuàng)造記錄，讓五千年后的人們能窺見我們真實的面貌，包括所有的混亂與不完美。但現(xiàn)在，當(dāng)撰寫考古學(xué)相關(guān)書籍時，我常常擔(dān)憂未來的歷史學(xué)家在回顧這個時代的媒體資料時，會觸碰到內(nèi)容中的“污泥層”——那些由人工智能生成的、光鮮卻充滿謊言的信息。

人工智能聊天機(jī)器人只會反芻沒有意義的話，它可以生成內(nèi)容，但無法取代人們的真實記憶。從歷史視角來看，讓由人工智能生成的內(nèi)容充斥信息流，在某種程度上比鼓動性宣傳更可怕。至少，鼓動性宣傳是由人類懷著特定目的進(jìn)行的，能揭示社會存在的政治生態(tài)與問題癥結(jié)。而“泔水”正在將我們從自身的歷史記錄中抹除，其背后的意圖比人為宣傳更難以捉摸。

當(dāng)下，由“Z世代”（1990年代末至2010年代初出生的人）掀起的關(guān)于“6-7”的熱潮滲入主流文化，“6-7”也被Dictionary.com評為2025年度詞匯。這或許是人們對文化“泔水化”的一種抵抗手段——創(chuàng)造毫無意義的詞語，頗具黑色幽默色彩。當(dāng)你對某個問題沒有確切答案時，甚至是在沒有任何理由的情況下，你都可以說“6-7”。例如，未來會怎樣？6-7。人工智能“泔水”會對藝術(shù)產(chǎn)生怎樣的影響？6-7。我們將如何在未來極具不確定性的世界中穿行？6-7。

我很想看看人工智能公司能否根據(jù)“6-7”生成內(nèi)容，但它們做不到，因為人類將永遠(yuǎn)領(lǐng)先于“泔水”一步，不斷創(chuàng)造出只有人類才能真正欣賞的新形式。這種專屬于人與人之間的默契，或許是我們得以在人工智能時代，依然保留“人之為人”特質(zhì)的一個主要原因。

文章為社會科學(xué)報“思想工坊”融媒體原創(chuàng)出品，原載于社會科學(xué)報第1984期第7版，未經(jīng)允許禁止轉(zhuǎn)載，文中內(nèi)容僅代表作者觀點，不代表本報立場。

本期責(zé)編：程鑫云

《社會科學(xué)報》2026年征訂

點擊下方圖片網(wǎng)上訂報↓↓↓