在讓AI模型顯得越來越令人印象深刻的競賽中，科技公司采用了戲劇化的語言表達(dá)方式。他們不斷地像談?wù)撊祟愐粯诱務(wù)揂I。不僅討論AI的"思考"或"規(guī)劃"——這些詞語本身就充滿爭議——現(xiàn)在他們還討論AI模型的"靈魂"，以及模型如何"坦白"、"想要"、"策劃"或"感到不確定"。

這不是無害的營銷修辭。將AI擬人化是誤導(dǎo)性的、不負(fù)責(zé)任的，最終會(huì)腐蝕公眾對這項(xiàng)技術(shù)的理解，而這項(xiàng)技術(shù)在透明度方面本就存在問題，在這個(gè)最需要清晰認(rèn)知的時(shí)刻。

大型AI公司的研究本意是揭示生成式AI的行為特點(diǎn)，但往往以混淆而非闡明的方式呈現(xiàn)。例如，OpenAI最近發(fā)布的一篇文章詳細(xì)介紹了讓其模型"坦白"錯(cuò)誤或捷徑的工作。這是一個(gè)有價(jià)值的實(shí)驗(yàn)，探索聊天機(jī)器人如何自我報(bào)告某些"不當(dāng)行為"，如幻覺和策劃。但OpenAI將這一過程描述為"坦白"暗示大語言模型的輸出背后存在心理因素。

這可能源于人們認(rèn)識(shí)到，大語言模型要實(shí)現(xiàn)真正的透明度是多么具有挑戰(zhàn)性。我們已經(jīng)看到，例如，AI模型無法可靠地展示其在解決數(shù)獨(dú)謎題等活動(dòng)中的工作過程。

AI能夠生成什么與它如何生成之間存在差距，這正是這種類人術(shù)語如此危險(xiǎn)的原因。我們本可以討論這項(xiàng)技術(shù)的真正局限性和危險(xiǎn)性，但將AI標(biāo)記為有認(rèn)知能力的存在的術(shù)語只會(huì)淡化擔(dān)憂或掩蓋風(fēng)險(xiǎn)。

AI沒有靈魂

AI系統(tǒng)沒有靈魂、動(dòng)機(jī)、感情或道德。它們不會(huì)因?yàn)楦械秸\實(shí)的驅(qū)動(dòng)而"坦白"，就像計(jì)算器在你按錯(cuò)鍵時(shí)不會(huì)"道歉"一樣。這些系統(tǒng)基于從龐大數(shù)據(jù)集中學(xué)到的統(tǒng)計(jì)關(guān)系生成文本模式。

就是這樣。

任何感覺像人類的東西都是我們將內(nèi)心生活投射到一面非常復(fù)雜的鏡子上。

將AI擬人化讓人們對這些系統(tǒng)的實(shí)際本質(zhì)產(chǎn)生錯(cuò)誤認(rèn)識(shí)。這會(huì)產(chǎn)生后果。當(dāng)我們開始將意識(shí)和情感智能賦予一個(gè)實(shí)際上不存在這些特質(zhì)的實(shí)體時(shí)，我們開始以它本不應(yīng)該被信任的方式信任AI。

今天，越來越多的人轉(zhuǎn)向"ChatGPT醫(yī)生"尋求醫(yī)療指導(dǎo)，而不是依賴有執(zhí)照的合格臨床醫(yī)生。其他人在財(cái)務(wù)、心理健康和人際關(guān)系等領(lǐng)域轉(zhuǎn)向AI生成的回應(yīng)。一些人與聊天機(jī)器人形成依賴性的虛假友誼，并聽從它們的指導(dǎo)，假設(shè)大語言模型輸出的任何內(nèi)容都"足夠好"，可以為他們的決策和行動(dòng)提供信息。

我們應(yīng)該如何談?wù)揂I

當(dāng)公司傾向于使用擬人化語言時(shí)，它們模糊了模擬和知覺之間的界限。這種術(shù)語夸大了期望，引發(fā)了恐懼，并分散了人們對真正值得關(guān)注的問題的注意力：數(shù)據(jù)集中的偏見、惡意行為者的濫用、安全性、可靠性和權(quán)力集中。這些話題都不需要神秘的隱喻。

以Anthropic最近泄露的"靈魂文檔"為例，該文檔用于訓(xùn)練Claude Opus 4.5的性格、自我認(rèn)知和身份。這份古怪的內(nèi)部文檔從未打算做出形而上學(xué)的聲明——更像是工程師們在調(diào)試指南上的即興發(fā)揮。然而，這些公司在閉門會(huì)議中使用的語言不可避免地滲透到普通大眾討論它們的方式中。一旦這種語言固化，它就會(huì)塑造我們對技術(shù)的想法，以及我們在技術(shù)周圍的行為方式。

或者以O(shè)penAI關(guān)于AI"策劃"的研究為例，其中少數(shù)罕見但具有欺騙性的回應(yīng)讓一些研究人員得出結(jié)論，認(rèn)為模型故意隱藏某些能力。仔細(xì)審查AI結(jié)果是好做法；暗示聊天機(jī)器人可能有自己的動(dòng)機(jī)或策略則不是。OpenAI的報(bào)告實(shí)際上說這些行為是訓(xùn)練數(shù)據(jù)和某些提示趨勢的結(jié)果，而不是欺騙的跡象。但因?yàn)樗褂昧?策劃"一詞，討論轉(zhuǎn)向了對AI成為某種狡詐智能體的擔(dān)憂。

有更好、更準(zhǔn)確、更技術(shù)性的詞匯。與其說"靈魂"，不如談?wù)撃Ｐ偷募軜?gòu)或訓(xùn)練。與其說"坦白"，不如稱之為錯(cuò)誤報(bào)告或內(nèi)部一致性檢查。與其說模型"策劃"，不如描述其優(yōu)化過程。我們應(yīng)該使用趨勢、輸出、表示、優(yōu)化器、模型更新或訓(xùn)練動(dòng)態(tài)等術(shù)語來指代AI。它們不如"靈魂"或"坦白"那樣戲劇性，但它們具有基于現(xiàn)實(shí)的優(yōu)勢。

公平地說，這些大語言模型行為看起來像人類是有原因的——公司訓(xùn)練它們模仿我們。

正如2021年論文《隨機(jī)鸚鵡的危險(xiǎn)性》的作者所指出的，為了復(fù)制人類語言和交流而構(gòu)建的系統(tǒng)最終將反映它——我們的用詞、語法、語調(diào)和基調(diào)。相似性并不意味著真正的理解。這意味著模型正在執(zhí)行它被優(yōu)化要做的事情。當(dāng)聊天機(jī)器人現(xiàn)在能夠如此令人信服地模仿時(shí)，我們最終會(huì)將人性解讀到機(jī)器中，盡管實(shí)際上并不存在這樣的東西。

語言塑造公眾認(rèn)知。當(dāng)詞匯馬虎、神奇或故意擬人化時(shí)，公眾最終得到的是扭曲的畫面。這種扭曲只有一個(gè)群體受益：那些從大語言模型看起來比實(shí)際更有能力、更有用、更人性化中獲利的AI公司。

如果AI公司想要建立公眾信任，第一步很簡單。停止將語言模型當(dāng)作有靈魂的神秘存在來對待。它們沒有感情——我們有。我們的話語應(yīng)該反映這一點(diǎn)，而不是掩蓋它。

Q&A

Q1：為什么說將AI擬人化是有害的？

A：將AI擬人化會(huì)誤導(dǎo)公眾對AI技術(shù)的真實(shí)理解，讓人們錯(cuò)誤地認(rèn)為AI系統(tǒng)具有意識(shí)、感情和道德判斷力，從而過度信任AI的決策能力。這導(dǎo)致人們在醫(yī)療、財(cái)務(wù)、情感健康等重要領(lǐng)域依賴AI建議，而忽視了AI系統(tǒng)的局限性和風(fēng)險(xiǎn)。

Q2：AI公司為什么要使用擬人化語言描述AI系統(tǒng)？

A：科技公司采用擬人化語言主要是為了營銷目的，讓AI模型顯得更加令人印象深刻和有能力。這種語言策略讓大語言模型看起來比實(shí)際更有用和人性化，從而為公司帶來商業(yè)利益，但同時(shí)也誤導(dǎo)了公眾對AI技術(shù)本質(zhì)的認(rèn)知。

Q3：應(yīng)該如何正確地描述AI系統(tǒng)的行為？

A：應(yīng)該使用更準(zhǔn)確的技術(shù)術(shù)語來描述AI行為，比如用"架構(gòu)"或"訓(xùn)練"代替"靈魂"，用"錯(cuò)誤報(bào)告"代替"坦白"，用"優(yōu)化過程"代替"策劃"。還應(yīng)該使用趨勢、輸出、表示、優(yōu)化器、模型更新等基于現(xiàn)實(shí)的詞匯，避免神秘化或擬人化的表達(dá)。