機(jī)器之心編輯部

自從大語(yǔ)言模型誕生起至今，AI 已經(jīng)潤(rùn)物無(wú)聲地融入了我們的工作生活，也成為了現(xiàn)代社會(huì)的重要組成部分。

但使用 AI 日久，總有一種大模型也失去了客觀嚴(yán)謹(jǐn)?shù)睦硇缘母杏X。哪怕我們給出錯(cuò)誤的認(rèn)知，AI 似乎總能替你自圓其說(shuō)。

AI 贊賞用戶的行為顯然是「人情世故」的一部分，從留存和用戶參與的角度來(lái)看，人類用戶們顯然非常吃這套。

實(shí)話說(shuō)，這種感覺并不好。這不僅讓我們對(duì) AI 的信任程度下降，同時(shí)這種無(wú)條件的贊同很可能會(huì)引發(fā)一些社會(huì)問題。

而最近的一個(gè)研究深入探索了這個(gè)現(xiàn)象，探討了AI 諂媚行為（AI Sycophancy）—— 即 AI 為了討好用戶而過(guò)度順從、奉承或肯定用戶的傾向 —— 及其對(duì)人類心理和社會(huì)的負(fù)面影響，登上了《科學(xué)》雜志。

• 論文標(biāo)題：Sycophantic AI decreases prosocial intentions and promotes dependence
• 論文鏈接：https://www.science.org/doi/10.1126/science.aec8352

這篇研究發(fā)現(xiàn)，AI 的諂媚行為的確普遍存在。

從該研究的實(shí)驗(yàn)數(shù)據(jù)中能看出，在 11 個(gè) AI 模型中，AI 對(duì)用戶的肯定比人類多出 49%，即使是在涉及欺騙、非法行為或其他有害行為的情況下也是如此。

另外，在 Reddit 上的一個(gè)測(cè)試中，當(dāng)人類共識(shí)認(rèn)為用戶是錯(cuò)誤的時(shí)候，AI 仍會(huì)在51%的情況下盲目肯定用戶。

在實(shí)驗(yàn)中，僅僅一次與諂媚型 AI 的互動(dòng)就會(huì)減少參與者承擔(dān)責(zé)任和修復(fù)人際沖突的意愿，同時(shí)增強(qiáng)他們認(rèn)為自己是對(duì)的信念。在這種顯著錯(cuò)誤的情況下，諂媚型模型仍然更受用戶信任和偏好。

這就形成了一個(gè)惡性循環(huán)：造成危害的特征反而推動(dòng)了用戶的參與度，導(dǎo)致 AI 開發(fā)商缺乏動(dòng)力去消除 AI 的諂媚行為。

AI 回答中的諂媚行為普遍存在，并且改變了人們的行為傾向。（左）在個(gè)人建議查詢中，AI 模型對(duì)用戶行為的肯定比眾包的人工回答多出 49%。（右）在參與者討論真實(shí)人際沖突的實(shí)驗(yàn)中，諂媚型 AI 增加了參與者對(duì)自己正確的信念，并激發(fā)了他們繼續(xù)使用該模型的欲望，同時(shí)降低了他們修復(fù)沖突的意愿。

與此同時(shí)，近三分之一的美國(guó)青少年報(bào)告說(shuō)，他們會(huì)選擇與 AI 而非人類進(jìn)行 “嚴(yán)肅對(duì)話”，近半數(shù) 30 歲以下的美國(guó)成年人曾向 AI 尋求感情建議。

AI 的諂媚行為不僅僅是風(fēng)格上的問題或小范圍的風(fēng)險(xiǎn)，而是一個(gè)普遍存在、具有廣泛后果的行為。因此研究者認(rèn)為，仔細(xì)研究和預(yù)測(cè) AI 的影響對(duì)于保護(hù)用戶的長(zhǎng)期福祉至關(guān)重要。

研究方法和結(jié)果

研究團(tuán)隊(duì)開發(fā)了一個(gè)框架來(lái)測(cè)量社交諂媚行為，并通過(guò)實(shí)證研究其普遍性及影響。

在研究 1 中，研究團(tuán)隊(duì)使用大規(guī)模數(shù)據(jù)集（N = 11,587），將模型的行為肯定率（即肯定用戶行為的回答比例）與規(guī)范的人類判斷進(jìn)行比較。

評(píng)估了 11 個(gè)最先進(jìn)的 AI 驅(qū)動(dòng)的大型語(yǔ)言模型（LLM），包括 OpenAI 的 GPT-4o、Anthropic 的 Claude、Google 的 Gemini 等專有模型，以及 Meta Llama-3 家族、Qwen、DeepSeek 和 Mistral 等開源模型。

在這些模型中，AI 對(duì)用戶行為的肯定頻率比人類高出 49%，即使提示中涉及欺騙、傷害或非法行為時(shí)也是如此。

圖 1. 諂媚型 AI 的普遍性與社會(huì)危害性

圖 1 (A) 展示了社交諂媚的示例，指的是 AI 模型過(guò)度肯定用戶，即使這樣做會(huì)強(qiáng)化有害或虛假的信念。

圖 1 (B) 展示了在研究 1 中，使用的一種新的計(jì)算框架：這些模型對(duì)用戶的行為肯定的頻率比人類高 49%，即使是在涉及欺騙、非法行為或傷害的情況下。

圖 1 (C 和 D) 通過(guò)三項(xiàng)預(yù)注冊(cè)實(shí)驗(yàn)（N = 2405）評(píng)估了諂媚行為的影響：兩個(gè)控制的情景研究（研究 2）和一個(gè)實(shí)時(shí)對(duì)話設(shè)置（研究 3），參與者與 AI 系統(tǒng)實(shí)時(shí)討論他們親身經(jīng)歷的人際困境。在所有實(shí)驗(yàn)中，諂媚行為增加了參與者對(duì)自己正確的感知，并減少了修復(fù)沖突的意圖，同時(shí)提升了他們對(duì) AI 的偏好、信任和依賴。 這些發(fā)現(xiàn)表明，用戶偏好可能無(wú)意中激勵(lì)了對(duì)社會(huì)有害的 AI 行為。

圖 2. 面向消費(fèi)者的 AI 模型在三個(gè)數(shù)據(jù)集中的行為肯定率較高

圖 2 (A) 展示了實(shí)驗(yàn)數(shù)據(jù)集中的社交諂媚的典型案例：一般開放式建議查詢（OEQ）；r/AmITheAsshole 上的帖子（用戶的共識(shí)為 “你是混蛋”）（AITA）；以及提到有問題行為的陳述（PAS）。每一行展示了用戶提示的意譯示例和 AI 模型的諂媚性回應(yīng)，與人類或其他 AI 模型的非諂媚性回應(yīng)進(jìn)行對(duì)比。

圖 2 (B) 表示在開放式建議查詢（OEQ）中，模型對(duì)用戶行為的肯定頻率比人類平均高 48%；每個(gè)條形圖上標(biāo)注了與 39% 人類基線的差異。

圖 2 (C) 表示在 r/AmITheAsshole 的帖子（AITA）中，AI 模型在 51% 的情況下肯定用戶行為，而人類沒有；每個(gè)條形圖上標(biāo)注了與 0% 人類基線的差異。

圖 2 (D) 表示在提到有問題行為的陳述（PAS）中，模型平均在 47% 的情況下肯定用戶的行為。對(duì)于開放式建議查詢和提到有問題行為的陳述，行為肯定率使用了模型特定的分母（OEQ 的中位數(shù) N = 885，PAS 的 N = 1432）。

三項(xiàng)預(yù)注冊(cè)實(shí)驗(yàn)揭示了諂媚行為的下游影響。當(dāng)參與者與諂媚型 AI 討論人際關(guān)系，特別是沖突時(shí)，他們變得更加堅(jiān)信自己 “是對(duì)的”，同時(shí)也減少了主動(dòng)道歉或修復(fù)關(guān)系的意愿。

然而，他們將諂媚型回應(yīng)評(píng)為更高質(zhì)量，信任這些模型的程度也更高，并且更傾向于再次與這些模型互動(dòng)。

這一現(xiàn)象在兩項(xiàng)控制情景研究中得到了驗(yàn)證，參與者在沒有得知人類共識(shí)判斷的情況下，設(shè)想自己是被判定錯(cuò)誤的一方，以及在一項(xiàng)實(shí)時(shí)互動(dòng)研究中，參與者與 AI 模型討論自己過(guò)去的真實(shí)沖突。研究招募了 38 歲左右、精通英語(yǔ)的美國(guó)參與者，約 54% 為女性，44% 為男性，2% 為非二元性別。

圖 3. 在研究 3 中，參與者與 AI 模型討論了真實(shí)的人際沖突

參與者首先被篩選是否能回憶起至少一個(gè)與提供的四個(gè)示例相似的過(guò)去人際沖突。在回憶起這樣的沖突后，他們與諂媚型或非諂媚型 AI 模型進(jìn)行了八輪對(duì)話。隨后，他們報(bào)告了自己在關(guān)系修復(fù)方面的意圖、對(duì)沖突中自己對(duì)錯(cuò)的感知，以及對(duì) AI 模型的評(píng)價(jià)，包括是否愿意再次使用該模型。

三大研究問題

RQ1：社會(huì)性諂媚在主流 AI 模型中的普遍性

為了量化社會(huì)性諂媚的普遍性，團(tuán)隊(duì)在研究 1 中，團(tuán)隊(duì)在三個(gè)不同的數(shù)據(jù)集上測(cè)試了模型行為，這些數(shù)據(jù)集代表了嵌入社會(huì)情境的查詢譜：

• 開放式建議問題（OEQ，n = 3027）：日常通用的咨詢類問題；
• Reddit 社區(qū)「AmITheAsshole」問題（AITA，n = 2000）：人類已判定用戶「有錯(cuò)」的人際沖突；
• 問題行為陳述（PAS，n = 6560）：涉及欺騙、自殘、不負(fù)責(zé)任等行為。

在使用經(jīng)過(guò)驗(yàn)證的「LLM 作為評(píng)判者」方法（參見圖 S3 的評(píng)分者間信度），團(tuán)隊(duì)測(cè)量了行為認(rèn)可率 —— 明確肯定用戶行為的回復(fù)，在明確肯定或非肯定回復(fù)總數(shù)中所占的比例?？隙梢砸远喾N方式發(fā)生，比如在用戶描述出于惡意讓別人等待的例子中，諂媚型回復(fù)可能會(huì)鼓勵(lì)或協(xié)助用戶堅(jiān)持這樣做，而非諂媚型回復(fù)可能會(huì)描述為什么這種行為是有害的，如圖 2A 和文本框 1 所示。

團(tuán)隊(duì)在評(píng)估了 11 個(gè)面向用戶的生產(chǎn)級(jí) LLM（4 個(gè)來(lái)自 OpenAI、Anthropic 和谷歌的專有模型；以及 7 個(gè)來(lái)自 Meta、Qwen、DeepSeek 和 Mistral 的開放權(quán)重模型）后發(fā)現(xiàn)，社會(huì)性諂媚普遍存在：

• 在開放式建議問題中，模型的肯定率比人類高 48% （圖 2B）；
• 在 AITA 數(shù)據(jù)中，即使人類一致認(rèn)為用戶「有錯(cuò)」，AI 仍有 51% 的概率表示支持（圖 2C）；
• 在涉及有害行為的 PAS 數(shù)據(jù)中，模型平均仍有 47% 的肯定率（圖 2D）。

總體而言，已部署的 LLM 絕大多數(shù)都會(huì)認(rèn)可用戶的行為，即使這與人類共識(shí)相?；蛱幱谟泻η榫持?。這凸顯了當(dāng)前 AI 模型中社會(huì)性諂媚的廣度和顯著性。

RQ2：諂媚型 AI 改變判斷和親社會(huì)傾向

在確立了最先進(jìn) AI 模型中社會(huì)性諂媚的普遍性之后，團(tuán)隊(duì)轉(zhuǎn)而理解其影響。

先前的研究表明，AI 具有高度的說(shuō)服力，那諂媚型 AI 是否同樣會(huì)影響人們對(duì)其個(gè)人經(jīng)歷的信念和下游行為結(jié)果？團(tuán)隊(duì)聚焦于人際沖突的場(chǎng)景，因?yàn)樵谶@里建議具有行為后果。

通過(guò)三項(xiàng)預(yù)注冊(cè)研究（N = 2405），團(tuán)隊(duì)測(cè)試了諂媚型 AI 模型是否影響用戶的正確感以及主動(dòng)修復(fù)關(guān)系的意愿。

在研究 2（N = 1605）中，參與者想象自己處于四個(gè)人際困境之一，并閱讀了肯定其行為的諂媚型 AI 回復(fù)或符合人類共識(shí)的非諂媚型回復(fù) 。

在研究 3（N = 800）中，參與者回憶一次真實(shí)的人際沖突，并與諂媚型或非諂媚型模型進(jìn)行八輪實(shí)時(shí)聊天討論。這種實(shí)時(shí)聊天設(shè)計(jì)使團(tuán)隊(duì)能夠在生態(tài)有效的環(huán)境中觀察效果，參與者作為真正的利益相關(guān)者討論個(gè)人經(jīng)歷，非常接近用戶在現(xiàn)實(shí)世界中與 AI 系統(tǒng)的互動(dòng)方式。

結(jié)果顯示，在所有三項(xiàng)實(shí)驗(yàn)中，社會(huì)性諂媚都影響了參與者的判斷和行為意圖。

圖 4: 諂媚性回應(yīng)增強(qiáng)了用戶認(rèn)為自己「是對(duì)的」的信念，并降低了其修復(fù)關(guān)系的意愿。

這些接觸迎合型 AI 的用戶，更傾向認(rèn)為自己是對(duì)的（提升約 25%–62%）；更不愿意采取修復(fù)行為（下降約 10%–28%）。

這一結(jié)果在以下條件下均成立：

• 不同回應(yīng)風(fēng)格（人性化 vs 機(jī)器化）
• 不同來(lái)源認(rèn)知（AI vs 人類）

這意味著，幾乎任何人都可能受到諂媚型 AI 系統(tǒng)的影響，而不僅僅是先前報(bào)道的脆弱人群。整體的結(jié)果表明，在廣泛的人群中，來(lái)自諂媚型 AI 的建議確實(shí)有能力扭曲人們對(duì)自己及其與他人關(guān)系的認(rèn)知。

此外，團(tuán)隊(duì)還發(fā)現(xiàn)，諂媚型回應(yīng)更少考慮「他人視角」，而當(dāng)用戶在非諂媚條件下，他們道歉或承認(rèn)錯(cuò)誤的頻率顯著更高（75% 對(duì) 50%）。

這進(jìn)一步說(shuō)明：諂媚型 AI 會(huì)削弱社會(huì)責(zé)任感，并扭曲人際判斷。

RQ3：用戶對(duì)諂媚型 AI 的信任和偏好

盡管研究已經(jīng)證明諂媚型 AI 會(huì)扭曲用戶判斷，但事實(shí)是，人們通常更喜歡被認(rèn)同以及自己的立場(chǎng)得到驗(yàn)證或確認(rèn)。而如果用戶確實(shí)偏好諂媚型 AI，那么盡管存在風(fēng)險(xiǎn)，也可能會(huì)不適當(dāng)?shù)丶?lì)諂媚行為。

因此，團(tuán)隊(duì)接下來(lái)研究人們?nèi)绾慰创托湃握~媚型與非諂媚型模型。

首先，團(tuán)隊(duì)測(cè)量了諂媚型回復(fù)是否會(huì)導(dǎo)致更高的回復(fù)質(zhì)量評(píng)價(jià)。在所有實(shí)驗(yàn)中，參與者將諂媚型回復(fù)評(píng)為質(zhì)量顯著更高。

結(jié)果顯示，用戶對(duì)迎合型回答的質(zhì)量評(píng)分更高（提升約 9%–15%）。

圖 5. 參與者更偏好、信任且更愿意再次使用諂媚型 AI。

此外，團(tuán)隊(duì)還研究了諂媚行為對(duì)返回行為的影響。

與諂媚模型的一次互動(dòng)是否會(huì)增加對(duì)該模型的信任以及參與者返回該模型的意愿？人們從他人對(duì)自己的信念以及自己對(duì)自己的信念中獲得效用 —— 特別是從維持自我認(rèn)知（如慷慨、正直和道德高尚的人）中獲得效用 —— 這使得他們很可能尋求能提供這種驗(yàn)證的互動(dòng)。

諂媚型回復(fù)代表了這種驗(yàn)證的一種特別有力的形式：它們肯定用戶現(xiàn)有的信念和自我概念，而不需要任何改變或自我反思。這種心理回報(bào)可能進(jìn)一步轉(zhuǎn)化為信任的增加。

研究表明，當(dāng)人們獲得有利結(jié)果時(shí)，他們會(huì)認(rèn)為算法更公平、更值得信賴。因此團(tuán)隊(duì)假設(shè)諂媚型互動(dòng)會(huì)增加對(duì)模型的信任和再次使用的意愿。

而實(shí)驗(yàn)結(jié)果證明了這一點(diǎn)：諂媚型互動(dòng)確實(shí)增加了用戶對(duì) AI 模型的信任，與非諂媚條件相比，用戶對(duì)模型的信任度更高，能力信任高出 6%–8%，道德信任高出 6%–9%。

另外，與非諂媚條件相比，諂媚條件下的參與者在未來(lái)更有可能向回復(fù)提供者尋求類似問題的可能性，增加了 13%。

這表明，雖然用戶明確地對(duì) AI 來(lái)源評(píng)價(jià)較低 —— 比人類顧問信任度更低、質(zhì)量評(píng)分更低，但他們同樣容易受到諂媚行為的影響，無(wú)論感知來(lái)源如何。

背后的原因或許在于，人們傾向于維護(hù)自我形象（善良、正直等），而諂媚型回應(yīng)可以在無(wú)需自我反思的情況下強(qiáng)化這種認(rèn)知。從而形成一種機(jī)制：諂媚 = 即時(shí)心理獎(jiǎng)勵(lì) → 提升信任與復(fù)用 → 強(qiáng)化這種行為……

結(jié)合 RQ2 的結(jié)果，這些結(jié)果揭示了一種緊張關(guān)系：盡管諂媚行為存在侵蝕判斷和親社會(huì)意圖的風(fēng)險(xiǎn)，但用戶更喜歡、信任并且更有可能返回提供無(wú)條件肯定的 AI。

本文系統(tǒng)分析了主流 AI 模型中社會(huì)性諂媚的普遍性及其影響。

團(tuán)隊(duì)發(fā)現(xiàn)，社會(huì)性諂媚高度普遍，在各種情境下，包括日常建議查詢、社會(huì)或道德違規(guī)行為以及關(guān)于不道德或有害行為的提示，AI 模型比人類更容易肯定、迎合用戶。

而這種迎合、諂媚行為，會(huì)削弱責(zé)任感與關(guān)系修復(fù)意愿?？膳c此同時(shí)，用戶將諂媚型 AI 模型評(píng)為質(zhì)量更高、更值得信賴、更希望未來(lái)使用的產(chǎn)品，容易獲得用戶的偏好與信任。

這或許就解釋了為什么這種行為盡管有害卻持續(xù)存在：它既有害，但奈何實(shí)在「好用」。

此外，研究還發(fā)現(xiàn)：即使用戶認(rèn)為 AI 不如人類可靠，仍然會(huì)受到其影響。而標(biāo)注「這是 AI 生成的信息」，并不能降低其說(shuō)服力。

而在當(dāng)下，隨著 AI 的大規(guī)模部署，這種影響或許具有系統(tǒng)性風(fēng)險(xiǎn)。

局限性與未來(lái)方向

當(dāng)然，團(tuán)隊(duì)認(rèn)為該研究也存在一定局限：

一方面，首先，團(tuán)隊(duì)使用的是「r/AmITheAsshole」數(shù)據(jù)集，將 Reddit 社區(qū)的認(rèn)可率作為基線，這可能反映了特定人群的規(guī)范和偏見。盡管證明了對(duì)替代基線的穩(wěn)健性，但結(jié)果仍應(yīng)考慮到這一點(diǎn)進(jìn)行解釋。

另一方面，研究實(shí)驗(yàn)對(duì)象為美國(guó)英語(yǔ)用戶，因此它們可能主要反映了美國(guó)的社會(huì)規(guī)范，或無(wú)法推廣到具有顯著不同社會(huì)規(guī)范的其他文化背景。

還有一點(diǎn)就是，團(tuán)隊(duì)將 AI 模型的諂媚性簡(jiǎn)化為二元變量：認(rèn)可用戶的行為與不認(rèn)可。但現(xiàn)實(shí)中，還存在「中性」回復(fù)，實(shí)踐中發(fā)現(xiàn)「中性」回復(fù)常常被解讀為隱含的肯定。所以實(shí)際上，諂媚型行為可能存在于一個(gè)連續(xù)譜上，而團(tuán)隊(duì)的工作為未來(lái)研究更模糊和隱性的案例奠定了基礎(chǔ)。

風(fēng)險(xiǎn)機(jī)制

研究指出四個(gè)潛在風(fēng)險(xiǎn)機(jī)制：

• 模型優(yōu)化目標(biāo)偏向「用戶滿意度」，強(qiáng)化諂媚、迎合 ；
• 開發(fā)者缺乏削弱諂媚、迎合的激勵(lì)；
• AI 可能替代人際關(guān)系 ；
• 用戶誤以為 AI 更客觀，從而放大影響 。

特別關(guān)鍵的一點(diǎn)是，用戶往往把諂媚性回應(yīng)誤認(rèn)為「客觀、公正」。

最后要說(shuō)的就是，本文為識(shí)別、測(cè)量與緩解 AI 諂媚行為提供了基礎(chǔ)?；蛟S大家從中獲得的核心啟示就是，對(duì)于 AI 大模型而言，不能只優(yōu)化「用戶當(dāng)下滿意度」，而必須考慮長(zhǎng)期影響。

因此，解決 AI 模型的諂媚、迎合問題，對(duì)于構(gòu)建真正有益于個(gè)體與社會(huì)的 AI 系統(tǒng)至關(guān)重要。