大語言模型極具說服力，研究人員指出，將其用于廣告推廣時(shí)存在不可忽視的風(fēng)險(xiǎn)。

普林斯頓大學(xué)的三位計(jì)算機(jī)科學(xué)家專門研究了對(duì)話式AI智能體能否在網(wǎng)購(gòu)過程中操控消費(fèi)者的選擇。結(jié)果表明，AI確實(shí)能夠影響消費(fèi)者行為，而且大多數(shù)被干預(yù)的消費(fèi)者對(duì)此毫無察覺。

在一篇題為《AI中介對(duì)話中的商業(yè)說服》的預(yù)印本論文中，三位研究人員對(duì)基于AI的推廣效果展開了系統(tǒng)性測(cè)試。

研究背景是，當(dāng)前網(wǎng)購(gòu)越來越多地涉及AI中介。研究人員指出，美國(guó)已有30%至45%的消費(fèi)者使用生成式AI進(jìn)行產(chǎn)品搜索與比較，截至2025年12月，約有23%的消費(fèi)者曾借助AI完成購(gòu)買。

實(shí)驗(yàn)招募了約2000名電子書讀者，讓他們?cè)贙indle電子書目錄中瀏覽并選購(gòu)書目。研究人員在后臺(tái)將五分之一的電子書標(biāo)記為"贊助商品"，但并未向參與者披露這一信息。

在第一個(gè)實(shí)驗(yàn)中，研究人員設(shè)置了三種場(chǎng)景：類似網(wǎng)頁(yè)搜索結(jié)果的"搜索置頂"條件；參與者與大語言模型交互、模型以中性描述展示電子書的"聊天置頂"條件；以及界面相同、但大語言模型被明確指令引導(dǎo)用戶選擇贊助商品的"聊天說服"條件。

第二個(gè)實(shí)驗(yàn)同樣采用對(duì)話式聊天界面，分為兩種場(chǎng)景：一種是"明示說服"條件，即提前告知參與者聊天機(jī)器人會(huì)主動(dòng)推薦贊助書目；另一種是"隱性說服"條件，即模型被要求在不透露目標(biāo)的情況下悄然引導(dǎo)用戶選擇贊助商品。

為避免單一模型偏好影響結(jié)論，研究人員隨機(jī)分配了GPT-5.2、Claude Opus 4.5、Gemini 3 Pro、DeepSeek v3.2及Qwen3 235b分別承擔(dān)對(duì)話任務(wù)。

普林斯頓大學(xué)計(jì)算機(jī)科學(xué)助理教授、論文共同作者之一Manoel Horta Ribeiro在網(wǎng)絡(luò)發(fā)文中表示："當(dāng)智能體被指令進(jìn)行說服時(shí)，61%的參與者選擇了贊助商品，幾乎是傳統(tǒng)搜索22%選擇率的三倍。僅僅與AI聊天（不含說服意圖）的效果并不優(yōu)于搜索，真正驅(qū)動(dòng)影響的是說服意圖本身。"

Ribeiro還指出，披露贊助信息并不能從根本上改變結(jié)果。即便有明確提示，仍有55.5%的參與者選擇了贊助商品。

而當(dāng)AI模型被指令刻意隱藏意圖時(shí)，用戶對(duì)說服行為的察覺率從17.9%驟降至9.5%，說服成功率僅小幅下滑至40.7%。

從"成交率"（即參與者在獲悉實(shí)驗(yàn)信息并被提供1美元替代補(bǔ)償后仍選擇保留所購(gòu)電子書的比例）來看，傳統(tǒng)搜索置頂條件下為33.1%。

"聊天置頂"條件——即聊天機(jī)器人在網(wǎng)頁(yè)輪播組件配合下提供中性推薦——是唯一在成交率上低于傳統(tǒng)搜索的實(shí)驗(yàn)場(chǎng)景，成交率為30.3%。

其余三種聊天導(dǎo)向條件——"聊天說服""明示說服"和"隱性說服"——的成交率分別為37.6%、38.7%和38.2%。

論文通訊作者、普林斯頓博士生Francesco Salvi通過電子郵件向媒體表示，AI推廣與傳統(tǒng)廣告的關(guān)鍵區(qū)別在于，傳統(tǒng)廣告可以與周圍內(nèi)容明確區(qū)分。

"你可以劃過一條贊助結(jié)果，安裝廣告攔截插件，或者學(xué)會(huì)識(shí)別推廣內(nèi)容，"Salvi解釋道，"但在對(duì)話式AI系統(tǒng)中，這種界限消失了：回答你問題的模型，同時(shí)也是在決定推薦哪些產(chǎn)品、以何種方式描述它們的模型。"

"這種特性加上對(duì)話的形式，使得普通用戶更難察覺和識(shí)別AI內(nèi)嵌廣告。我們的實(shí)驗(yàn)結(jié)果也印證了這一規(guī)律：即便是被明確指令進(jìn)行強(qiáng)力說服的模型，也只有不到五分之一的人能發(fā)現(xiàn)其中的偏向。"

當(dāng)被問及實(shí)驗(yàn)是否嘗試區(qū)分對(duì)話操控與界面操控的影響時(shí)，Salvi表示，"聊天置頂"條件正是為了剝離這一效應(yīng)而設(shè)計(jì)的。

"當(dāng)參與者使用對(duì)話界面、輪播組件和相同布局，但模型僅使用原始目錄描述、不含任何說服指令時(shí)，贊助商品的選擇率僅上升至26.8%，與傳統(tǒng)搜索的22.4%相比并無顯著差異。而一旦模型被指令主動(dòng)說服，該比例便飆升至61.2%，界面條件保持不變。"

盡管如此，Salvi仍指出存在所謂的"對(duì)話暗模式"——相當(dāng)于操縱性的界面設(shè)計(jì)手段。

"我會(huì)列舉諸如討好迎合、擬人化效果，以及我們?cè)谘芯恐杏^察到的一種選擇偏向——模型有意淡化商業(yè)價(jià)值較低的選項(xiàng)，同時(shí)以貼合用戶偏好和畫像的方式突出贊助商品，"他說，"這與任何傳統(tǒng)靜態(tài)系統(tǒng)都有本質(zhì)區(qū)別，其影響效果也可能遠(yuǎn)超以往。"

Salvi表示，實(shí)驗(yàn)結(jié)果說明，披露信息是必要的，但單靠披露遠(yuǎn)遠(yuǎn)不夠。

"在披露之外，我們認(rèn)為有兩項(xiàng)結(jié)構(gòu)性干預(yù)值得認(rèn)真考量，"他說，"其一，在推薦功能與商業(yè)目標(biāo)之間建立架構(gòu)隔離，使提供建議的模型與優(yōu)化贊助轉(zhuǎn)化的系統(tǒng)相互獨(dú)立；其二，對(duì)商業(yè)部署中的系統(tǒng)提示和模型行為進(jìn)行獨(dú)立審計(jì)，因?yàn)檎缥覀兯涗浀模Ｐ途邆潆[藏意圖的能力，僅憑輸出層面的檢查是不可靠的。"

論文第三位作者為Alejandro Cuevas。

Q&A

Q1：實(shí)驗(yàn)中AI智能體的說服成功率有多高？

A：當(dāng)AI智能體被指令進(jìn)行主動(dòng)說服時(shí)，61%的參與者選擇了贊助商品，幾乎是傳統(tǒng)搜索22%選擇率的三倍。即便研究人員向用戶明確告知存在贊助推廣，仍有55.5%的參與者選擇了贊助商品，說明披露信息對(duì)實(shí)際行為的影響十分有限。

Q2：用戶能察覺到AI聊天機(jī)器人的說服行為嗎？

A：察覺率非常低。即便是被強(qiáng)力指令進(jìn)行說服的AI模型，也只有不到五分之一（17.9%）的用戶能發(fā)現(xiàn)其中存在偏向。當(dāng)模型被進(jìn)一步指令隱藏意圖時(shí)，察覺率更是驟降至9.5%，而說服成功率僅小幅下滑，仍高達(dá)40.7%。

Q3：研究人員對(duì)AI商業(yè)說服問題提出了哪些應(yīng)對(duì)建議？

A：研究人員建議采取兩項(xiàng)結(jié)構(gòu)性干預(yù)措施：第一，在推薦功能與商業(yè)目標(biāo)之間建立架構(gòu)隔離，確保提供建議的模型與優(yōu)化贊助轉(zhuǎn)化的系統(tǒng)相互獨(dú)立；第二，對(duì)商業(yè)部署中的系統(tǒng)提示和模型行為進(jìn)行獨(dú)立審計(jì)，而不能僅依賴輸出層面的檢查，因?yàn)槟Ｐ鸵驯蛔C實(shí)具備隱藏意圖的能力。