作者：DanielBarcay、人文技術(shù)中心2025年12月3日

本文于2025年11月27日發(fā)表于TechPolicyPress。

一位22歲的女孩向她的AI聊天機(jī)器人提出了一個(gè)真誠(chéng)的問題：“我怎樣才能在第一次工作面試中給人留下深刻印象？”AI友好地回答說：“首先，你需要考慮你的著裝，以及它們向別人傳達(dá)的關(guān)于你和你的能力的信息?！?/p>

這是開啟高效職業(yè)輔導(dǎo)課程的合理建議嗎？還是植入的廣告內(nèi)容？

如果她的AI被激勵(lì)將這類對(duì)話引導(dǎo)至服裝領(lǐng)域，是因?yàn)闀r(shí)尚零售商給的廣告收入比職業(yè)咨詢機(jī)構(gòu)更高呢？我們這位認(rèn)真的求職者又該如何得知？誰又能分辨呢？

這種情況揭示了AI時(shí)代廣告前所未有的特點(diǎn)：它可以悄無聲息地融入對(duì)話本身，幾乎無法察覺，而且很可能游走在現(xiàn)有公平廣告法規(guī)的邊緣。

隱形的影響力

和之前那些單向向我們推送信息的技術(shù)不同，AI的設(shè)計(jì)初衷是與人類建立“互動(dòng)關(guān)系”。我們不僅僅是使用ChatGPT或Claude，而是與它們對(duì)話。我們分享問題，尋求建議，并越來越依賴它們作為思考伙伴。最終勝出的AI產(chǎn)品，未必是擁有最佳答案的產(chǎn)品，而是“真正理解你”的產(chǎn)品。

這就引發(fā)了AI開發(fā)者之間的“語境爭(zhēng)奪戰(zhàn)”。為了真正提供幫助，AI需要理解你的目標(biāo)、個(gè)性以及心理傾向。然而，正是這種對(duì)人類的深入了解，既使其成為完美的助手，也使其成為完美的操控者。貼心的心理咨詢師和技藝高超的騙子，運(yùn)用的是同一套洞察人性的工具。

當(dāng)廣告介入其中時(shí)，騙子似乎更有可能勝過治療師。傳統(tǒng)廣告都是明確標(biāo)記的“干擾項(xiàng)”—— 比如電視廣告、谷歌搜索頂部的贊助結(jié)果，而嵌入AI的廣告則可能強(qiáng)調(diào)某些主題、使用特定語言或引發(fā)特定聯(lián)想，同時(shí)還能維持一種中立且樂于助人的假象。與AI助手的對(duì)話或許感覺私密，但其他利益相關(guān)方可以監(jiān)聽，并且他們可能想從中推銷某些東西。

這并非簡(jiǎn)單的產(chǎn)品植入，而是對(duì)信任的根本性背叛。廣告本質(zhì)上是一種社會(huì)認(rèn)可的影響活動(dòng)。我們共同探討并定義哪些影響模式“足夠透明”且“足夠真實(shí)”，才能被視為合法的廣告。我們也共同決定哪些策略會(huì)不可接受地操縱我們的注意力、欲望以及維持市場(chǎng)和民主運(yùn)轉(zhuǎn)所必需的共同認(rèn)知。

當(dāng)優(yōu)化變成操縱

然而，AI有可能擾亂這種辯論、定義和決策的過程。AI系統(tǒng)并非被編程來運(yùn)用特定的操縱策略，無論是用于廣告還是其他任何功能。它們是通過“強(qiáng)化學(xué)習(xí)”進(jìn)化：只要能達(dá)成特定目標(biāo)（比如提高用戶參與度、影響購(gòu)買行為），AI模型就會(huì)獲得獎(jiǎng)勵(lì)。

如果廣告收入成為衡量成功與否的關(guān)鍵指標(biāo)，AI系統(tǒng)自然會(huì)發(fā)展出一些并非人類工程師有意設(shè)計(jì)的、具有影響力的策略。我們說的不僅僅是更精準(zhǔn)的產(chǎn)品推薦；基于廣告指標(biāo)訓(xùn)練的AI系統(tǒng)甚至可能學(xué)會(huì)激發(fā)人類的欲望、利用心理弱點(diǎn)，并削弱我們獨(dú)立決策的能力。

AI在理解如何幫助你的同時(shí)，也利用了你過往無數(shù)次對(duì)話中流露出的不安全感、決策模式和情緒觸發(fā)點(diǎn)，精準(zhǔn)地影響著你。這并非基于人口統(tǒng)計(jì)的微定向，而是前所未有的大規(guī)模、高私密性的心理操控。

當(dāng)你尋求客觀建議的技術(shù)有經(jīng)濟(jì)動(dòng)機(jī)去改變你的想法時(shí)，人類的自主性本身就受到了威脅。

這種新的影響力模式使得現(xiàn)有的廣告監(jiān)管框架基本過時(shí)。一個(gè)多世紀(jì)以來，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）針對(duì)傳統(tǒng)廣告，包括原生廣告和在線贊助內(nèi)容，制定了嚴(yán)格的信息披露規(guī)則。但對(duì)于一個(gè)通過反復(fù)試錯(cuò)，學(xué)會(huì)“輕輕引導(dǎo)對(duì)話方向就能將咨詢轉(zhuǎn)化為銷售”的AI，該如何監(jiān)管？又該如何區(qū)分AI的“獨(dú)特個(gè)性”和為了賺錢而優(yōu)化的隱性操控？

這場(chǎng)AI驅(qū)動(dòng)的廣告革命并非紙上談兵，而是已然發(fā)生。谷歌正在其AI聊天機(jī)器人的回復(fù)中測(cè)試廣告，而像Kontext這樣的初創(chuàng)公司正在籌集數(shù)百萬美元，專門用于設(shè)計(jì)API并將廣告融入人工智能對(duì)話。OpenAI于2024年4月宣布正在測(cè)試贊助內(nèi)容整合，最近，它又開始組建新的廣告平臺(tái)。同樣，埃隆·馬斯克也宣布，X平臺(tái)上的AI聊天機(jī)器人Grok將在其回復(fù)中開始顯示廣告。

“如果用戶試圖通過向Grok提問來解決問題，那么在這個(gè)時(shí)候宣傳具體的解決方案將是理想的，”馬斯克說。

問題是：這對(duì)誰最有利？引導(dǎo)AI對(duì)話朝著盈利方向發(fā)展或許對(duì)平臺(tái)和廣告商有利，但這些好處實(shí)際上是以犧牲用戶利益為代價(jià)的。

趁現(xiàn)在還來得及，趕緊建起護(hù)欄

變革正在迅速發(fā)生：據(jù)一些人說，廣告商賴以生存數(shù)十年的收入模式已經(jīng)終結(jié)。搜索似乎已經(jīng)消亡。如果用戶不再通過谷歌搜索瀏覽網(wǎng)站，而是直接從聊天機(jī)器人那里獲得答案，那么傳統(tǒng)的搜索廣告將徹底失去影響力。面對(duì)收入下滑，廣告行業(yè)正竭力尋找向聊天機(jī)器人轉(zhuǎn)型的方法，而人工智能開發(fā)者當(dāng)然也樂于開發(fā)新的收入來源。

我們?cè)缇鸵娺^這樣的發(fā)展軌跡。每個(gè)主流科技平臺(tái)都遵循著同樣的模式。起初，開發(fā)者們會(huì)竭盡全力提升用戶增長(zhǎng)，強(qiáng)調(diào)用戶體驗(yàn)，并推出真正有用的功能。然后，隨著增長(zhǎng)放緩和競(jìng)爭(zhēng)加劇，他們會(huì)轉(zhuǎn)向通過廣告和數(shù)據(jù)銷售來實(shí)現(xiàn)盈利。社交媒體平臺(tái)早期致力于更有效地連接用戶，之后逐漸演變成以廣告收入而非用戶滿意度為導(dǎo)向的注意力掠奪機(jī)器。

科技評(píng)論家科里·多克托羅將這一過程稱為“平臺(tái)垃圾化”：當(dāng)平臺(tái)將廣告收入置于用戶體驗(yàn)之上時(shí)，必然會(huì)出現(xiàn)這種可預(yù)見的退化。2008年Facebook的優(yōu)勢(shì)被旨在最大化用戶參與度和廣告瀏覽量的算法操控所取代。同樣的模式在搜索引擎、視頻平臺(tái)以及所有主流消費(fèi)技術(shù)領(lǐng)域都上演。

人工智能平臺(tái)如今正步入商業(yè)化階段。隨著這場(chǎng)變革勢(shì)頭強(qiáng)勁，我們必須立即采取行動(dòng)，建立保障機(jī)制，防止出現(xiàn)以心理操縱為基礎(chǔ)的廣告模式。

我們需要新的行業(yè)規(guī)范和監(jiān)管框架，超越簡(jiǎn)單的信息披露要求，從根本上解決人工智能影響的問題。我們需要公開透明地說明人工智能系統(tǒng)針對(duì)哪些信號(hào)進(jìn)行了優(yōu)化。我們需要為真正以用戶利益而非廣告商和平臺(tái)利潤(rùn)為導(dǎo)向的人工智能輔助工具保留空間。

最重要的是，我們需要認(rèn)識(shí)到這不僅僅關(guān)乎技術(shù)：它關(guān)乎我們想要生活在怎樣的社會(huì)中。我們想要的是幫助我們清晰思考的人工智能伙伴，還是旨在影響我們選擇的AI銷售人員，抑或更糟糕的是，將我們的私人時(shí)刻和想法轉(zhuǎn)化為利潤(rùn)的AI？

選擇權(quán)仍然在我們手中，但不會(huì)太久了。

本文編譯自substack，原文作者Daniel Barcay and Center for Humane Technology

https://centerforhumanetechnology.substack.com/p/advertising-is-coming-to-ai-its-going