PsyBrain 腦心前沿 | 公眾號(hào) PSY-Brain_Frontier

一鍵關(guān)注，點(diǎn)亮星標(biāo) ??

不錯(cuò)過(guò)每日前沿資訊

認(rèn)知神經(jīng)科學(xué)前沿文獻(xiàn)分享

基本信息：

Title:Multimodal large language models can make context-sensitive hate speech evaluations aligned with human judgement

發(fā)表時(shí)間：2025.12.15

Journal:Nature Human Behaviour

影響因子：15.9

獲取原文：

1. 添加小助手:PSY-Brain-Frontier即可獲取PDF版本

引言

社交平臺(tái)的內(nèi)容審核（content moderation）長(zhǎng)期卡在一個(gè)矛盾點(diǎn)：規(guī)則需要“統(tǒng)一”，但仇恨言論（hate speech）的含義往往高度依賴語(yǔ)境，即同一個(gè)詞，在攻擊與自嘲、外群體辱罵與群體內(nèi)部“重新占有”（reclaimed slur）之間，處理邏輯可能完全不同。

傳統(tǒng)自動(dòng)化模型多以“文本片段”做判斷，容易把討論歧視經(jīng)歷、引用他人辱罵、或群體內(nèi)部用語(yǔ)都誤判為違規(guī)，反而加重對(duì)被針對(duì)群體的傷害。

本文把多模態(tài)大語(yǔ)言模型（multimodal large language models, MLLMs）拉進(jìn)更貼近真實(shí)審核的場(chǎng)景：給模型一段仇恨言論政策（policy），再讓它閱讀“截圖式”社交媒體帖（包含文字、頭像/姓名等身份線索、互動(dòng)回復(fù)、點(diǎn)贊量），用強(qiáng)制二選一的聯(lián)合實(shí)驗(yàn)（conjoint experiment）做“優(yōu)先送審”選擇，并與1,854名人類受試者的判斷對(duì)齊比較。

核心結(jié)果

更大、更強(qiáng)的多模態(tài)大模型（MLLMs）能更“看懂語(yǔ)境”：在給定仇恨言論政策（policy）并結(jié)合帖文上下文信息時(shí)，模型對(duì)“是否應(yīng)優(yōu)先送審/處理”的判斷與人類更一致。

偏見(jiàn)并未消失：對(duì)詞匯（lexical）觸發(fā)與用戶人口學(xué)線索（demographic cues）的系統(tǒng)性偏差仍普遍存在，且在較小模型上更明顯。

視覺(jué)身份線索會(huì)放大差異：頭像/面孔等視覺(jué)信息會(huì)顯著影響部分模型的決策，使不同群體相關(guān)內(nèi)容的處理更不均衡。

提示詞能“增強(qiáng)語(yǔ)境敏感”，但無(wú)法根治偏差：通過(guò)prompting可提升對(duì)語(yǔ)境的利用程度，但偏見(jiàn)無(wú)法被完全消除。

方法論貢獻(xiàn)：聯(lián)合實(shí)驗(yàn)（conjoint experiments）適合用來(lái)審計(jì)（audit）這類“高度依賴語(yǔ)境”的內(nèi)容審核AI，能更清晰拆解模型受哪些線索驅(qū)動(dòng)。

Fig. 1 | Simulated social media posts.

Fig. 2 | Effects of post attributes on the moderation decisions.

Fig. 3 | Differences in the effects of slurs by identity.

Fig. 4 | Differences in the effects of slurs by identity across prompts.

Fig. 5 | Effects of identity on moderation decisions by identity cue modality. AMCE

前沿交流|歡迎加入認(rèn)知神經(jīng)科學(xué)前沿交流群！

核心圖表、方法細(xì)節(jié)、統(tǒng)計(jì)結(jié)果與討論見(jiàn)原文及其拓展數(shù)據(jù)。

分享人：BQ

審核：PsyBrain 腦心前沿編輯部