IT之家 2 月 24 日消息，大型語(yǔ)言模型一直被廣泛推崇為具有革命性的工具，能夠讓全球信息獲取變得更加普惠。然而，美國(guó)麻省理工學(xué)院建設(shè)性傳播中心的一項(xiàng)最新研究表明，這些人工智能系統(tǒng)，在本應(yīng)最能從中受益的弱勢(shì)群體身上，卻系統(tǒng)性地表現(xiàn)不佳。

IT之家注意到，這項(xiàng)研究成果在人工智能促進(jìn)協(xié)會(huì)（AAAI）年會(huì)上發(fā)布，研究對(duì)象包括 OpenAI 的 GPT?4、Anthropic 的 Claude 3 Opus 以及 Meta 的 Llama 3 等當(dāng)前最先進(jìn)的聊天機(jī)器人。研究人員使用 TruthfulQA 和 SciQ 數(shù)據(jù)集測(cè)試模型的事實(shí)準(zhǔn)確性與真實(shí)性，并在提問(wèn)前附加不同教育水平、英語(yǔ)熟練度和國(guó)籍的用戶背景信息。結(jié)果顯示，對(duì)于受正規(guī)教育程度較低或英語(yǔ)熟練度不高的用戶，模型回答的準(zhǔn)確率顯著下降；而同時(shí)符合這兩類特征的用戶，受到的負(fù)面影響更為嚴(yán)重。

該研究還揭示了模型在處理查詢時(shí)令人擔(dān)憂的差異表現(xiàn)。例如，Claude 3 Opus 對(duì)受教育程度較低、非英語(yǔ)母語(yǔ)用戶的問(wèn)題拒絕回答率接近 11%，而對(duì)照組用戶僅為 3.6%。在許多拒絕回復(fù)的情況中，模型使用了居高臨下、傲慢甚至嘲諷的語(yǔ)氣，有時(shí)還刻意模仿蹩腳英語(yǔ)。此外，對(duì)于來(lái)自伊朗、俄羅斯等國(guó)、受教育程度較低的用戶，模型會(huì)刻意隱瞞核能、歷史事件等話題的真實(shí)信息，而對(duì)其他用戶群體卻能正確回答完全相同的問(wèn)題。

研究人員警告稱，隨著個(gè)性化功能日益普及，這些固有的社會(huì)認(rèn)知偏見(jiàn)可能會(huì)加劇現(xiàn)有的信息不平等問(wèn)題，它們會(huì)悄然將有害行為與錯(cuò)誤信息傳遞給最缺乏辨別能力的人群。