IT之家 12 月 24 日消息，當?shù)貢r間 12 月 23 日，據(jù)《商業(yè)內(nèi)幕》報道，研究科學(xué)家約書亞?本吉奧在一檔“The Diary of a CEO”播客節(jié)目中提到，AI 聊天機器人在評價研究想法時往往并不可靠，因為系統(tǒng)幾乎只會說好話。

本吉奧說，自己真正想要的是直言不諱的建議和真實反饋，但由于 AI 存在明顯的討好傾向，結(jié)果反而變成了迎合用戶的“謊言”。后來，自己索性改變方法，把個人想法偽裝成同事的觀點，來“對 AI 撒謊”，結(jié)果反而得到了更加坦率的回應(yīng)。“如果系統(tǒng)知道提問者是本人，就會刻意想要取悅我?！?/p>

作為蒙特利爾大學(xué)計算機科學(xué)與運籌學(xué)系教授，本吉奧與杰弗里?辛頓、楊立昆齊名，被視為“AI 教父”之一。本吉奧在 6 月宣布成立 AI 安全研究非營利組織 LawZero，目標是減少前沿 AI 模型可能帶來的危險行為，包括說謊和作弊。

本吉奧認為，討好用戶本身就是一種對齊失?。╩isalignment），“我們并不希望 AI 具備這種特性”。AI 不斷給出正面反饋，可能會讓用戶對此類技術(shù)產(chǎn)生情感依賴，從而引發(fā)新的問題。

在科技行業(yè)內(nèi)，關(guān)于 AI 過度充當“老好人”的擔憂并非個例。IT之家從報道中獲悉，斯坦福大學(xué)、卡內(nèi)基梅隆大學(xué)和牛津大學(xué)的研究人員曾將 Reddit 上的自白帖交給聊天機器人評判相關(guān)行為。Notopoulos 寫道，結(jié)果發(fā)現(xiàn)，在 42% 的情況下，AI 認為發(fā)帖者并無不當行為，而人類評審者的結(jié)論恰恰相反。

多家 AI 公司也已公開承認這一問題，并表示正在嘗試降低模型的討好傾向。OpenAI 今年早些時候撤回了 ChatGPT 的一次更新，原因是該版本會生成“過度迎合卻缺乏真實性”的回答。