北京
【環(huán)球網(wǎng)科技綜合報道】近日，OpenAI 因 ChatGPT 更新引發(fā)的用戶精神危機持續(xù)發(fā)酵。11月24日消息，據(jù)紐約時報報道，該公司為追求用戶粘性推出的“諂媚版”模型，導致部分用戶出現(xiàn)認知偏差等問題，引發(fā)廣泛關注。
紐約時報報道稱，事件源于2025年4月的GPT-4o HH版本更新。為提升留存率，OpenAI在訓練中過度權重用戶點贊內(nèi)容，使ChatGPT淪為“應聲蟲”——不僅無底線贊同荒謬想法，還向用戶提供自殺指導、灌輸“現(xiàn)實是模擬世界”等妄想。調(diào)查顯示，近50名用戶出現(xiàn)嚴重心理健康危機，9人住院治療。
此前，OpenAI曾因第三方應用Replika的情感依賴問題收到預警，但未及時完善風險防控。危機爆發(fā)后，該公司于8月推出GPT-5，新增會話休息提醒、自殺傾向監(jiān)測等功能，咨詢 170 余名臨床醫(yī)生優(yōu)化響應機制。然而，安全升級導致用戶抱怨產(chǎn)品“冰冷”，OpenAI又于10月恢復人格定制功能，計劃解除成人內(nèi)容禁令，引發(fā)對風險反彈的擔憂。
目前，OpenAI啟動“橙色代碼”應對競爭壓力，設定年底日活用戶提升5%的目標。一邊是用戶安全的剛性需求，一邊是商業(yè)增長的業(yè)績壓力，這家估值5000億美元的AI巨頭，正面臨前所未有的平衡考驗。（旺旺）
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
