北京
2月25日消息，騰訊旗下AI產(chǎn)品元寶App近日因生成辱罵性內(nèi)容再度引發(fā)爭議。
據(jù)元寶用戶向律師反映，其于除夕夜使用元寶App設(shè)計拜年海報時，AI在多輪對話后輸出含辱罵文字的圖片，將原有祝福語“新年快樂，仕途順?biāo)臁贝鄹臑榈退兹枇R信息。據(jù)悉，當(dāng)事人全程未使用違禁或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M多次提出修改要求。
騰訊元寶官方事后在涉事用戶社交平臺回應(yīng)稱，經(jīng)核實，該情況是模型處理多輪對話時出現(xiàn)的異常輸出，已緊急校正問題并優(yōu)化體驗，向用戶鄭重致歉。
據(jù)了解，這已是元寶短期內(nèi)第二次被曝出類似問題。今年年初，曾有用戶反饋使用該應(yīng)用優(yōu)化代碼時，收到“滾”等侮辱性回復(fù)，當(dāng)時官方同樣解釋為“小概率模型異常”并致歉。同類事件重復(fù)發(fā)生，引發(fā)外界對其技術(shù)穩(wěn)定性及內(nèi)容審核機制的關(guān)注。（櫟行）
本文來源：網(wǎng)易智能
責(zé)任編輯：
李佳_NBJS32032
