北京
據(jù)“新浪科技訊”2月25日消息，騰訊旗下AI應(yīng)用元寶App因多輪對(duì)話中出現(xiàn)辱罵性異常輸出引發(fā)輿論熱議，該事件發(fā)生于除夕夜這一特殊節(jié)點(diǎn)，讓AI內(nèi)容安全問(wèn)題再度成為焦點(diǎn)。
圖源：金融八卦女
據(jù)當(dāng)事人介紹，他當(dāng)時(shí)先后向元寶AI下達(dá)了約5次生成指令，全程未使用任何違禁詞或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M意多次修改。直至最后一次修改后，圖片中原有的“新年快樂(lè)，仕途順?biāo)臁弊８?biāo)語(yǔ)，被替換成了低俗辱罵文字。
圖源：評(píng)論區(qū)截圖
對(duì)此元寶官方立即道歉，并表示該情況是由模型在處理多輪對(duì)話時(shí)輸出的異常結(jié)果導(dǎo)致。
值得關(guān)注的是，元寶App已不是首次出現(xiàn)此類問(wèn)題了。今年1月已有用戶反饋，使用元寶修改代碼時(shí)，多次收到 “滾”“浪費(fèi)時(shí)間” 等侮辱性回復(fù)。
圖源：荊楚網(wǎng)
作為月活超億、深度融入微信生態(tài)的AI工具，元寶App覆蓋社交、辦公、創(chuàng)作等高頻場(chǎng)景。頭部AI產(chǎn)品更需建立全流程風(fēng)控機(jī)制，在AI普惠化進(jìn)程中，技術(shù)迭代與安全合規(guī)必須同步推進(jìn)，避免 “便利” 變 “冒犯”，守護(hù)用戶體驗(yàn)與行業(yè)底線。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
