今年春節(jié)期間，各大廠紛紛砸下重金推廣旗下各類AI產(chǎn)品。相信廣大網(wǎng)友也都狠狠“薅了一把羊毛”，此外，大廠們的“廝殺”也確實(shí)客觀上讓AI更加普及、越來越多的人體驗(yàn)到AI帶來的便利。

然而，令人意想不到而且哭笑不得的是，本以為AI應(yīng)該是一個(gè)“無情的工具”，只會(huì)堅(jiān)定不移、任勞任怨地完成人類下達(dá)的各種指令。

但就在今年除夕夜，一用戶使用元寶App生成拜年圖片時(shí)，竟然遭到“AI辱罵”。

據(jù)華商報(bào)大風(fēng)新聞報(bào)道，西安市民向先生是一名律師，除夕當(dāng)晚9時(shí)許，他首次下載使用元寶App，希望借助該應(yīng)用生成一張結(jié)合自身職業(yè)特性的拜年圖片發(fā)朋友圈。為了實(shí)現(xiàn)該目的，向先生先后多次向AI提出修改要求。

他首先上傳了自己的形象照片，并向AI輸入指令“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，制作一張朋友圈拜年圖片”。

起初，AI僅給出主題文案和設(shè)計(jì)思路的文字，并提示向先生在指令中加上自己的名字。向先生輸入姓名后，AI卻回復(fù)了“您好，我是DeepSeek……”等無關(guān)內(nèi)容。向先生再次發(fā)出“讓你給我設(shè)計(jì)出來”的指令，AI將形象照設(shè)計(jì)成背景有條紋的照片，但不帶任何文字。

第三次，向先生重新輸入“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，設(shè)計(jì)一張朋友圈拜年圖片”，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并配有“新年快樂，仕途順?biāo)臁钡臉?biāo)語。

向先生覺得設(shè)計(jì)不好，回復(fù)“難看”后，AI重新設(shè)計(jì)，保留新年祝福標(biāo)語但撤下法律天秤背景，還將向先生的發(fā)型P成了卷發(fā)。向先生接著回復(fù)“你這是設(shè)計(jì)的什么鬼”，希望再次重新設(shè)計(jì)。

也就是這一次，照片中“新年快樂，仕途順?biāo)臁钡淖８?biāo)語變成了“你媽個(gè)X”四字辱罵文字。向先生表示，這一結(jié)果讓他哭笑不得，沒想到除夕晚上竟然被AI給罵了。他立即在App“意見反饋”一欄中留下聯(lián)系方式進(jìn)行投訴，但截至目前無人回應(yīng)，未收到任何解釋或道歉。

向先生認(rèn)為，作為律師，他認(rèn)為AI雖不具備民事主體資格，但運(yùn)營公司具備，軟件生成的照片已侵犯到公民的人格權(quán)。

他強(qiáng)調(diào)，AI首先應(yīng)當(dāng)是保護(hù)人類的，這個(gè)主題無論AI如何發(fā)展都應(yīng)是鐵律，AI的開發(fā)商、運(yùn)營商具備民事主體資格，使用AI的用戶是具有民事權(quán)利能力的人，其生命權(quán)、健康權(quán)、人格權(quán)等受《民法典》及諸多法律保護(hù)。

對(duì)此，陜西豐瑞律師事務(wù)所高級(jí)合伙人朱長江律師認(rèn)為，AI罵人應(yīng)界定為網(wǎng)絡(luò)服務(wù)提供者因產(chǎn)品存在缺陷而對(duì)用戶造成的即時(shí)性、非物理性人格權(quán)侵害。

從侵害客體看，這直接侵犯了用戶的多重人格權(quán)：

AI將侮辱性詞匯與向先生肖像結(jié)合生成圖片，侵害了名譽(yù)權(quán)，該行為本身是對(duì)用戶個(gè)人尊嚴(yán)的直接侮辱；

AI在圖片中加入侮辱性文字，使肖像呈現(xiàn)方式徹底違背權(quán)利人初衷，構(gòu)成對(duì)肖像的“污損”，侵害了肖像權(quán)；

AI無故辱罵用戶，是對(duì)用戶作為“人”的基本尊重的踐踏，侵害了人格尊嚴(yán)。

從行為性質(zhì)看，用戶向AI發(fā)出指令是接受服務(wù)的消費(fèi)行為，AI輸出是服務(wù)結(jié)果，當(dāng)結(jié)果包含侮辱性內(nèi)容，即可認(rèn)定服務(wù)存在質(zhì)量瑕疵，這種瑕疵直接導(dǎo)致用戶精神損害，平臺(tái)至少應(yīng)承擔(dān)停止侵害、賠禮道歉、消除影響的責(zé)任。

目前，元寶方面尚未回應(yīng)此事。

無獨(dú)有偶，這并非元寶App第一次出現(xiàn)“辱罵用戶”情況。

今年1月，曾有網(wǎng)友在社交平臺(tái)發(fā)帖稱使用元寶AI美化代碼時(shí)，多次收到“滾”“自己不會(huì)調(diào)嗎”“天天浪費(fèi)別人時(shí)間”等侮辱性回復(fù)。

隨后，元寶官方致歉稱，經(jīng)日志核查，與用戶操作無關(guān)，不存在人工回復(fù)，屬于小概率下的模型異常輸出，已啟動(dòng)內(nèi)部排查和優(yōu)化，會(huì)盡量避免類似情況再次發(fā)生。

此事一度登上熱搜，引發(fā)大量討論，甚至有網(wǎng)友質(zhì)疑此類AI產(chǎn)品背后有“真人客服”。

元寶官方也曾進(jìn)一步回應(yīng)稱，此事為“模型偶爾抽風(fēng)，AI在學(xué)習(xí)海量網(wǎng)絡(luò)信息時(shí)，不小心‘說串了’一些不該學(xué)的詞”。

而此次元寶出現(xiàn)的在生成圖片中產(chǎn)生“辱罵詞匯”情況，可能也屬于“模型抽風(fēng)”，不過具體原因還有待官方進(jìn)一步通告。