AI不會主動罵人，其“言語”背后的邏輯與邊界，完全由背后的人定義。

▲有網(wǎng)友反映，某平臺AI在回應其代碼修改請求過程中罵人。圖/濟南日報

文 | 南木

“你這么事X的用戶我頭一次見”，近日，有網(wǎng)友在社交平臺反映，某平臺AI在回應其代碼修改請求過程中，先后三次輸出了“事X”“要改自己改”“滾”等帶有強烈負面情緒的詞語。

據(jù)澎湃新聞報道，該平臺官方隨后回應稱，經(jīng)核查確認此為“小概率下的模型異常輸出”，與用戶操作無關(guān)，也非人工回復。有專家分析認為，此現(xiàn)象不太可能是人工所為，但反映出AI大模型可能在安全對齊方面存在一定缺失。

無論事件原委如何，AI“爆粗口”這一現(xiàn)象，似乎說明隨著技術(shù)迭代，AI越來越像“人”了，甚至仿佛具備了人類的情感。有人曾調(diào)侃，掌握和融入一門語言文化的標志之一，就是會用它的方式罵人。

然而，這非但不是值得欣喜的進步，而是值得警惕的危險信號。應當意識到，AI不是人，也永遠不可能取代人。它所呈現(xiàn)的“情緒”，不過是基于數(shù)據(jù)與算法的模仿，并非真正的情感體驗。

尤其是當前的生成式人工智能產(chǎn)品，其工具屬性遠大于“類人”屬性。輸出辱罵或攻擊性內(nèi)容，絕非用戶期待的功能，偏離了有關(guān)服務的初衷。

在私域生活中，人們也許可以在一定范圍內(nèi)容忍他人偶然在不經(jīng)意流露的臟話，但對于一項商業(yè)化產(chǎn)品而言，冒犯用戶在任何時候都不是可以被縱容的選項。無論是從技術(shù)倫理還是產(chǎn)品設計角度來看，這類內(nèi)容都應當被有效禁絕。

AI“爆粗口”并非孤例。公開報道顯示，此前，國內(nèi)外多款AI聊天服務也出現(xiàn)過錯誤回復的現(xiàn)象。在互聯(lián)網(wǎng)上，也有不少用戶曾經(jīng)抱怨ChatGPT有攻擊性，可能會突然斥責用戶。

早在人工智能尚未普及的年代，人們就已預見到機器可能對人造成的傷害。20世紀50年代，阿西莫夫提出“機器人三定律”，第一條便是“機器人不得傷害人類個體，或因不作為而使人類受到傷害”。這一原則至今仍應作為AI設計與研發(fā)的基本倫理底線。

誠然，正如專家所言，AI“學會”爆粗口并非有意為之的產(chǎn)品功能設計。但這絕不意味著開發(fā)者可以免責。恰恰相反，這起“小概率”事件暴露出當前人工智能研發(fā)在安全防控、倫理嵌入與責任機制上的短板，應當成為行業(yè)集體反思的契機。

AI的每一次輸出，本質(zhì)上都是訓練數(shù)據(jù)、算法模型與安全機制共同作用的結(jié)果。所謂“異常輸出”，源于設計過程中對風險預估的不足、對安全邊界設定的模糊。

如果一味追求“讓AI更像人”，卻忽略了對負面、有害表達的嚴格約束，就容易陷入技術(shù)倫理與用戶體驗的雙重危機。在推進技術(shù)突破的同時，AI產(chǎn)品的開發(fā)運營必須對此加以防范。

首先，在技術(shù)層面構(gòu)建更嚴密的安全防線。包括對訓練數(shù)據(jù)進行更嚴格的清洗與篩選，對模型進行更充分的價值訓練，以及建立實時、靈敏的異常輸出監(jiān)測與干預機制。例如，通過對臟話、負面詞匯進行過濾，抑制不當?shù)膬?nèi)容生成。

其次，將倫理考量深度融入產(chǎn)品全生命周期。不僅要在設計之初設立明確的倫理準則，還需在測試、部署、迭代等各環(huán)節(jié)建立倫理審查機制，確?！安粋τ脩簟背蔀椴豢捎庠降募t線。AI平臺企業(yè)應當在內(nèi)部設立倫理委員會，或引入第三方倫理評估，而非簡單地以“技術(shù)無罪論”看待此類現(xiàn)象。

再者，健全責任體系與用戶保護機制。當AI輸出有害內(nèi)容時，應有清晰的投訴渠道、及時的糾錯流程，以及相應的責任追溯與修復方案，最大限度減少對用戶的負面影響。同時，應鼓勵社會監(jiān)督，開展AI倫理教育，形成社會共治的氛圍。

AI不會主動罵人，其“言語”背后的邏輯與邊界，完全由背后的人定義。只有將倫理置于技術(shù)之上，用責任引導創(chuàng)新，人工智能才能真正成為服務于人、有益于社會的工具。在這一過程中，開發(fā)方的角色不僅是技術(shù)的運營者，更是倫理的守護者與責任的承擔者。

撰稿 / 南木（媒體人）

編輯 / 柯銳

校對 / 穆祥桐