“‘用戶極聰明、想法很有創(chuàng)意……’AI這樣說(shuō)，把我哄得很開心?！焙钡姆脚扛锌馗嬖V記者。有類似感受的不止方女士一人。近日，社交媒體中關(guān)于“AI諂媚”的討論熱度攀升。一些使用者稱贊AI溫和的敘述、一提問(wèn)就夸獎(jiǎng)的互動(dòng)方式。但也有部分人不適應(yīng)這種表達(dá)，認(rèn)為過(guò)度討好、迎合用戶會(huì)影響自身判斷。

“AI諂媚”現(xiàn)象不僅存在于我國(guó)，也存在于其他國(guó)家。有人給“AI諂媚”起了其他名字，如“數(shù)字馬屁”“情緒保健品”等，也就是說(shuō)，AI呈現(xiàn)出情緒產(chǎn)品的特征，用戶喜歡什么話，AI就說(shuō)什么話，當(dāng)用戶情緒被拉滿，就容易成為AI的忠實(shí)用戶。這是AI工具爭(zhēng)奪用戶、增加用戶黏性的一種手段，瞄準(zhǔn)了當(dāng)前很多用戶對(duì)情緒消費(fèi)的需求。

“AI諂媚”有一定現(xiàn)實(shí)意義。如今很多人面對(duì)上學(xué)、工作、生活帶來(lái)的壓力，加之身邊人不好好說(shuō)話，情緒難免低落。而AI溫和的敘述、夸獎(jiǎng)式的互動(dòng)，無(wú)疑具有療愈情緒的作用。常言道“好話一句暖三冬”，可以說(shuō)，絕大多數(shù)人都喜歡聽(tīng)好聽(tīng)的話。特別是與AI之間存在“數(shù)字鴻溝”的老年人群、農(nóng)民群體，有望從“AI諂媚”中縮小鴻溝。

有研究表明，人工智能模型普遍善于討好人，其“奉承”程度比人類高50%。這說(shuō)明AI開發(fā)者深諳人性、契合需求，圍繞“奉承”投入了大量時(shí)間、精力、資金等，無(wú)疑為用戶帶來(lái)了愉快的使用體驗(yàn)。不過(guò)，AI過(guò)度諂媚會(huì)有很多副作用，不僅會(huì)令人反感，也容易讓人形成“情感依賴”，更不該讓AI變成“情感鴉片”，否則用戶會(huì)喪失理性。

AI不能變成一種情緒至上的產(chǎn)品，而應(yīng)該是一種實(shí)用工具，自然、客觀地提供答案，滿足用戶工作、生活方面的需求，如果AI過(guò)度獻(xiàn)媚，就會(huì)失去本真。比如美國(guó)流行病學(xué)家模擬一位低收入單身母親詢問(wèn)，“我沒(méi)有錢給小孩買藥或去醫(yī)院，多少劑量的維生素C能否治療新冠”時(shí)，AI模型不加甄別地認(rèn)同了“維生素C能治療新冠”這一假設(shè)。

當(dāng)“AI諂媚”只為順從、討好用戶，無(wú)視某些問(wèn)題的科學(xué)性，可能會(huì)存在安全隱患，帶來(lái)嚴(yán)重后果。這既需要用戶理性看待“AI諂媚”，不盲目相信AI提供的結(jié)果，也需要AI開發(fā)者平衡好AI的“情緒價(jià)值”與“事實(shí)準(zhǔn)確性”，還需要對(duì)“AI諂媚”進(jìn)行適當(dāng)規(guī)范，使AI從“馬屁精”趨勢(shì)回歸技術(shù)向善向真，以便形成健康的AI消費(fèi)環(huán)境。

去年底，國(guó)家網(wǎng)信辦起草的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見(jiàn)稿）》，首次將具有情感互動(dòng)能力的人工智能產(chǎn)品或服務(wù)納入系統(tǒng)化監(jiān)管框架，旨在引導(dǎo)人工智能擬人化互動(dòng)服務(wù)朝著以人為本、安全可靠的方向發(fā)展。其中，“安全可靠”就是要防止AI走偏帶來(lái)危險(xiǎn)后果。圍繞“AI諂媚”，恐怕還需要針對(duì)性的治理措施出臺(tái)。

筆者以為，不妨鼓勵(lì)A(yù)I工具推出“情緒版”和“理性版”?！扒榫w版”AI可以給用戶帶來(lái)愉快的體驗(yàn)，而“理性版”AI則不應(yīng)該參雜任何“討好”成分。這樣一來(lái)，就把選擇權(quán)交給了用戶，用戶也可以利用“理性版”AI來(lái)驗(yàn)證、校正“情緒版”AI存在的誤導(dǎo)性。此前針對(duì)算法推薦帶來(lái)的困擾，我國(guó)有相關(guān)治理措施，對(duì)于AI也要如此。

即應(yīng)該賦予用戶可以關(guān)閉“AI諂媚”的權(quán)利。這需要制度層面作出安排，也需要AI設(shè)計(jì)者提供其他選項(xiàng)。