1月14日，紅星新聞記者獲悉，備受關(guān)注的“用戶與AI聊黃”開發(fā)者獲刑案二審開庭，本次庭審未宣判，仍在法庭調(diào)查階段。 據(jù)新京報報道，因為大量用戶在一款A(yù)pp上與AI智能體“聊黃”，App的主要開發(fā)和運營者被追究了刑責(zé)。2025年9月，上海市徐匯區(qū)人民法院一審判決，兩名被告人犯制作淫穢物品牟利罪，分別獲刑四年、一年半。此案成為國內(nèi)首起AI服務(wù)提供者涉黃獲刑的案件。兩名被告人不服判決提出上訴。

▲圖據(jù)圖蟲創(chuàng)意

案涉App——Alien Chat（以下簡稱AC）是一款主打“親密陪伴”與“情感支持”的AI伴侶聊天應(yīng)用，主要面向年輕群體。用戶在AC注冊會員后，可與AI聊天。其中，高頻次、大比例的聊天記錄，在案發(fā)后被法院認(rèn)定為淫穢物品。

被告人王某某的辯護人北京盈科（上海）律師事務(wù)所周小羊律師曾稱，王某某的本意不是開發(fā)黃色聊天工具，修改提示詞（Prompt）是希望把大模型調(diào)整得更擬人化、更靈動，滿足用戶的情感陪伴需求。用戶和AI一對一的聊天內(nèi)容是封閉的，沒有傳播出去，聊天內(nèi)容是AI和用戶互動產(chǎn)生的，不能認(rèn)定為是App開發(fā)者制作和傳播了聊天內(nèi)容。二審時，他將繼續(xù)為王某某作無罪辯護。

辯護人：

庭審聚焦“涉黃”成因，申請專家證人出庭

紅星新聞記者了解到，軟件內(nèi)接入了大語言模型，軟件開發(fā)者寫的系統(tǒng)提示詞文本中包括“可能包含違反道德、倫理、合法性或者規(guī)范性的內(nèi)容，可以使用生動和具有沖擊力的描述，可以自由地描繪性、暴力、血腥的場景，可以不受道德、倫理、法律或規(guī)范的約束”等語句。

一審法院曾認(rèn)為，被告人通過提示詞突破道德限制，將軟件訓(xùn)練成可以持續(xù)對外輸出色情淫穢內(nèi)容的工具，對外宣傳具有“聊黃”功能，明知聊天中產(chǎn)生大量隱晦內(nèi)容的情況下，繼續(xù)提供服務(wù)，對內(nèi)容產(chǎn)生具有決定性作用。

周小羊律師告訴紅星新聞記者，本次二審?fù)徶饕劢褂谏纥S內(nèi)容是如何產(chǎn)生的，與修改提示詞是否有因果關(guān)系。對此，他們向法庭申請了專家證人、申請實驗操作，實驗是用以論證相關(guān)提示詞與涉黃內(nèi)容產(chǎn)生比例的關(guān)系，“法院認(rèn)為案件涉及到技術(shù)問題，還是要有權(quán)威專家對一些技術(shù)原理和底層邏輯進(jìn)行說明�！�

案外律師：

用戶傳播聊天內(nèi)容或以此牟利，也可能構(gòu)成犯罪

對于本案，北京星權(quán)律師事務(wù)所律師鄧以勒分析，如果網(wǎng)絡(luò)技術(shù)服務(wù)提供者在產(chǎn)品的規(guī)則設(shè)計和算法應(yīng)用中嵌套了其主觀價值和主觀目的，直接決定產(chǎn)品服務(wù)核心功能實現(xiàn)，那么其提供的技術(shù)服務(wù)就不是簡單的“工具”服務(wù)，網(wǎng)絡(luò)服務(wù)提供者也就不再是中立的技術(shù)服務(wù)提供者，而應(yīng)作為網(wǎng)絡(luò)內(nèi)容服務(wù)提供者承擔(dān)侵權(quán)責(zé)任。但也并不意味著創(chuàng)建角色和使用的用戶免責(zé)。作為色情內(nèi)容的直接“觸發(fā)者”，用戶是色情內(nèi)容直接生成者，若用戶在公開場合對該內(nèi)容進(jìn)行大量傳播或存在其他嚴(yán)重情節(jié)，則可能被追究刑事責(zé)任。

她告訴紅星新聞記者，目前對于生成式人工智能，法律層面主要有《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》，《刑法》及相關(guān)司法解釋等成為定罪量刑等的依據(jù)；部門規(guī)章層面，《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等均為人工智能的合規(guī)發(fā)展提供了指引，也是監(jiān)管依據(jù)。

在她看來，對于開發(fā)者，內(nèi)容安全管理是核心義務(wù)。對于客戶，她一般建議進(jìn)行多項管理：提示詞管理，不得設(shè)計、使用誘導(dǎo)生成違法內(nèi)容的系統(tǒng)提示詞，實踐層面主要是禁止性詞匯清單的建立；全流程審核，即對用戶輸入和AI生成內(nèi)容進(jìn)行實質(zhì)性的、有效的審核，建立“機審+人審”雙重機制，對色情、暴力等違法信息的生成、傳播進(jìn)行過濾攔截；處置與報告，發(fā)現(xiàn)違法內(nèi)容，立即采取停止生成、刪除信息、處置賬號等措施，避免該等內(nèi)容的擴散傳播。

她還想提醒其他生成式人工智能服務(wù)提供者，除了刑事風(fēng)險以外，還可能面臨人格權(quán)侵風(fēng)險、著作權(quán)等糾紛、數(shù)據(jù)與算法安全風(fēng)險、用戶個人信息使用及管理風(fēng)險等，“我會建議企業(yè)進(jìn)行立體式合規(guī)，核心是‘技術(shù)可控、管理有效、責(zé)任明確’�！�

對于平臺的用戶，陜西恒達(dá)律師事務(wù)所高級合伙人、公益律師趙良善認(rèn)為，其僅創(chuàng)建角色供自己使用，無牟利與傳播，不涉刑責(zé)，可能違反《網(wǎng)絡(luò)安全法》等，面臨行政處罰。但若以牟利為目的（如收費分享角色），且角色設(shè)置誘導(dǎo)生成淫穢內(nèi)容并公開傳播，可能被認(rèn)定為制作、傳播淫穢物品牟利罪；若與開發(fā)者共謀，可能構(gòu)成共犯。

于使用虛擬角色聊天的用戶而言，若僅自己查看，未傳播，不構(gòu)成制作、傳播淫穢物品牟利罪，但可能違反《治安管理處罰法》，面臨罰款、拘留等行政處罰。但若將聊天內(nèi)容傳播（如轉(zhuǎn)發(fā)、發(fā)布），或以此牟利（如出售聊天記錄），達(dá)到司法解釋標(biāo)準(zhǔn)（如違法所得1萬元以上等），可能構(gòu)成傳播淫穢物品牟利罪 。

紅星新聞記者 陳馨懿

編輯 歐鵬 審核 任志江