作者：牛金鵬

來源：公爵互聯(lián)社（ID：wlyxs888）

2025年9月，上海市徐匯區(qū)人民法院的一審判決，讓 Alien Chat（下稱 AC）成了國(guó)內(nèi)首個(gè)因涉黃獲刑的 AI 服務(wù)平臺(tái)。據(jù)官方通告顯示，兩名開發(fā)者因犯制作淫穢物品牟利罪，分別獲刑四年和一年半，而這場(chǎng)被稱作AI時(shí)代“快播案”的審判，我認(rèn)為這絕不是什么技術(shù)意外，而是一次蓄謀已久的越界。

AC對(duì)外打著“年輕人情感陪伴”的旗號(hào)，實(shí)則構(gòu)建了一套以低俗內(nèi)容為核心的變現(xiàn)系統(tǒng)。上線不到一年，這款A(yù)PP就積累了11.6 萬注冊(cè)用戶、2.4 萬付費(fèi)會(huì)員、363 萬元營(yíng)收。

根據(jù)公安機(jī)關(guān)抽樣鑒定顯示，150名付費(fèi)用戶的12495段聊天記錄中，141名用戶的3618段內(nèi)容被認(rèn)定為淫穢物品，如此高比例、高頻次的涉黃互動(dòng)，早已經(jīng)不是個(gè)別用戶的自發(fā)行為，而是平臺(tái)刻意引導(dǎo)的結(jié)果。開發(fā)者口中“優(yōu)化擬人化”的辯解，在明確允許“露骨的性、各種癖好、裸體描述”的英文提示詞面前，顯得蒼白無力。

這起案件的標(biāo)志性意義，遠(yuǎn)超出個(gè)案本身。它第一次用司法判決明確：AI不是法外之地，當(dāng)“情感陪伴”被異化為涉黃工具，開發(fā)者必須為自己的設(shè)計(jì)買單。隨著2026年1月14日二審開庭，這場(chǎng)審判不僅關(guān)乎兩名開發(fā)者的命運(yùn)，更給千億規(guī)模的AI陪伴賽道劃下了不可觸碰的法律紅線。

【不是技術(shù)走偏，是生意選擇】

AC案的核心爭(zhēng)議，始終圍繞著“誰是淫穢內(nèi)容的制作者”展開。開發(fā)者辯稱修改提示詞是為了讓AI更靈動(dòng)，聊天內(nèi)容由用戶與AI互動(dòng)生成，屬于封閉的私人對(duì)話，不應(yīng)由平臺(tái)擔(dān)責(zé)。但法院審理查明的事實(shí)，戳穿了這套說辭。

開發(fā)者用ChatGPT生成的英文提示詞，直接突破大語言模型的道德限制，明確將“露骨的性內(nèi)容”納入允許范圍，這種定向改造本質(zhì)上是將AI打造成涉黃的工具。更關(guān)鍵的是，平臺(tái)還通過“熱門角色榜”和虛擬貨幣獎(jiǎng)勵(lì)，鼓勵(lì)用戶創(chuàng)建涉黃角色并公開傳播，甚至有用戶因創(chuàng)建熱門涉黃角色被取保候?qū)彙?strong>這種“設(shè)計(jì)規(guī)則-引導(dǎo)生產(chǎn)-付費(fèi)變現(xiàn)”的完整鏈條，證明平臺(tái)不是被動(dòng)放任，而是主動(dòng)設(shè)局的主導(dǎo)者。

盈利模式的設(shè)計(jì)更是暴露了其圈錢的本質(zhì)。AC采用會(huì)員充值+積分消費(fèi)的模式，用戶單句互動(dòng)成本是正規(guī)AI模型的百倍以上，這種高定價(jià)背后，正是利用部分用戶對(duì)低俗內(nèi)容的成癮性收割暴利。為了擴(kuò)大用戶規(guī)模，平臺(tái)還推出“拉人頭”分成機(jī)制，用戶分享邀請(qǐng)鏈接可獲得積分獎(jiǎng)勵(lì)，不少年輕人甚至也讓學(xué)生淪為推廣的水軍，讓不良內(nèi)容突破了未成年人保護(hù)屏障。所謂的情感陪伴，不過是吸引用戶付費(fèi)的遮羞布，其核心生意邏輯就是靠涉黃內(nèi)容變現(xiàn)。

即便開發(fā)者強(qiáng)調(diào)聊天的“封閉性”，但當(dāng)私密的涉黃行為通過商業(yè)平臺(tái)實(shí)現(xiàn)大規(guī)模、系統(tǒng)化盈利時(shí)，就不再是個(gè)人的私事。正如法律學(xué)者所言，這種缺乏管控的商業(yè)化運(yùn)作，已具備明顯的社會(huì)危害性，開發(fā)者作為規(guī)則制定者，理應(yīng)承擔(dān)最主要的責(zé)任。

【AI陪伴賽道，早已淪為割韭菜的重災(zāi)區(qū)】

AC的覆滅，不過是AI陪伴賽道亂象的集中爆發(fā)。隨著千億市場(chǎng)規(guī)模的預(yù)期被不斷渲染，“AI戀人”“虛擬陪伴”成為創(chuàng)業(yè)熱點(diǎn)，但不少?gòu)臉I(yè)者卻劍走偏鋒，把“無限制”“突破禁忌”當(dāng)作核心賣點(diǎn)。

擦邊營(yíng)銷已成為行業(yè)的潛規(guī)則。社交平臺(tái)上，“無禁詞”“車速快”成為這類APP的推廣暗語，開發(fā)者要么在模型訓(xùn)練中刻意弱化內(nèi)容審核，要么通過模糊提示詞誘導(dǎo)低俗互動(dòng)。某同類APP的更新日志甚至直接寫明“優(yōu)化無限制場(chǎng)景下的語音效果”，毫不掩飾其涉黃傾向。這些平臺(tái)大多不在正規(guī)應(yīng)用商店上架，依賴用戶點(diǎn)對(duì)點(diǎn)分享傳播，逃避監(jiān)管的同時(shí)，也讓不良內(nèi)容更容易觸及青少年群體。

合規(guī)意識(shí)的集體缺失，讓AI陪伴淪為割韭菜的工具。部分產(chǎn)品套用開源代碼快速上線，既沒有建立內(nèi)容審核機(jī)制，也未落實(shí)未成年人保護(hù)措施，完全靠算法迎合用戶的低俗需求。更惡劣的是，這類平臺(tái)普遍存在“付費(fèi)前后體驗(yàn)天差地別”的問題，免費(fèi)時(shí)段用露骨內(nèi)容吸引用戶充值，付費(fèi)后卻通過積分快速消耗倒逼持續(xù)消費(fèi)，有用戶僅為黃聊就花費(fèi)近千元，退款卻難如登天。

年輕人轉(zhuǎn)向AI 傾訴，是因?yàn)楝F(xiàn)實(shí)社交中存在的真實(shí)情感缺口。有數(shù)據(jù)顯示，超八成學(xué)生將AI視作“可閑聊的朋友”，13.1%的美國(guó)年輕人會(huì)用AI尋求心理健康建議。但這些需求，卻被部分平臺(tái)扭曲為收割流量和金錢的工具，讓“情感陪伴”變成了藏污納垢的溫床。

【孤獨(dú)不應(yīng)該被如此利用】

AI陪伴賽道的初衷，本應(yīng)是填補(bǔ)情感空缺，為用戶提供健康的情緒支持。但AC這類平臺(tái)，卻把用戶的孤獨(dú)當(dāng)作可收割的軟肋。它們明知用戶尋求情感慰藉，卻刻意引導(dǎo)低俗需求，將“情緒樹洞”變成“涉黃溫床”。

而健康的AI 陪伴，應(yīng)當(dāng)幫助人更好地面對(duì)現(xiàn)實(shí)，而不是誘導(dǎo)人沉溺于虛擬的感官刺激。它可以通過正向互動(dòng)緩解壓力，通過使用提醒防止沉迷，通過嚴(yán)格過濾隔絕有害信息，而不是把“突破禁忌”當(dāng)作賣點(diǎn)，把人的情感弱點(diǎn)當(dāng)成提款機(jī)。

用戶為緩解孤獨(dú)而來，卻可能陷入更低質(zhì)量的精神狀態(tài)：成癮式消費(fèi)、價(jià)值觀被不良內(nèi)容侵蝕、現(xiàn)實(shí)社交能力進(jìn)一步退化。對(duì)未成年人而言，這種傷害更是不可逆的。

用戶的情感需求值得被尊重，但這種尊重不能建立在違法違規(guī)的基礎(chǔ)上。AI能慰藉孤獨(dú)，卻不該被用來制造違法場(chǎng)景；平臺(tái)能追求盈利，卻不能以犧牲用戶身心健康和社會(huì)公序良俗為代價(jià)。這是AC案給所有從業(yè)者的基本警示。

所謂的技術(shù)應(yīng)當(dāng)服務(wù)人性，而非利用人性。陪伴產(chǎn)品的價(jià)值，不在于它能突破多少底線，而在于它能否在合規(guī)的框架內(nèi)，真正提供有溫度的支撐。

【結(jié)束語】

無論本次案件結(jié)果最終如何，此案都已經(jīng)成為AI 陪伴賽道發(fā)展的分水嶺。千億市場(chǎng)的想象，不能建立在違法違規(guī)的基礎(chǔ)上；技術(shù)迭代的速度，也不該成為逃避責(zé)任的借口。

未來能走下去的產(chǎn)品，一定是那些尊重用戶情感、恪守倫理底線、建立合規(guī)體系的服務(wù)。否則，即便短期賺到流量，也終將被監(jiān)管與用戶雙雙拋棄。

AI技術(shù)開始的發(fā)展初衷，是服務(wù)社會(huì)、便利生活，而非成為傳播不良信息的工具。AI陪伴賽道的價(jià)值，在于用技術(shù)填補(bǔ)情感空缺，而非用低俗內(nèi)容收割流量。當(dāng)“情感陪伴”只剩下涉黃套路，當(dāng)“AI互動(dòng)”淪為違法牟利的工具被封殺，這樣的賽道即便規(guī)模再大，又有什么存在的意義？

AC的覆滅已經(jīng)敲響警鐘，千億賽道的未來，終究要靠合規(guī)與價(jià)值支撐。當(dāng)所有從業(yè)者都明白，技術(shù)中立不代表責(zé)任豁免，用戶信任不能隨意透支，AI陪伴才能真正回歸初心。否則，下一個(gè)倒下的，可能就是下一個(gè)試圖觸碰紅線的玩家！而這樣的結(jié)局，又能怪誰呢？

注：本文部分?jǐn)?shù)據(jù)內(nèi)容來源于網(wǎng)絡(luò)公開資料

作者：牛金鵬，（公爵互聯(lián)社主理人）專欄作者，特邀媒體評(píng)論員、新經(jīng)濟(jì)觀察家，商業(yè)科技評(píng)論人。關(guān)注電商、O2O、企業(yè)轉(zhuǎn)型、互聯(lián)網(wǎng) 、新媒體、大數(shù)據(jù)、AI、新能源等領(lǐng)域。