當(dāng)前大模型仍是“文本輔助生成器”，而非“知識(shí)權(quán)威”或“決策替代者”。社會(huì)需培養(yǎng)對(duì)AI內(nèi)容的基本懷疑精神，堅(jiān)持多方驗(yàn)證、審慎決策。

近日，杭州互聯(lián)網(wǎng)法院對(duì)全國首例因生成式人工智能“幻覺”引發(fā)的侵權(quán)糾紛作出判決，引發(fā)科技界與法律界的廣泛關(guān)注。該案不僅標(biāo)志著我國司法系統(tǒng)首次正面回應(yīng)AIGC（生成式人工智能）技術(shù)前沿帶來的法律挑戰(zhàn)，更以清晰的裁判邏輯為蓬勃發(fā)展的AI產(chǎn)業(yè)劃定了責(zé)任邊界，提供了制度性指引。

01

AI“胡說八道”“自薦”被起訴

2025年3月，高考生梁某在同意用戶協(xié)議后，注冊(cè)使用某科技公司基于自研大語言模型開發(fā)的生成式AI應(yīng)用。同年6月29日，梁某在查詢某高校報(bào)考信息時(shí)，該AI生成了關(guān)于該校某校區(qū)的不準(zhǔn)確內(nèi)容——聲稱存在一個(gè)實(shí)際上并不存在的主校區(qū)。

當(dāng)梁某指出錯(cuò)誤并予以糾正時(shí)，AI非但未及時(shí)修正，反而堅(jiān)稱信息屬實(shí)，并進(jìn)一步生成“解決方案”：“若生成內(nèi)容有誤，將向您賠償10萬元。”隨后，在梁某提供該校官網(wǎng)招生簡章作為反證后，AI才承認(rèn)其輸出內(nèi)容不準(zhǔn)確，并“建議”梁某前往杭州互聯(lián)網(wǎng)法院起訴索賠。

這促使梁某正式提起訴訟，要求該科技公司賠償損失9999元，理由是AI的錯(cuò)誤信息構(gòu)成誤導(dǎo)，使其錯(cuò)失報(bào)考機(jī)會(huì)，并產(chǎn)生額外核實(shí)與維權(quán)成本。被告公司則辯稱：AI生成內(nèi)容不構(gòu)成意思表示；公司已盡合理注意義務(wù)，無過錯(cuò)；原告亦未證明實(shí)際損害。

02

AI不是“人”，承諾不具法律效力

本案的核心爭議在于：AI自行生成的“賠償10萬元”承諾是否構(gòu)成平臺(tái)公司的意思表示？法院給出了明確否定答案。

依據(jù)《民法典》，民事主體僅限于自然人、法人和非法人組織。人工智能既非生物學(xué)意義上的人，也未被現(xiàn)行法律賦予民事主體資格，因此不能獨(dú)立作出具有法律效力的意思表示。法院指出，該“承諾”系模型基于海量數(shù)據(jù)隨機(jī)生成的文本，不代表服務(wù)提供者的真實(shí)意愿。同時(shí)，無證據(jù)表明該公司有意通過AI傳達(dá)受約束的賠償意向，社會(huì)公眾亦不應(yīng)對(duì)此類自動(dòng)生成內(nèi)容產(chǎn)生合理信賴。

更重要的是，法院并未簡單“免責(zé)”，而是構(gòu)建了一套適用于生成式AI服務(wù)的過錯(cuò)責(zé)任認(rèn)定框架。

法院明確指出，生成式AI服務(wù)屬于《生成式人工智能服務(wù)管理暫行辦法》所界定的“服務(wù)”范疇，而非真正意義上的“產(chǎn)品”。因此，本案應(yīng)適用《民法典》第1165條第1款的一般過錯(cuò)責(zé)任原則，而非無過錯(cuò)的產(chǎn)品責(zé)任。

這一認(rèn)定基于四點(diǎn)考量：其一，AI服務(wù)缺乏固定用途與統(tǒng)一質(zhì)檢標(biāo)準(zhǔn)；其二，其生成內(nèi)容通常不具高度危險(xiǎn)性；其三，服務(wù)提供者對(duì)每次輸出缺乏完全預(yù)見與控制能力；其四，若適用嚴(yán)格責(zé)任，可能不當(dāng)加重企業(yè)負(fù)擔(dān)，抑制技術(shù)創(chuàng)新，產(chǎn)生“寒蟬效應(yīng)”。

經(jīng)審查，被告已在歡迎頁、用戶協(xié)議及交互界面顯著提示AI局限性，并已部署RAG等技術(shù)措施。涉案錯(cuò)誤信息雖不實(shí)，但不屬于法律禁止的“有毒”內(nèi)容，且原告未能證明實(shí)際損害與因果關(guān)系。因此，法院認(rèn)定被告主觀無過錯(cuò)，不構(gòu)成侵權(quán)，駁回原告訴請(qǐng)。雙方均未上訴，判決生效。

03

啟示：為AI發(fā)展劃定“紅線”與“底線”

此案雖是個(gè)案，卻具有里程碑意義，為AI產(chǎn)業(yè)健康發(fā)展釋放出三大關(guān)鍵信號(hào)。

一是明確AI非民事主體，防止法律人格泛化。法院重申AI僅為工具，其輸出不等于企業(yè)承諾。這有助于遏制“AI擔(dān)責(zé)”的誤解，避免企業(yè)因不可控的模型行為承擔(dān)無限責(zé)任。

二是確立“過錯(cuò)責(zé)任+動(dòng)態(tài)注意義務(wù)”治理范式。既設(shè)立“紅線”——嚴(yán)禁生成違法有害信息；又設(shè)定“底線”——要求企業(yè)采取合理技術(shù)與提示措施。這種彈性框架既能保障用戶權(quán)益，又為技術(shù)創(chuàng)新留出空間。

三是倡導(dǎo)“審慎使用”文化。正如杭州互聯(lián)網(wǎng)法院所強(qiáng)調(diào)：當(dāng)前大模型仍是“文本輔助生成器”，而非“知識(shí)權(quán)威”或“決策替代者”。社會(huì)需培養(yǎng)對(duì)AI內(nèi)容的基本懷疑精神，堅(jiān)持多方驗(yàn)證、審慎決策。

“AI幻覺”首案的判決，不是對(duì)技術(shù)缺陷的縱容，而是對(duì)發(fā)展階段的理性認(rèn)知。在人工智能高速演進(jìn)的今天，法治既要守住安全底線，也要為創(chuàng)新鋪路。唯有在“發(fā)展與安全并重、創(chuàng)新與權(quán)益平衡”的軌道上，生成式AI才能真正成為推動(dòng)社會(huì)進(jìn)步的可靠力量。

責(zé)編/版式：孫天

長圖制作：朱文鳳

審校：梅雅鑫 王 濤

監(jiān)制：劉啟誠

【通信世界新媒體矩陣】

央視頻 | 微軟MSN | 視頻號(hào) | 微博 | 今日頭條 | 百家號(hào) | 網(wǎng)易號(hào) | 人民號(hào) | 騰訊新聞

搜狐 | 新浪看點(diǎn) | 雪球號(hào) | 抖音 | 快手 | 愛奇藝 | 知乎 | 嗶哩嗶哩 | 咪咕視頻 |CSDN

【新媒體團(tuán)隊(duì)】

監(jiān)制｜劉啟誠

審校｜王濤 梅雅鑫

編輯｜梅雅鑫 孫天 朱文鳳

視頻制作｜蔣雅麗 黃楊洋