江德斌

前不久，一位高考生的哥哥梁某在查詢高校信息時(shí)，遭遇了“AI幻覺”，AI平臺(tái)在生成錯(cuò)誤信息后，還底氣十足地表示若內(nèi)容有誤將賠償10萬元。一氣之下，梁某將AI平臺(tái)的研發(fā)公司告上法庭。針對(duì)國內(nèi)首例因“AI幻覺”引發(fā)的侵權(quán)案，近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請求。判決明確，在生成式人工智能場景中，AI的“承諾”不構(gòu)成平臺(tái)的意思表示，同時(shí)為AI生成內(nèi)容劃出紅線、底線，厘清了服務(wù)提供者的注意義務(wù)邊界。

在生成式人工智能迅猛發(fā)展的當(dāng)下，國內(nèi)首例因“AI幻覺”引發(fā)的侵權(quán)案雖以平臺(tái)勝訴收場，卻揭示了AI技術(shù)存在的顯著缺陷。對(duì)此，企業(yè)需積極承擔(dān)技術(shù)優(yōu)化責(zé)任，加速迭代升級(jí)，以提供更為精準(zhǔn)可靠的服務(wù)，從而在技術(shù)演進(jìn)中更好地保障用戶利益。

杭州互聯(lián)網(wǎng)法院的判決邏輯清晰，AI不具備民事主體資格，其“賠償承諾”并非企業(yè)真實(shí)意思表示；平臺(tái)已履行提示義務(wù)并采取合理技術(shù)措施，故無主觀過錯(cuò)。這一裁決在現(xiàn)行法律框架下確有依據(jù)，也為行業(yè)劃定了責(zé)任邊界。法院判決雖體現(xiàn)了對(duì)技術(shù)不成熟性的合理包容，但這種寬容不應(yīng)成為延緩問題解決的借口。當(dāng)前AI技術(shù)仍處于發(fā)展初期，對(duì)其缺陷給予適度理解固然必要，但“AI幻覺”引發(fā)的侵權(quán)風(fēng)險(xiǎn)不容忽視，必須通過持續(xù)的技術(shù)迭代與機(jī)制完善加以應(yīng)對(duì)，避免因過度寬容而縱容問題長期存在，最終阻礙技術(shù)進(jìn)步的良性循環(huán)。

生成式AI在無真實(shí)依據(jù)的情況下，為了“討好”用戶、滿足需求，憑空編造信息、一本正經(jīng)地輸出錯(cuò)誤內(nèi)容，即便輸出內(nèi)容與事實(shí)嚴(yán)重不符，也會(huì)呈現(xiàn)出不容置疑的姿態(tài)。大模型訓(xùn)練數(shù)據(jù)的覆蓋范圍有限、算法設(shè)計(jì)邏輯存在潛在缺陷，以及上下文語義理解的偏差，共同構(gòu)成了信息生成失真的技術(shù)根源。與此同時(shí)，部分廠商在市場競爭壓力下，過度追求生成效率與響應(yīng)速度，將技術(shù)迭代重心偏向性能優(yōu)化，卻相對(duì)弱化了內(nèi)容準(zhǔn)確性校驗(yàn)與合規(guī)性審查機(jī)制，這種“重速度輕質(zhì)量”的發(fā)展策略，客觀上加劇了“AI幻覺”問題的擴(kuò)散風(fēng)險(xiǎn)。

面對(duì)“AI幻覺”，法律定責(zé)是底線，技術(shù)破局才是根本。AI廠商必須加快技術(shù)迭代，將準(zhǔn)確性、可靠性置于產(chǎn)品設(shè)計(jì)的核心。具體包括：優(yōu)化訓(xùn)練數(shù)據(jù)質(zhì)量與覆蓋范圍，減少專業(yè)知識(shí)盲區(qū)；開發(fā)實(shí)時(shí)事實(shí)核查與不確定性評(píng)估機(jī)制，讓AI學(xué)會(huì)“知之為知之，不知為不知”；建立用戶反饋糾錯(cuò)閉環(huán)，使模型在實(shí)踐中持續(xù)學(xué)習(xí)修正。

同時(shí)，可針對(duì)不同領(lǐng)域的需求，提供相應(yīng)等級(jí)的AI生成服務(wù)。對(duì)于藝術(shù)創(chuàng)作與文學(xué)設(shè)計(jì)等強(qiáng)調(diào)創(chuàng)新與想象力的領(lǐng)域，“AI幻覺”可被轉(zhuǎn)化為創(chuàng)意催化劑，激發(fā)使用者的想象空間，幫助他們創(chuàng)作更豐富的作品，而法律、新聞、金融、醫(yī)療等對(duì)信息準(zhǔn)確性要求嚴(yán)苛的專業(yè)領(lǐng)域，則必須建立嚴(yán)格的內(nèi)容校驗(yàn)機(jī)制，通過多輪事實(shí)核查、專業(yè)領(lǐng)域知識(shí)圖譜嵌入等方法，消除信息失真風(fēng)險(xiǎn)，確保輸出內(nèi)容達(dá)到行業(yè)標(biāo)準(zhǔn)。