圖片來源：網(wǎng)絡(luò)

本文為《方圓》雜志原創(chuàng)稿件

未經(jīng)授權(quán)，禁止轉(zhuǎn)載

近日，安徽一女子

用AI工具生成高度逼真的

“流浪漢在餐桌吃飯”等圖片發(fā)給老公

并說“他說要去你的床上躺著”

以測試其反應(yīng)

沒想到丈夫信以為真，當(dāng)即報警求助

類似“AI整蠱測試真心”

引起的鬧劇已在多地出現(xiàn)

那么，在此類事件中

整蠱者可能觸碰哪些法律紅線？

選擇用如此方式去“測試”伴侶

其背后隱藏著怎樣的心理動機(jī)？

在“AI時代”即將全面到來的今天

我們應(yīng)該如何提升公眾的

“數(shù)字素養(yǎng)”和“科技倫理”意識？

整蠱行為會帶來多重法律風(fēng)險

“如果利用AI技術(shù)惡意制作并傳播虛假恐怖圖片，進(jìn)而嚴(yán)重擾亂社會秩序的，可能涉嫌?編造、故意傳播虛假恐怖信息罪??！北本┦写蟮勒蓭熓聞?wù)所合伙人韓鵬律師介紹說?！吨腥A人民共和國刑法》第二百九十一條規(guī)定，投放虛假的爆炸性、毒害性、放射性、傳染病病原體等物質(zhì)，或者編造爆炸威脅、生化威脅、放射威脅等恐怖信息，或者明知是編造的恐怖信息而故意傳播，嚴(yán)重擾亂社會秩序的，處五年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處五年以上有期徒刑。編造虛假的險情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。若有關(guān)行為未達(dá)到刑事立案標(biāo)準(zhǔn)，依據(jù)《中華人民共和國治安管理處罰法》第二十九條規(guī)定，可能面臨被行政拘留?并處罰款?。

在此事件中，女子老公因為恐慌第一時間報警，民警出警后發(fā)現(xiàn)是虛驚一場，這種情況下，其老公行為是否涉嫌“報假警”？如何認(rèn)定？

韓鵬認(rèn)為，“報假警”的核心認(rèn)定標(biāo)準(zhǔn)是“主觀故意+捏造虛假警情”，二者缺一不可。從動機(jī)上看，女子家人主觀上沒有“報假警”的故意，其報警行為不符合上述認(rèn)定的核心要件。但發(fā)送圖片者主觀上存在“間接故意”，明知可能引發(fā)報警仍實(shí)施該行為，且客觀上實(shí)施了“制造虛假警情源頭”的行為，與報警結(jié)果之間存在因果關(guān)系，其行為在一定程度上擾亂了公共秩序，可能面臨治安處罰，嚴(yán)重的甚至?xí)蛔肪啃淌仑?zé)任，具體后果會根據(jù)情節(jié)輕重進(jìn)行劃分，需要綜合考量行為人的主觀惡意、公共資源浪費(fèi)、傳播范圍、社會影響等因素，最終實(shí)現(xiàn)處罰與行為危害性相匹配。

“低門檻”為“濫用”埋下了隱患

一個基于玩笑的整蠱行為，一旦失控，就可能升級為對社會治理、法律法規(guī)、公共信任等多層面的挑戰(zhàn)。而讓人擔(dān)憂的是，當(dāng)前生成此類以假亂真圖片的AI技術(shù)門檻較低。記者在某AI軟件里傳輸一張照片，再輸入“請在孩子對面生成一個流浪漢”的指令，不到2秒鐘，一張讓父母看完后感到恐慌的AI照片便生成了。

圖片來源：記者利用某AI軟件生成的“流浪漢闖入家中”圖。

而與“低門檻”相矛盾的是，在司法實(shí)踐中，要順利實(shí)現(xiàn)對一些惡意生成內(nèi)容的取證存在較大難度。“主要是因為技術(shù)黑箱導(dǎo)致的溯源難。”韓鵬說，“由于生成式人工智能的算法邏輯不透明，模型迭代頻繁，實(shí)踐中有時難以直接還原數(shù)據(jù)生成路徑。AI生成內(nèi)容還可以通過技術(shù)手段規(guī)避傳統(tǒng)檢測，且缺乏統(tǒng)一的生成標(biāo)記標(biāo)準(zhǔn)，部分惡意生成者還會刻意抹除Exif信息、篡改哈希值等，進(jìn)而導(dǎo)致溯源鏈條斷裂，而傳統(tǒng)取證手段很難保證數(shù)據(jù)完整性、連續(xù)性，這些都可能給取證工作帶來挑戰(zhàn)?！?/p>

韓鵬介紹，今年全國兩會期間，全國人大代表、上海社會科學(xué)院黨委書記權(quán)衡等代表提出關(guān)于制定人工智能法的議案，建議發(fā)揮立法的引領(lǐng)、推動作用，制定全面系統(tǒng)的人工智能法，推進(jìn)新時代強(qiáng)國建設(shè)和中國式現(xiàn)代化。議案建議，人工智能立法應(yīng)將重點(diǎn)放在多個方面。其中一條提出，在社會影響與倫理考量方面，應(yīng)要求對人工智能技術(shù)的社會影響進(jìn)行評估，制定人工智能技術(shù)的倫理規(guī)范，明確技術(shù)使用的道德邊界和行為準(zhǔn)則。韓鵬建議，對于目前面臨的“規(guī)則分散、責(zé)任模糊、處罰失衡、技術(shù)適配不足”等問題，仍需要進(jìn)一步制定細(xì)則、完善責(zé)任劃分與處罰梯度、建立相應(yīng)的溯源制度，同時需持續(xù)強(qiáng)化多部門協(xié)同監(jiān)管等措施，構(gòu)建“事前預(yù)防-事中阻斷-事后追責(zé)”的全鏈條治理體系。

“當(dāng)前，AI‘微恐慌’事件的危害情節(jié)普遍比較輕，但這在某種程度上已反映出AI技術(shù)濫用帶來的諸多問題，這也對立法技術(shù)和立法質(zhì)量提出更高要求。相關(guān)立法需要為技術(shù)創(chuàng)新預(yù)留合理空間，進(jìn)而實(shí)現(xiàn)安全與發(fā)展的良性互動。技術(shù)本身并無善惡，其對社會的影響取決于技術(shù)發(fā)展的方向與邊界。AI‘微恐慌’事件并非技術(shù)進(jìn)步的必然結(jié)果，而是技術(shù)濫用與治理滯后共同作用下的產(chǎn)物。技術(shù)界必須跳出唯技術(shù)論的誤區(qū)，將倫理責(zé)任置于創(chuàng)新之上，通過可溯源的標(biāo)識體系、高精準(zhǔn)的鑒偽技術(shù)、透明化的算法邏輯和剛性的倫理約束，構(gòu)建負(fù)責(zé)任創(chuàng)新的生態(tài)。”韓鵬建議。

類似事件頻發(fā)會加劇社會“信任危機(jī)”

法律紅線清晰可見，情感創(chuàng)傷難以彌合。這類事件的跟風(fēng)與泛濫，還會加劇社會的“信任危機(jī)”，導(dǎo)致真正發(fā)生的緊急事件被忽視，從而削弱社會互助的基礎(chǔ)。

中國政法大學(xué)犯罪心理學(xué)博士、廣州商學(xué)院法律心理研究院副教授張蔚認(rèn)為，當(dāng)網(wǎng)絡(luò)上充斥著各種真假難辨的緊急事件時，公眾會逐漸變得麻木，對刺激的反應(yīng)閾值會提高，同情心和警惕心會被消耗。待到未來某個真實(shí)的安全威脅圖片或視頻被發(fā)布時，人們的第一反應(yīng)可能是“AI生成的吧”或者“肯定又是哪個博主弄出來引流的”。這種懷疑和延遲，可能會讓真正需要幫助的人錯過最佳獲得幫助的時機(jī)。

同時值得關(guān)注的是，比起社會“信任危機(jī)”的產(chǎn)生，“信任崩塌”很可能最先發(fā)生在親密關(guān)系里。

“做這種測試的人，潛意識的動機(jī)可能是想測試伴侶的反應(yīng)，比如說‘會不會擔(dān)心我’‘是不是愛我’之類，但這是一種極其不健康且具有破壞性的情感確認(rèn)方式。實(shí)施者無法真正站在伴侶的角度去思考感受，體現(xiàn)了對伴侶情感邊界的不尊重和共情能力的不足。如果這個人的動機(jī)是想用消費(fèi)另一半來獲取流量或者關(guān)注，那就存在將伴侶工具化的可能。”張蔚提醒，“這種行為可能會導(dǎo)致受騙者對家庭環(huán)境安全感以及對伴侶信任感產(chǎn)生根本性的動搖。尤其是當(dāng)受騙者發(fā)現(xiàn)自己最真實(shí)的恐懼反應(yīng)被對方當(dāng)成笑話觀看、錄制甚至公之于眾時，會感到巨大的羞辱和背叛，覺得自己的感受不被尊重，從而產(chǎn)生情感上的孤立和羞辱感?！?/p>

一次引發(fā)熱議的整蠱事件，背后反映的是AI浪潮下公眾數(shù)字素養(yǎng)和科技倫理意識的不足。這不能僅靠“單向灌輸”，而是需要推動公眾從“技術(shù)的被動使用者”向“技術(shù)的主動掌控者”的轉(zhuǎn)變?！巴ㄟ^分層教育讓AI知識可及，通過場景實(shí)踐讓科技倫理意識落地，通過技術(shù)生態(tài)圈的約束讓責(zé)任有保障，讓更多人在享受AI便利的同時，守住倫理底線，負(fù)責(zé)任地使用這一強(qiáng)大工具，使科技更好增進(jìn)人類福祉、更好促進(jìn)社會進(jìn)步?！表n鵬建議。

這段AI整蠱引發(fā)的鬧劇，像一面多棱鏡，折射出技術(shù)狂歡背后亟待正視的倫理困境。當(dāng)玩笑越過邊界，它便不再是幽默，而是可能撕裂信任、浪費(fèi)公共資源的利刃。在擁抱科技的同時，我們必須守住倫理底線，讓工具服務(wù)于人性的溫暖，而非測試人性的籌碼。

編輯丨黃莎設(shè)計丨劉巖

記者丨肖玲燕

往期精彩

點(diǎn)擊圖片

購買《方圓》雜志

好看的人都點(diǎn)了在看