全球隱私監(jiān)管聯(lián)盟向生成式AI行業(yè)發(fā)出警告，表示制造逼真合成圖像的公司不能假裝數(shù)據(jù)保護(hù)規(guī)則不適用于它們。

這份由60多個監(jiān)管機(jī)構(gòu)簽署的聯(lián)合聲明包括英國信息專員辦公室（ICO）和愛爾蘭數(shù)據(jù)保護(hù)委員會（DPC），其核心觀點(diǎn)很簡單：如果你的模型能夠令人信服地偽造一個人，你就不能假裝數(shù)據(jù)保護(hù)法不存在。

簽署方表示："最新發(fā)展——特別是集成到廣泛使用的社交媒體平臺中的AI圖像和視頻生成技術(shù)——已經(jīng)能夠創(chuàng)建非自愿的私密圖像、誹謗性描述以及其他以真實(shí)個人為特色的有害內(nèi)容。我們特別擔(dān)心對兒童和其他弱勢群體的潛在傷害，如網(wǎng)絡(luò)霸凌和/或剝削。"

這一警告發(fā)出的幾周前，ICO和DPC剛剛對埃隆·馬斯克的xAI公司展開正式調(diào)查，原因是有報告稱其Grok聊天機(jī)器人在未經(jīng)同意的情況下生成了真實(shí)人物的性圖像。

該組織表示，涉足生成式AI的機(jī)構(gòu)需要從一開始就建立保障措施，并仔細(xì)考慮風(fēng)險，如非自愿圖像、濫用他人肖像以及對兒童的潛在傷害——在這些領(lǐng)域，技術(shù)已經(jīng)超越了社會規(guī)范，在某些情況下甚至超越了常識。

監(jiān)管機(jī)構(gòu)強(qiáng)調(diào)，法律已經(jīng)涵蓋了這一點(diǎn)，公司不能僅僅因?yàn)閮?nèi)容來自機(jī)器就獲得免責(zé)通行證。

ICO監(jiān)管風(fēng)險與創(chuàng)新執(zhí)行董事威廉·馬爾科姆表示："人們應(yīng)該能夠從AI中受益，而不必?fù)?dān)心他們的身份、尊嚴(yán)或安全受到威脅。AI已經(jīng)在我們所有人的生活中發(fā)揮著重要作用，每個人都有權(quán)期望處理其個人數(shù)據(jù)的AI系統(tǒng)會以尊重的方式進(jìn)行。負(fù)責(zé)任的創(chuàng)新意味著以人為本：預(yù)測風(fēng)險并建立有意義的保障措施以確保自主性、透明度和控制。"

"公眾信任是AI成功采用和使用的基礎(chǔ)。像這樣的聯(lián)合監(jiān)管倡議顯示了全球?qū)I系統(tǒng)中高標(biāo)準(zhǔn)數(shù)據(jù)保護(hù)的承諾，并有助于提供監(jiān)管確定性。我們期望那些開發(fā)和部署AI的人能夠負(fù)責(zé)任地行事。如果我們發(fā)現(xiàn)義務(wù)沒有得到履行，我們將采取行動保護(hù)公眾。"

關(guān)于AI生成圖像的聯(lián)合聲明表明，如果公司希望繼續(xù)將更加逼真的AI推向日常產(chǎn)品，他們應(yīng)該期待監(jiān)管機(jī)構(gòu)會繼續(xù)詢問關(guān)于其工作原理的尷尬問題。

Q&A

Q1：全球監(jiān)管機(jī)構(gòu)對生成式AI圖像工具的主要擔(dān)憂是什么？

A：監(jiān)管機(jī)構(gòu)主要擔(dān)憂AI圖像生成技術(shù)能夠創(chuàng)建非自愿的私密圖像、誹謗性描述以及其他有害內(nèi)容，特別是對兒童和弱勢群體可能造成網(wǎng)絡(luò)霸凌和剝削等傷害。他們強(qiáng)調(diào)這些技術(shù)不能無視現(xiàn)有的數(shù)據(jù)保護(hù)法規(guī)。

Q2：xAI公司的Grok聊天機(jī)器人遇到了什么問題？

A：xAI公司的Grok聊天機(jī)器人因在未經(jīng)同意的情況下生成真實(shí)人物的性圖像而受到英國信息專員辦公室和愛爾蘭數(shù)據(jù)保護(hù)委員會的正式調(diào)查。這成為監(jiān)管機(jī)構(gòu)發(fā)出警告的直接導(dǎo)火索。

Q3：AI公司需要采取哪些措施來遵守數(shù)據(jù)保護(hù)規(guī)則？

A：AI公司需要從開發(fā)初期就建立保障措施，仔細(xì)評估非自愿圖像生成、濫用他人肖像等風(fēng)險，特別是要保護(hù)兒童免受傷害。監(jiān)管機(jī)構(gòu)強(qiáng)調(diào)負(fù)責(zé)任的創(chuàng)新要以人為本，確保自主性、透明度和控制。