（來(lái)源：麻省理工科技評(píng)論）

AI 驅(qū)動(dòng)的虛假內(nèi)容已經(jīng)滲透到我們的網(wǎng)絡(luò)生活中。有些案例引人注目，很容易辨別，比如白宮官員近期分享了一張經(jīng)過(guò)篡改的明尼蘇達(dá)州抗議者圖片，并嘲諷那些提出質(zhì)疑的人；另一些則悄然混入社交媒體信息流中，并迅速積累瀏覽量，例如俄羅斯影響力行動(dòng)目前正在傳播的一批視頻，意圖勸阻烏克蘭人參軍入伍。

正是在這樣的亂局之中，微軟向《麻省理工科技評(píng)論》分享了一份關(guān)于如何在網(wǎng)絡(luò)上證明內(nèi)容真實(shí)性的方案藍(lán)圖。

微軟旗下一支 AI 安全研究團(tuán)隊(duì)近期評(píng)估了現(xiàn)有數(shù)字篡改記錄方法，在面對(duì)當(dāng)下最令人擔(dān)憂(yōu)的 AI 技術(shù)發(fā)展時(shí)的表現(xiàn)——例如交互式深度偽造內(nèi)容，以及大眾可輕易獲取的超寫(xiě)實(shí)生成模型。研究團(tuán)隊(duì)隨后提出了一套可供 AI 公司和社交媒體平臺(tái)采用的技術(shù)標(biāo)準(zhǔn)。

要理解微軟所倡導(dǎo)的這套最高標(biāo)準(zhǔn)，不妨設(shè)想這樣一個(gè)場(chǎng)景：你手中有一幅倫勃朗的畫(huà)作，正試圖證明其真實(shí)性。你可以撰寫(xiě)一份詳細(xì)的來(lái)源說(shuō)明，記錄這幅畫(huà)的出處及每一次易手經(jīng)過(guò)；你可以附加一枚肉眼不可見(jiàn)、但機(jī)器可識(shí)別的水?。荒氵€可以對(duì)畫(huà)作進(jìn)行數(shù)字掃描，根據(jù)筆觸生成一串?dāng)?shù)學(xué)簽名，如同指紋一般。如果這幅畫(huà)在博物館展出，持懷疑態(tài)度的參觀者便可通過(guò)核查這些證明，來(lái)驗(yàn)證作品是否為真跡。

上述方法目前已在網(wǎng)絡(luò)內(nèi)容核查工作中得到不同程度的應(yīng)用。微軟對(duì)其中 60 種不同的組合方案進(jìn)行了評(píng)估，模擬每種配置在不同失效場(chǎng)景下的表現(xiàn)——涵蓋元數(shù)據(jù)被剝離、內(nèi)容被輕微改動(dòng)，乃至遭到蓄意篡改等情況。研究團(tuán)隊(duì)由此梳理出哪些組合能產(chǎn)生可靠結(jié)果、可供平臺(tái)放心向用戶(hù)展示，哪些組合又因過(guò)于不穩(wěn)定而可能帶來(lái)更多混亂而非澄清。

微軟首席科學(xué)官埃里克·霍維茨（Eric Horvitz）表示，推動(dòng)這項(xiàng)研究的動(dòng)力來(lái)自?xún)煞矫妫阂皇窍嚓P(guān)立法的推進(jìn)，例如將于今年 8 月生效的《加利福尼亞州 AI 透明度法案》；二是 AI 技術(shù)將視頻與聲音以高度逼真的效果融合的發(fā)展速度。

“你可以稱(chēng)之為自我監(jiān)管，”霍維茨對(duì)《麻省理工科技評(píng)論》表示。但他顯然也將這項(xiàng)工作視為提升微軟形象的契機(jī)：“我們同樣希望成為那些想了解世界真相的人所青睞和信賴(lài)的服務(wù)提供商。”

盡管如此，霍維茨拒絕承諾微軟將在其旗下所有平臺(tái)上落實(shí)自己提出的建議。微軟處于一個(gè)龐大 AI 內(nèi)容生態(tài)系統(tǒng)的核心位置：它運(yùn)營(yíng)著可生成圖像和文本的 Copilot；它管理著 Azure 云服務(wù)，客戶(hù)可通過(guò)該平臺(tái)訪問(wèn) OpenAI 及其他主流 AI 模型；它擁有全球最大職業(yè)社交平臺(tái)之一 LinkedIn；它還持有 OpenAI 的重要股份。然而，當(dāng)被問(wèn)及內(nèi)部實(shí)施計(jì)劃時(shí)，霍維茨在一份聲明中表示：“公司各產(chǎn)品團(tuán)隊(duì)和負(fù)責(zé)人均參與了本次研究，以為產(chǎn)品路線(xiàn)圖和基礎(chǔ)設(shè)施建設(shè)提供參考，我們的工程團(tuán)隊(duì)正在就報(bào)告的研究結(jié)論采取行動(dòng)?！?/p>

值得注意的是，這些工具存在固有局限：正如它們無(wú)法告訴你一幅倫勃朗畫(huà)作的含義，它們也并非用于判斷內(nèi)容是否準(zhǔn)確，它們只能揭示內(nèi)容是否經(jīng)過(guò)篡改?；艟S茨表示，這一點(diǎn)他必須向立法者，以及那些對(duì)大型科技公司充當(dāng)事實(shí)裁判持懷疑態(tài)度的人反復(fù)說(shuō)明。

“這與判斷內(nèi)容真假無(wú)關(guān)，”他說(shuō)，“而是通過(guò)標(biāo)簽告訴人們這些內(nèi)容來(lái)自哪里?！?/p>

加州大學(xué)伯克利分校數(shù)字取證專(zhuān)家、教授哈尼·法里德（Hany Farid）未參與微軟的這項(xiàng)研究，但他表示，如果行業(yè)采納微軟的方案藍(lán)圖，用篡改內(nèi)容欺騙公眾將變得明顯更加困難。他指出，技術(shù)手段嫻熟的個(gè)人或政府仍可設(shè)法繞過(guò)這些工具，但新標(biāo)準(zhǔn)能夠消除相當(dāng)一部分誤導(dǎo)性?xún)?nèi)容。

“我認(rèn)為這不能徹底解決問(wèn)題，但確實(shí)能啃掉其中相當(dāng)大的一塊，”他說(shuō)。

不過(guò)，也有理由將微軟的做法視為一種略顯天真的技術(shù)樂(lè)觀主義。越來(lái)越多的證據(jù)表明，即便人們知道某些內(nèi)容是 AI 生成的虛假信息，仍會(huì)受到影響。在一項(xiàng)針對(duì)涉烏克蘭戰(zhàn)爭(zhēng)的親俄 AI 生成視頻的近期研究中，指出視頻由 AI 制作的評(píng)論，其互動(dòng)量遠(yuǎn)低于將視頻當(dāng)作真實(shí)內(nèi)容對(duì)待的評(píng)論。

“有沒(méi)有那種無(wú)論你說(shuō)什么，都只相信自己所信之事的人？”法里德問(wèn)道，“有?！钡a(bǔ)充說(shuō)：“但我也認(rèn)為，絕大多數(shù)美國(guó)人和世界各地的公民是想了解真相的。”

這種意愿并未真正推動(dòng)科技公司采取緊迫行動(dòng)。Google 于 2023 年開(kāi)始為其 AI 工具生成的內(nèi)容添加水印，法里德表示這對(duì)他的調(diào)查工作有所幫助。部分平臺(tái)采用了 C2PA——微軟于 2021 年參與推出的內(nèi)容來(lái)源標(biāo)準(zhǔn)。但微軟所建議的全套變革措施，盡管效力強(qiáng)大，一旦觸及 AI 公司或社交媒體平臺(tái)的商業(yè)模式，很可能只會(huì)停留在建議層面。

“如果扎克伯格和馬斯克這樣的人認(rèn)為添加‘AI生成’標(biāo)簽會(huì)降低互動(dòng)率，他們當(dāng)然沒(méi)有動(dòng)力去這么做，”法里德說(shuō)。Meta和Google等平臺(tái)此前已表示將為 AI 生成內(nèi)容添加標(biāo)簽，但 Indicator 去年進(jìn)行的一項(xiàng)審查發(fā)現(xiàn)，其在 Instagram、LinkedIn、Pinterest、TikTok 和 YouTube 上發(fā)布的測(cè)試內(nèi)容中，僅有 30% 被正確標(biāo)注為 AI 生成。

更有力的內(nèi)容核查舉措或許將來(lái)自全球各地正在推進(jìn)中的 AI 監(jiān)管法規(guī)。歐盟的《AI 法案》，以及印度等地提出的相關(guān)規(guī)則，都將強(qiáng)制要求 AI 公司對(duì) AI 生成內(nèi)容進(jìn)行某種形式的披露。

微軟的優(yōu)先議程之一，不出所料，是參與塑造這些規(guī)則。在《加利福尼亞州 AI 透明度法案》起草期間，微軟積極開(kāi)展游說(shuō)工作?；艟S茨表示，這使得法案中對(duì)科技公司披露 AI 生成內(nèi)容的要求“更加切實(shí)可行”。

另一項(xiàng)優(yōu)先議程則源于一種切實(shí)的擔(dān)憂(yōu)：如果內(nèi)容核查技術(shù)的推廣實(shí)施不當(dāng)，后果將不堪設(shè)想。立法者正在呼吁能夠核驗(yàn)真實(shí)性的工具，但這些工具本身十分脆弱。如果標(biāo)簽系統(tǒng)倉(cāng)促上線(xiàn)、適用標(biāo)準(zhǔn)不一，或頻繁出錯(cuò)，公眾可能對(duì)其完全失去信任，整個(gè)努力將適得其反。正因如此，研究人員認(rèn)為，在某些情況下，什么都不顯示，可能好過(guò)給出一個(gè)可能有誤的判斷。

不完善的工具還可能催生研究人員所稱(chēng)的“社會(huì)技術(shù)攻擊”的新途徑。試想，有人取來(lái)一張真實(shí)的政治敏感事件圖片，僅用 AI 工具改動(dòng)其中極少量的像素。當(dāng)這張圖片在網(wǎng)絡(luò)上擴(kuò)散時(shí)，可能被平臺(tái)錯(cuò)誤地歸類(lèi)為 AI 篡改內(nèi)容。結(jié)合使用來(lái)源追溯和水印工具，則意味著平臺(tái)可以厘清該內(nèi)容僅經(jīng)過(guò)部分 AI 處理，并指出改動(dòng)所在之處。

《加利福尼亞州 AI 透明度法案》將成為這些工具在美國(guó)的首次重大檢驗(yàn)，但其執(zhí)行可能面臨挑戰(zhàn)——特朗普總統(tǒng)去年底簽署的行政令，旨在限制各州出臺(tái)對(duì)行業(yè)構(gòu)成負(fù)擔(dān)的 AI 法規(guī)。特朗普政府總體上也對(duì)遏制虛假信息的努力持抵制立場(chǎng)，并于去年通過(guò) DOGE 取消了與虛假信息相關(guān)的資助項(xiàng)目。當(dāng)然，特朗普政府的官方渠道本身也曾傳播經(jīng) AI 處理的內(nèi)容（據(jù)《麻省理工科技評(píng)論》報(bào)道，美國(guó)國(guó)土安全部就曾使用 Google 和 Adobe 的視頻生成工具制作面向公眾發(fā)布的內(nèi)容）。

我問(wèn)霍維茨，來(lái)自這一渠道的虛假內(nèi)容是否和社交媒體上的其他虛假內(nèi)容一樣令他擔(dān)憂(yōu)。他起初拒絕置評(píng)，隨后表示：“各國(guó)政府從來(lái)不在散布各類(lèi)操縱性虛假信息的主體之外，這是一個(gè)全球性現(xiàn)象?！?/p>

https://www.technologyreview.com/2026/02/19/1133360/microsoft-has-a-new-plan-to-prove-whats-real-and-whats-ai-online/