（來源：麻省理工科技評論）

AI 驅(qū)動的虛假內(nèi)容已經(jīng)滲透到我們的網(wǎng)絡(luò)生活中。有些案例引人注目，很容易辨別，比如白宮官員近期分享了一張經(jīng)過篡改的明尼蘇達(dá)州抗議者圖片，并嘲諷那些提出質(zhì)疑的人；另一些則悄然混入社交媒體信息流中，并迅速積累瀏覽量，例如俄羅斯影響力行動目前正在傳播的一批視頻，意圖勸阻烏克蘭人參軍入伍。

正是在這樣的亂局之中，微軟向《麻省理工科技評論》分享了一份關(guān)于如何在網(wǎng)絡(luò)上證明內(nèi)容真實(shí)性的方案藍(lán)圖。

微軟旗下一支 AI 安全研究團(tuán)隊(duì)近期評估了現(xiàn)有數(shù)字篡改記錄方法，在面對當(dāng)下最令人擔(dān)憂的 AI 技術(shù)發(fā)展時的表現(xiàn)——例如交互式深度偽造內(nèi)容，以及大眾可輕易獲取的超寫實(shí)生成模型。研究團(tuán)隊(duì)隨后提出了一套可供 AI 公司和社交媒體平臺采用的技術(shù)標(biāo)準(zhǔn)。

要理解微軟所倡導(dǎo)的這套最高標(biāo)準(zhǔn)，不妨設(shè)想這樣一個場景：你手中有一幅倫勃朗的畫作，正試圖證明其真實(shí)性。你可以撰寫一份詳細(xì)的來源說明，記錄這幅畫的出處及每一次易手經(jīng)過；你可以附加一枚肉眼不可見、但機(jī)器可識別的水印；你還可以對畫作進(jìn)行數(shù)字掃描，根據(jù)筆觸生成一串?dāng)?shù)學(xué)簽名，如同指紋一般。如果這幅畫在博物館展出，持懷疑態(tài)度的參觀者便可通過核查這些證明，來驗(yàn)證作品是否為真跡。

上述方法目前已在網(wǎng)絡(luò)內(nèi)容核查工作中得到不同程度的應(yīng)用。微軟對其中 60 種不同的組合方案進(jìn)行了評估，模擬每種配置在不同失效場景下的表現(xiàn)——涵蓋元數(shù)據(jù)被剝離、內(nèi)容被輕微改動，乃至遭到蓄意篡改等情況。研究團(tuán)隊(duì)由此梳理出哪些組合能產(chǎn)生可靠結(jié)果、可供平臺放心向用戶展示，哪些組合又因過于不穩(wěn)定而可能帶來更多混亂而非澄清。

微軟首席科學(xué)官埃里克·霍維茨（Eric Horvitz）表示，推動這項(xiàng)研究的動力來自兩方面：一是相關(guān)立法的推進(jìn)，例如將于今年 8 月生效的《加利福尼亞州 AI 透明度法案》；二是 AI 技術(shù)將視頻與聲音以高度逼真的效果融合的發(fā)展速度。

“你可以稱之為自我監(jiān)管，”霍維茨對《麻省理工科技評論》表示。但他顯然也將這項(xiàng)工作視為提升微軟形象的契機(jī)：“我們同樣希望成為那些想了解世界真相的人所青睞和信賴的服務(wù)提供商?！?/p>

盡管如此，霍維茨拒絕承諾微軟將在其旗下所有平臺上落實(shí)自己提出的建議。微軟處于一個龐大 AI 內(nèi)容生態(tài)系統(tǒng)的核心位置：它運(yùn)營著可生成圖像和文本的 Copilot；它管理著 Azure 云服務(wù)，客戶可通過該平臺訪問 OpenAI 及其他主流 AI 模型；它擁有全球最大職業(yè)社交平臺之一 LinkedIn；它還持有 OpenAI 的重要股份。然而，當(dāng)被問及內(nèi)部實(shí)施計(jì)劃時，霍維茨在一份聲明中表示：“公司各產(chǎn)品團(tuán)隊(duì)和負(fù)責(zé)人均參與了本次研究，以為產(chǎn)品路線圖和基礎(chǔ)設(shè)施建設(shè)提供參考，我們的工程團(tuán)隊(duì)正在就報(bào)告的研究結(jié)論采取行動。”

值得注意的是，這些工具存在固有局限：正如它們無法告訴你一幅倫勃朗畫作的含義，它們也并非用于判斷內(nèi)容是否準(zhǔn)確，它們只能揭示內(nèi)容是否經(jīng)過篡改。霍維茨表示，這一點(diǎn)他必須向立法者，以及那些對大型科技公司充當(dāng)事實(shí)裁判持懷疑態(tài)度的人反復(fù)說明。

“這與判斷內(nèi)容真假無關(guān)，”他說，“而是通過標(biāo)簽告訴人們這些內(nèi)容來自哪里?！?/p>

加州大學(xué)伯克利分校數(shù)字取證專家、教授哈尼·法里德（Hany Farid）未參與微軟的這項(xiàng)研究，但他表示，如果行業(yè)采納微軟的方案藍(lán)圖，用篡改內(nèi)容欺騙公眾將變得明顯更加困難。他指出，技術(shù)手段嫻熟的個人或政府仍可設(shè)法繞過這些工具，但新標(biāo)準(zhǔn)能夠消除相當(dāng)一部分誤導(dǎo)性內(nèi)容。

“我認(rèn)為這不能徹底解決問題，但確實(shí)能啃掉其中相當(dāng)大的一塊，”他說。

不過，也有理由將微軟的做法視為一種略顯天真的技術(shù)樂觀主義。越來越多的證據(jù)表明，即便人們知道某些內(nèi)容是 AI 生成的虛假信息，仍會受到影響。在一項(xiàng)針對涉烏克蘭戰(zhàn)爭的親俄 AI 生成視頻的近期研究中，指出視頻由 AI 制作的評論，其互動量遠(yuǎn)低于將視頻當(dāng)作真實(shí)內(nèi)容對待的評論。

“有沒有那種無論你說什么，都只相信自己所信之事的人？”法里德問道，“有?！钡a(bǔ)充說：“但我也認(rèn)為，絕大多數(shù)美國人和世界各地的公民是想了解真相的。”

這種意愿并未真正推動科技公司采取緊迫行動。Google 于 2023 年開始為其 AI 工具生成的內(nèi)容添加水印，法里德表示這對他的調(diào)查工作有所幫助。部分平臺采用了 C2PA——微軟于 2021 年參與推出的內(nèi)容來源標(biāo)準(zhǔn)。但微軟所建議的全套變革措施，盡管效力強(qiáng)大，一旦觸及 AI 公司或社交媒體平臺的商業(yè)模式，很可能只會停留在建議層面。

“如果扎克伯格和馬斯克這樣的人認(rèn)為添加‘AI生成’標(biāo)簽會降低互動率，他們當(dāng)然沒有動力去這么做，”法里德說。Meta和Google等平臺此前已表示將為 AI 生成內(nèi)容添加標(biāo)簽，但 Indicator 去年進(jìn)行的一項(xiàng)審查發(fā)現(xiàn)，其在 Instagram、LinkedIn、Pinterest、TikTok 和 YouTube 上發(fā)布的測試內(nèi)容中，僅有 30% 被正確標(biāo)注為 AI 生成。

更有力的內(nèi)容核查舉措或許將來自全球各地正在推進(jìn)中的 AI 監(jiān)管法規(guī)。歐盟的《AI 法案》，以及印度等地提出的相關(guān)規(guī)則，都將強(qiáng)制要求 AI 公司對 AI 生成內(nèi)容進(jìn)行某種形式的披露。

微軟的優(yōu)先議程之一，不出所料，是參與塑造這些規(guī)則。在《加利福尼亞州 AI 透明度法案》起草期間，微軟積極開展游說工作?；艟S茨表示，這使得法案中對科技公司披露 AI 生成內(nèi)容的要求“更加切實(shí)可行”。

另一項(xiàng)優(yōu)先議程則源于一種切實(shí)的擔(dān)憂：如果內(nèi)容核查技術(shù)的推廣實(shí)施不當(dāng)，后果將不堪設(shè)想。立法者正在呼吁能夠核驗(yàn)真實(shí)性的工具，但這些工具本身十分脆弱。如果標(biāo)簽系統(tǒng)倉促上線、適用標(biāo)準(zhǔn)不一，或頻繁出錯，公眾可能對其完全失去信任，整個努力將適得其反。正因如此，研究人員認(rèn)為，在某些情況下，什么都不顯示，可能好過給出一個可能有誤的判斷。

不完善的工具還可能催生研究人員所稱的“社會技術(shù)攻擊”的新途徑。試想，有人取來一張真實(shí)的政治敏感事件圖片，僅用 AI 工具改動其中極少量的像素。當(dāng)這張圖片在網(wǎng)絡(luò)上擴(kuò)散時，可能被平臺錯誤地歸類為 AI 篡改內(nèi)容。結(jié)合使用來源追溯和水印工具，則意味著平臺可以厘清該內(nèi)容僅經(jīng)過部分 AI 處理，并指出改動所在之處。

《加利福尼亞州 AI 透明度法案》將成為這些工具在美國的首次重大檢驗(yàn)，但其執(zhí)行可能面臨挑戰(zhàn)——特朗普總統(tǒng)去年底簽署的行政令，旨在限制各州出臺對行業(yè)構(gòu)成負(fù)擔(dān)的 AI 法規(guī)。特朗普政府總體上也對遏制虛假信息的努力持抵制立場，并于去年通過 DOGE 取消了與虛假信息相關(guān)的資助項(xiàng)目。當(dāng)然，特朗普政府的官方渠道本身也曾傳播經(jīng) AI 處理的內(nèi)容（據(jù)《麻省理工科技評論》報(bào)道，美國國土安全部就曾使用 Google 和 Adobe 的視頻生成工具制作面向公眾發(fā)布的內(nèi)容）。

我問霍維茨，來自這一渠道的虛假內(nèi)容是否和社交媒體上的其他虛假內(nèi)容一樣令他擔(dān)憂。他起初拒絕置評，隨后表示：“各國政府從來不在散布各類操縱性虛假信息的主體之外，這是一個全球性現(xiàn)象?！?/p>

https://www.technologyreview.com/2026/02/19/1133360/microsoft-has-a-new-plan-to-prove-whats-real-and-whats-ai-online/