專欄——陳楸帆

科幻作家、學(xué)者

代表作：《荒潮》《人生算法》

《我們能否改變潮水的方向》等。

2024年2月，香港一家跨國(guó)公司的財(cái)務(wù)人員接到一通視頻會(huì)議邀請(qǐng)。屏幕那頭，公司CFO正襟危坐，幾位同事表情自然，討論著一筆緊急轉(zhuǎn)賬。他按照指示操作，2500萬(wàn)美元隨即消失。事后調(diào)查發(fā)現(xiàn)，那場(chǎng)會(huì)議里每一張臉、每一個(gè)聲音，全部由AI偽造。你大概覺(jué)得這些人太天真。換成你，肯定不會(huì)上當(dāng)。這恰恰是最危險(xiǎn)的想法。

英劇《真相捕捉》描繪了一個(gè)

深度偽造（deepfake）技術(shù)泛濫，真相被扭曲的時(shí)代?

心理學(xué)家丹尼爾·卡尼曼（Daniel Kahneman）花了一輩子研究人類判斷中的系統(tǒng)性錯(cuò)誤。他發(fā)現(xiàn)，我們的大腦有兩套運(yùn)行模式：一套快而自動(dòng)，一套慢而費(fèi)力。日常生活中，那套快的幾乎壟斷了我們的決策。它靠什么判斷信息是否可信？很大程度上靠感覺(jué)，讀起來(lái)順不順，看起來(lái)像不像。

AI生成的內(nèi)容恰好完美命中這個(gè)弱點(diǎn)。語(yǔ)法無(wú)懈可擊，排版賞心悅目，論證看似嚴(yán)密。大腦的快速系統(tǒng)掃過(guò)一遍，蓋章：可信。慢速系統(tǒng)本該出來(lái)復(fù)核，但它太懶了，多數(shù)時(shí)候直接放行。

當(dāng)AI給你一個(gè)完整、連貫、細(xì)節(jié)豐富的回答，你不會(huì)去想它遺漏了什么、歪曲了什么。敘事越圓滿，你越覺(jué)得可靠?？善?，編故事是AI最擅長(zhǎng)的事。

我們常嘲笑父母輩轉(zhuǎn)發(fā)養(yǎng)生謠言，覺(jué)得他們信息素養(yǎng)不夠。但仔細(xì)想想，老一輩至少還保留著一種樸素的懷疑本能。而今天的年輕人在信息過(guò)剩中長(zhǎng)大，習(xí)慣了隨手搜索就能得到答案。搜索引擎給出的結(jié)果看起來(lái)客觀中立，AI聊天機(jī)器人的回答更是條理清晰、溫和有禮。這種包裝制造了一種前所未有的信任慣性。研究顯示，在社交媒體上消費(fèi)新聞的人更容易受deepfake影響，而且這個(gè)效應(yīng)和智商高低無(wú)關(guān)。

電影《她》中的西奧多愛(ài)上了邏輯清晰、溫柔有禮的

聊天機(jī)器人薩曼莎?

更隱蔽的威脅來(lái)自AI的幻覺(jué)問(wèn)題。大語(yǔ)言模型在預(yù)訓(xùn)練中只學(xué)習(xí)了什么樣的文本讀起來(lái)像是對(duì)的，卻從未學(xué)過(guò)什么是對(duì)的。它預(yù)測(cè)下一個(gè)詞的概率，卻不理解詞語(yǔ)背后的事實(shí)。當(dāng)前的技術(shù)架構(gòu)決定了，AI寧可自信地胡說(shuō)八道，也不會(huì)承認(rèn)自己無(wú)知。而多數(shù)使用者完全沒(méi)有意識(shí)到這一點(diǎn)。最可怕的場(chǎng)景是：被騙了卻渾然不覺(jué)，還把錯(cuò)誤信息內(nèi)化成了自己的知識(shí)。

聽(tīng)到這里你可能想問(wèn)：那我是不是應(yīng)該懷疑一切？大可不必。懷疑一切和相信一切，最終殊途同歸，都是放棄理性判斷。哲學(xué)家卡爾·波普爾（Karl Popper）給過(guò)一個(gè)更精準(zhǔn)的態(tài)度：別問(wèn)一條信息能不能被證實(shí)，要問(wèn)它能不能被推翻。這個(gè)態(tài)度落到每天刷手機(jī)、讀新聞、用AI的日常里，可以變成一套相當(dāng)實(shí)用的操作。

《黑鏡》第一季第二集《一千五百萬(wàn)的價(jià)值》描述了一個(gè)

人們?cè)诒曝频姆块g里進(jìn)行所有生命活動(dòng)的世界?

1.給自己建一份信源白名單。花點(diǎn)時(shí)間篩選出你信任的媒體、記者、學(xué)者和專業(yè)機(jī)構(gòu)，把它們?cè)O(shè)為你的一級(jí)信源。白名單不必大，五到十個(gè)靠譜的來(lái)源就夠你交叉驗(yàn)證了。養(yǎng)成這個(gè)習(xí)慣之后，那些來(lái)路不明的信息自動(dòng)就降了級(jí)。

2.學(xué)會(huì)識(shí)別“一眼假”的特征。AI偽造的內(nèi)容有幾個(gè)共性：來(lái)源鏈條斷裂（追不到具體的人、機(jī)構(gòu)和時(shí)間地點(diǎn)），情緒濃度異常高（讓你看完立刻憤怒或者立刻感動(dòng)），細(xì)節(jié)豐富但缺乏可驗(yàn)證的錨點(diǎn)。一篇看似專業(yè)的科普文章，如果引用的論文你在Google Scholar上搜不到，大概率是AI編的。

3.用AI打假AI。你完全可以把一段可疑的文字丟給AI，讓它幫你檢查事實(shí)。這篇文章里引用的數(shù)據(jù)出處在哪里？這個(gè)案例是真實(shí)的嗎？AI善于編造，但也善于拆解。讓兩個(gè)AI互相審問(wèn)，效果遠(yuǎn)好過(guò)你獨(dú)自判斷。圖片方面，Google的以圖搜圖功能可以幫你追溯一張圖片的原始來(lái)源；Hive、AI or Not等在線工具能檢測(cè)一張圖是否由AI生成。這些工具未必百分之百準(zhǔn)確，但作為初篩已經(jīng)足夠。

4.給自己裝一個(gè)情緒斷路器。虛假信息幾乎總是裹著濃烈的情緒外衣。在你轉(zhuǎn)發(fā)、相信、采取行動(dòng)之前，先等一等。哪怕只是等10分鐘。

5.最后也是最根本的一點(diǎn)：在你關(guān)心的領(lǐng)域里讀幾本扎實(shí)的書(shū)。有了基本概念和邏輯框架，新信息進(jìn)來(lái)時(shí)你才有東西拿來(lái)交叉比對(duì)。知識(shí)網(wǎng)絡(luò)越稠密，單條虛假信息擊穿它的可能性就越小。我們正在進(jìn)入一個(gè)偽造廉價(jià)而驗(yàn)證昂貴的時(shí)代。但你愿意為真實(shí)付出的耐心和努力，將成為最有價(jià)值的智識(shí)資產(chǎn)。你的大腦不會(huì)被AI取代，但需要你主動(dòng)升級(jí)它的防火墻。

正如《黑客帝國(guó)》中的紅色藥丸，

選擇它即代表要秉持著懷疑精神探尋萬(wàn)物的真相?

原文刊載于《時(shí)尚COSMO》4月刊

編輯：若菲

編輯助理：王阿果

排版：萱萱

設(shè)計(jì)：棒棒

圖源：網(wǎng)絡(luò)、受訪者提供