親愛的讀者,你是否也收到過突然打來的自動撥號電話?一個陌生的機械音,劈頭就向你兜售一堆莫名其妙的商品。實在惱人!

然而更惱人的,是那些充斥謊言的自動電話。

就在2024年美國大選前夕,一則怪異的新聞鬧得沸沸揚揚，有人利用人工智能技術(shù),制作了大量冒充拜登總統(tǒng)本人的自動撥號電話!

這些“拜登”以極其逼真的聲音,向新罕布什爾州的民主黨選民灌輸誤導(dǎo)信息,敦促他們不要在初選中投票。

消息一出,轟動全美。

民主黨人大為光火,指責(zé)這是共和黨對手的陰謀詭計。而當事人喬·拜登本人也表現(xiàn)出極大驚愕,抗議自己從未主動撥打這樣的電話。

那么,這其中的內(nèi)情是什么?利用人工智能技術(shù)偽造他人聲音、傳播謊言,又會對社會帶來怎樣危險的影響?我們有必要深入探討。

人工智能的反面武器

很遺憾,在這個科技飛速發(fā)展的時代,每一項創(chuàng)新都會被一些人惡意利用。人工智能也不例外。

記得幾年前橫空出世的“深度偽造”技術(shù)嗎?它可以將任何人的臉部替換到真人影像中,制造出栩栩如生的假視頻。一時間,明星的“面具視頻”傳播甚廣,引發(fā)公眾擔(dān)憂。

類似地,人工智能也可以克隆他人的聲音。通過收集和分析某人的語音數(shù)據(jù),算法可以模擬出極為逼真的音色和語調(diào)。這為制造假信息提供了極大便利。

木已成舟:監(jiān)管的失職

遺憾的是,在這起事件中我們看到,相關(guān)監(jiān)管部門的反應(yīng)遲緩,幾乎于事無補。

聯(lián)邦選舉委員會本應(yīng)制定明確的人工智能使用規(guī)范,但它完全沒有意識到問題的嚴重性和緊迫性。一些倡導(dǎo)機構(gòu)已向其請愿,要求加速行動,但似乎毫無作用。

同樣,人工智能企業(yè)如OpenAI也有責(zé)任落實內(nèi)部規(guī)章制度,杜絕產(chǎn)品被濫用。但業(yè)內(nèi)守門員似乎仍在睡夢中。

你準備好迎接“深度冒充”年代了嗎

或許你會問,這和我又有什么關(guān)系?但請思考,如果連總統(tǒng)的聲音都能輕易偽造,你我又還能相信什么是真實的?

我們必須正視人工智能可能帶來的負面影響,并敦促有關(guān)部門盡快出臺監(jiān)管措施。與此同時,每一個公民也應(yīng)提高判斷能力,不因為一通電話或視頻就隨波逐流。

就像我們需要學(xué)習(xí)辨別照片里的“美顏”,也需要重視聲音和影像的“深度冒充”。只有公民意識同步提高,法律監(jiān)管才能發(fā)揮真正作用。

親愛的讀者,這個時代或?qū)⒊錆M前所未有的真假難辨。讓我們保持敏銳和清醒,用理性抵御被動洗腦的威脅。

就像北極星引導(dǎo)水手歸家,唯有辨明真?zhèn)芜@根試金石之筆,方能讓我們在復(fù)雜紛亂的航線上不致迷失方向。

補充備注：本文由Seerbolder團隊訓(xùn)練的story weaver模仿凱文·羅斯（Kevin Roose）寫作風(fēng)格，他是《紐約時報》知名的科技評論員，長期關(guān)注科技對社會的影響。