美國(guó)聯(lián)邦通信委員會(huì)（FCC）計(jì)劃對(duì)在新罕布什爾州初選期間，利用語(yǔ)音克隆技術(shù)冒充拜登總統(tǒng)撥打非法自動(dòng)電話(huà)的詐騙行為處以高達(dá)600萬(wàn)美元的罰款。這次行動(dòng)主要針對(duì)非法自動(dòng)撥號(hào)行為，而非人工智能本身，但FCC此舉顯然是為了對(duì)所有可能的高科技詐騙分子發(fā)出強(qiáng)烈警告。

今年1月，新罕布什爾州許多居民接到了看似來(lái)自拜登總統(tǒng)的電話(huà)，內(nèi)容要求他們不要在即將舉行的初選中投票。這些電話(huà)實(shí)際上是利用聲音克隆技術(shù)偽造的。近年來(lái)，聲音克隆技術(shù)的普及使得通過(guò)生成式AI平臺(tái)制作任意人的聲音變得異常簡(jiǎn)單，且?guī)缀鯖](méi)有限制或監(jiān)管。僅需少量拜登演講音頻，就能輕松生成以假亂真的“拜登之聲”，而這些音頻素材在網(wǎng)上隨處可見(jiàn)。

FCC及多家執(zhí)法機(jī)構(gòu)明確表示，不會(huì)容忍通過(guò)偽造的拜登聲音，利用非法自動(dòng)電話(huà)系統(tǒng)來(lái)干預(yù)選舉、誤導(dǎo)選民或竊取敏感信息的行為。FCC執(zhí)法局負(fù)責(zé)人洛亞安·埃加爾在聲明中強(qiáng)調(diào)，任何企圖濫用人工智能技術(shù)通過(guò)電信網(wǎng)絡(luò)進(jìn)行選舉干預(yù)、欺騙公眾或泄露數(shù)據(jù)的不法行為將面臨迅速而嚴(yán)厲的法律制裁。

此次事件的主要策劃者是名為史蒂夫·克萊默的“政治顧問(wèn)”，他得到了如Life Corporation等信譽(yù)存疑的公司的支持，這家公司曾因非法自動(dòng)撥號(hào)電話(huà)被指控。還有多家電信公司如Lingo（其名下有多個(gè)別稱(chēng)）為其提供協(xié)助。盡管克萊默顯然違反了多項(xiàng)法規(guī)，目前他本人及其同伙尚未面臨刑事起訴。這反映出FCC權(quán)限的局限性：他們需要與其他地方或聯(lián)邦執(zhí)法部門(mén)合作，才能強(qiáng)化其在追究責(zé)任方面的權(quán)威。

600萬(wàn)美元的罰款雖然象征著最高處罰額度，但實(shí)際支付金額通常因各種因素而遠(yuǎn)低于此，即便如此，這依然是一筆不小的數(shù)目。接下來(lái)，克萊默需要對(duì)這些指控作出回應(yīng)，而Lingo則面臨可能包括罰款或吊銷(xiāo)營(yíng)業(yè)執(zhí)照在內(nèi)的單獨(dú)法律程序。

值得注意的是，這一事件促使FCC在2019年明確規(guī)定，使用AI生成的聲音在自動(dòng)電話(huà)中屬于法律禁止的“人造”聲音范疇，體現(xiàn)了FCC對(duì)新興技術(shù)應(yīng)用監(jiān)管的前瞻性和嚴(yán)謹(jǐn)態(tài)度。

▲ 滑動(dòng)查看往期內(nèi)容