隨著AI技術(shù)的猛烈發(fā)展，在我們?nèi)粘Ｉ钪械挠绊懥σ踩找嬖黾印氖謾C(jī)中的語音助手到金融領(lǐng)域的人臉識別技術(shù)，人工智能無處不在。這些看似便捷的科技進(jìn)步背后，卻隱藏著對人類未來的深刻挑戰(zhàn)。2023年6月歐盟批準(zhǔn)的《人工智能法案》以及在首爾舉行的全球AI安全峰會，引發(fā)了人們對AI潛在風(fēng)險的廣泛關(guān)注。

人工智能的潛力與風(fēng)險

人工智能的強(qiáng)大之處在于其能夠模擬并超越人類的認(rèn)知能力，從而在短時間內(nèi)完成復(fù)雜的任務(wù)。然而，這種能力也引發(fā)了人們的擔(dān)憂。著名物理學(xué)家史蒂芬·霍金曾警告說，在本世紀(jì)內(nèi)，AI有可能會超越人類智慧。如果不加以妥善管理，AI可能帶來難以預(yù)測的風(fēng)險，甚至威脅人類的生存。

近年來，圍繞AI的討論從未停止過。埃隆·馬斯克等科技領(lǐng)袖也多次呼吁加強(qiáng)AI發(fā)展的監(jiān)管，以防止其失控?；艚鸬膿?dān)憂并非空穴來風(fēng)，科幻作品中機(jī)器反抗人類的場景或許并不遙遠(yuǎn)。

全球治理的必要性

針對AI的潛在威脅，全球治理顯得尤為重要。清華大學(xué)蘇世民書院院長薛瀾強(qiáng)調(diào)，國際社會需要攜手合作，共同制定AI風(fēng)險管理的標(biāo)準(zhǔn)和框架。雖然目前AI技術(shù)仍在我們掌控之中，但其快速發(fā)展可能會導(dǎo)致未來的不可控性。

治理AI的一個主要挑戰(zhàn)在于技術(shù)進(jìn)步的速度遠(yuǎn)超政策制定的步伐。為此，薛瀾提出了“敏捷治理”的概念，即政策需要快速響應(yīng)科技進(jìn)步，以確保技術(shù)的發(fā)展不會偏離安全軌道。

AI風(fēng)險的現(xiàn)實(shí)案例

AI技術(shù)的潛在風(fēng)險并不僅僅停留在理論層面，而是在現(xiàn)實(shí)生活中不斷顯現(xiàn)。2019年，澳大利亞NAB銀行遭遇了一起由AI輔助的詐騙案。犯罪分子利用深度偽造技術(shù)制作假冒視頻，以騙取機(jī)密信息和資金。此外，2023年，一段AI生成的虛假視頻在網(wǎng)上迅速傳播，導(dǎo)致一家德國能源公司的股票價格大幅下跌，造成了數(shù)百萬美元的市場損失。

這些案例表明，AI的欺騙性和操控能力可能帶來嚴(yán)重的社會和經(jīng)濟(jì)后果。為了防止此類事件的發(fā)生，各國亟需設(shè)立“紅線”，明確AI技術(shù)使用的底線。

在創(chuàng)新與監(jiān)管之間尋找平衡

在AI治理的過程中，我們必須在促進(jìn)科技創(chuàng)新和保障公眾安全之間找到平衡點(diǎn)。各國政府、科技公司以及公眾需要共同努力，建立對AI風(fēng)險的統(tǒng)一認(rèn)識，同時鼓勵其在合法和道德框架內(nèi)的應(yīng)用。

歐盟正式通過《人工智能法案》，這標(biāo)志著全球首個全面的AI法律框架的誕生。該法案為AI的使用設(shè)定了嚴(yán)格的規(guī)則，尤其是在涉及人權(quán)、隱私和安全等敏感領(lǐng)域。這一立法被視為其他國家制定類似法律的樣板。

國內(nèi)的AI治理舉措

中國在人工智能治理方面也采取了重要措施。近年來，政府發(fā)布了多項(xiàng)指導(dǎo)意見和政策文件，旨在規(guī)范AI技術(shù)的發(fā)展和應(yīng)用。2022年，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，明確要求算法推薦服務(wù)提供者對其算法模型進(jìn)行嚴(yán)格管理，并對用戶的權(quán)益進(jìn)行保護(hù)。此外，人工智能倫理與治理的研究也在不斷推進(jìn)，確保AI發(fā)展與社會道德規(guī)范相適應(yīng)。

未來，人工智能的走向?qū)⑷Q于我們對其影響的預(yù)判能力和應(yīng)對措施的實(shí)施力度。正如薛瀾所說，雖然技術(shù)進(jìn)步能夠帶來巨大的好處，但也必須保持警惕，堅(jiān)守道德標(biāo)準(zhǔn)，以防止可能的負(fù)面后果。

隨著人工智能引領(lǐng)第四次工業(yè)革命，其治理問題成為全球關(guān)注的焦點(diǎn)。通過采取國際合作的AI監(jiān)管方法，在利用AI潛力造福人類的同時，有效規(guī)避其風(fēng)險。關(guān)于AI治理的討論仍在繼續(xù)，其結(jié)果將深刻影響技術(shù)與人類社會的未來。

▲ 滑動查看往期內(nèi)容