國際計算機學會（ACM）的歐洲技術政策委員會（ETPC）發(fā)布了《與代理人工智能相關的系統(tǒng)風險：政策簡報》。這項經過廣泛討論的研究確定了歐盟當前監(jiān)管框架中的潛在差距，并建議有機會使人工智能監(jiān)督保持持續(xù)和動態(tài)。報告認為，雖然最近出臺的《歐盟人工智能法案》（EU AI Act）為治理奠定了堅實的基礎，但關鍵挑戰(zhàn)仍然存在。

在他們的介紹中，ACM的合著者指出，“代理人工智能——一種新的范式，用于創(chuàng)建能夠使用大型語言模型（LLM）在最小的人為監(jiān)督下感知、推理、學習和實現(xiàn)目標的自主系統(tǒng)——提供了變革潛力，但也帶來了系統(tǒng)性風險?！苯洕灰啤㈠e誤信息和環(huán)境危害只是報告中概述的潛在不利后果中的一小部分。

作為第一步，政策簡報明確將代理人工智能定義為“能夠在最少或沒有人為監(jiān)督的情況下制定或完善計劃并執(zhí)行任務”的系統(tǒng)。據(jù)合著者稱，代理人工智能的獨特特征包括“持續(xù)操作、自適應學習和自我反思”。

“與代理人工智能相關的系統(tǒng)性風險：政策簡報”的主要建議鼓勵利益相關者：

區(qū)分監(jiān)管遠見和社會遠見，前者涉及制定管理系統(tǒng)性風險的法律和合規(guī)框架，后者探討人類行為的長期文化適應和轉變。

認識到動態(tài)治理機制和控制功能在其運行過程中變得必要，以確保人工智能的公平性、問責制、透明度以及安全性、準確性和可解釋性。

采取立法行動，補充和調整《歐盟人工智能法》和相關框架。具體舉措應包括修訂和增加《歐盟人工智能法》。

在概述了他們的主要建議后，合著者從他們的研究中得出了一個簡短的教育入門。該報告分為幾章，深入探討了什么是Agent AI、自我優(yōu)化技術如何擺脫人類控制、技術的各種不利風險以及當前的政策格局等主題。

ETPC政策簡報的合著者Gerhard Schimpf解釋說：“如果你在15年前預測，到2025年，我們將擁有有可能超越人類控制的人工智能系統(tǒng)——人們會說你在幻想一部科幻小說?！薄霸诳苹眯≌f中，自主機器往往會帶來悲劇性的結局。但現(xiàn)在，這項技術及其相關風險都是現(xiàn)實。憑借我們作為計算機科學家的專業(yè)知識，ETPC成員可以向公眾解釋為什么Agentic AI如此獨特，以及我們如何從根本上重新思考我們的治理方法。我們希望這份簡報能鼓勵政策領導人充分了解這一新的人工智能前沿。我們期待與歐洲各地的合作伙伴合作，確保這些技術最好地為公眾服務?！?/p>

除了Gerhard Schimpf，《與代理人工智能相關的系統(tǒng)性風險：政策簡報》的合著者還包括Alejandro Bellogín、Paolo Giudici、Stefan Larsson、Jun Pang、Biswa Sengupta和Gürkan Solmaz。

歐洲技術政策委員會（ETPC）旨在促進與歐盟委員會和歐洲其他政府機構以及信息學和計算界就技術和計算政策問題進行對話和交流。致力于促進健全的公共政策和公眾對技術和政策交叉領域廣泛問題的理解。其政策聲明反映了來自公共和私營部門的ACM歐洲委員會專業(yè)成員的專業(yè)知識，他們在信息學、計算機科學和其他計算相關領域擁有豐富的經驗。

與Ai時代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。歡迎掃碼加入我們！