1月23日上午，由北京大學(xué)中外人文交流研究基地與啟明創(chuàng)投聯(lián)合主辦的“構(gòu)建人工智能護(hù)欄的全球共識”課題項目啟動儀式在北京大學(xué)英杰會議中心星光廳以線上線下相結(jié)合形式舉辦。各國專家學(xué)者與媒體代表齊聚一堂，共商人工智能領(lǐng)域全球規(guī)則構(gòu)建，探尋國際治理共識。

北京大學(xué)國際關(guān)系學(xué)院教授、中外人文交流研究基地執(zhí)行主任王棟主持活動。

全國政協(xié)常委，北京大學(xué)國際關(guān)系學(xué)院教授、中外人文交流研究基地主任賈慶國通過視頻發(fā)表開幕致辭。賈慶國表示，相較于人類發(fā)展至今的任何一次科技突破，人工智能為人類帶來了的機(jī)遇與挑戰(zhàn)也許更大更多。一方面，人工智能的應(yīng)用在信息處理、知識創(chuàng)新、健康保障、經(jīng)濟(jì)提質(zhì)增效、廉潔政務(wù)建設(shè)等諸多領(lǐng)域取得了顯著進(jìn)展；另一方面，其引發(fā)的就業(yè)崗位沖擊、隱私信息泄露、直接社會交往減少、致命性武器研發(fā)、超級智能誕生等風(fēng)險與挑戰(zhàn)也已初見端倪、可預(yù)可察。作為全球性現(xiàn)象，人工智能風(fēng)險的有效治理是全人類共同面臨的重大課題，亟需國際社會攜手合作、協(xié)同應(yīng)對。本次項目正是對這一人類迫切需求的直接回應(yīng)，對中國參與全球人工智能風(fēng)險治理、貢獻(xiàn)中國方案與中國力量具有重要意義。

賈慶國致辭

啟明創(chuàng)投創(chuàng)始主管合伙人鄺子平發(fā)表開幕致辭。鄺子平表示，過去20年啟明創(chuàng)投一直在中國投資，啟明創(chuàng)投堅信技術(shù)創(chuàng)新能夠融入社會、造福人類。正因如此，啟明創(chuàng)投近年來將大量精力集中在人工智能領(lǐng)域的投資，目前已在該領(lǐng)域進(jìn)行了多項投資，許多啟明創(chuàng)投的投資企業(yè)為經(jīng)濟(jì)和社會帶來雙重效益。鄺子平表示，“我們深信AI是一項變革性技術(shù)，它將帶來改變甚至是顛覆，并且在多數(shù)情況下提升效率、提升生活品質(zhì)，乃至改變社會的運(yùn)行方式?！迸c此同時，啟明創(chuàng)投也意識到，AI也帶來很多風(fēng)險和挑戰(zhàn)，且這些挑戰(zhàn)是全球性的，是人類共同的挑戰(zhàn)。啟明創(chuàng)投希望通過支持國際頂尖研究機(jī)構(gòu)IGCU的“構(gòu)建人工智能護(hù)欄的全球共識”課題項目，為產(chǎn)業(yè)界、專業(yè)界乃至政策制定者搭建一個基于共同認(rèn)知的對話框架，推動形成基本的國際行為規(guī)范。

鄺子平致辭

在項目啟動儀式環(huán)節(jié)，北京大學(xué)國際關(guān)系學(xué)院教授、中外人文交流研究基地執(zhí)行主任王棟介紹項目總體計劃及報告發(fā)布安排。王棟表示，本課題項目致力于建立清晰、可操作、可持續(xù)的共識達(dá)成與落實機(jī)制，作為破解AI治理分歧的核心抓手。項目通過“全景繪制”，梳理各國AI治理框架，明確共識、分歧與空白領(lǐng)域；依托“共研協(xié)調(diào)”，建立分歧動態(tài)追蹤機(jī)制，識別全球AI治理安全紅線與共同基礎(chǔ)；落實AI治理共識的“機(jī)制落地”，構(gòu)建“對話—共研—轉(zhuǎn)化—追蹤”全流程機(jī)制，推動AI治理共識凝聚及技術(shù)可持續(xù)發(fā)展。王棟重點介紹了項目的第一份報告《人工智能治理的國際圖景》，報告旨在系統(tǒng)梳理各國政府、國際組織、企業(yè)與學(xué)界提出或采用的人工智能護(hù)欄框架，全景展現(xiàn)當(dāng)前全球治理格局。

課題啟動儀式環(huán)節(jié)

在主題研討環(huán)節(jié)，參會嘉賓分別針對項目設(shè)計提出指導(dǎo)性意見。

北京大學(xué)武漢人工智能研究院執(zhí)行院長吳志強(qiáng)表示，應(yīng)借鑒核安全治理的二分框架，區(qū)分人工智能的“存在性風(fēng)險”與“系統(tǒng)性風(fēng)險”。他強(qiáng)調(diào)，當(dāng)前政策應(yīng)聚焦于現(xiàn)實、可解決的系統(tǒng)性風(fēng)險，避免資源被過度集中于遠(yuǎn)期的假想威脅，并呼吁加大對AI安全研究的投入比例，使其成為基礎(chǔ)設(shè)計的核心。

信息技術(shù)與創(chuàng)新基金會副主席丹尼爾·卡斯特羅（Daniel Castro）以食品安全類比，表示不同國家在AI治理上會有不同選擇，關(guān)鍵在于確?；景踩珮?biāo)準(zhǔn)。他強(qiáng)調(diào)護(hù)欄設(shè)計需考慮內(nèi)在權(quán)衡，并指出開放科學(xué)與研究共享對于全球共同學(xué)習(xí)、避免重復(fù)錯誤至關(guān)重要。

中國信息通信研究院人工智能研究所所長、中國人工智能產(chǎn)業(yè)聯(lián)盟總體組組長魏凱闡述了AI風(fēng)險的多層次性，并強(qiáng)調(diào)了“動態(tài)安全觀”與“敏捷治理”理念。他建議建立從企業(yè)到國家的“PDCA”（即計劃、執(zhí)行、檢查、處理四個階段）閉環(huán)管理機(jī)制，形成多方協(xié)同的治理生態(tài)，以應(yīng)對技術(shù)快速迭代帶來的不確定性。

耶魯大學(xué)法學(xué)院蔡中曾中國中心高級研究員陸凱（Karman Lucero）表示，全球AI治理面臨技術(shù)、機(jī)構(gòu)與政治三重挑戰(zhàn)。他建議研究應(yīng)正視并深入分析其中的政治差異與制度能力建設(shè)問題，在承認(rèn)分歧的基礎(chǔ)上尋求可操作的共識與架構(gòu)。

北京大學(xué)法學(xué)院副院長戴昕表示，任何技術(shù)或制度性護(hù)欄的效力最終都依賴于其所嵌入的法律與社會規(guī)范體系。他認(rèn)為，對護(hù)欄乃至治理的合理期待不是其能確保安全，而是其在人工智能發(fā)展存在重大不確定性的背景下有助于維護(hù)公眾安全感知和社會信任。在國際合作維度，他建議應(yīng)從識別若干無爭議的共識性治理課題入手，從而盡快突破當(dāng)前各類人工智能治理對話受困于話語分歧、無法實現(xiàn)具體行動的局面。

安遠(yuǎn)AI國際AI治理高級研究經(jīng)理周杰晟（Jason ZHOU）介紹了基于“誤用、故障、系統(tǒng)”的三類風(fēng)險框架，以及“黃線”與“紅線”的操作化思路。他提出可通過具體的風(fēng)險評估與模型測試將治理原則落地，并呼吁加強(qiáng)跨國危機(jī)管理協(xié)作，共同提升應(yīng)對AI突發(fā)事件的能力。

參會嘉賓發(fā)言

活動最后，北京大學(xué)國際關(guān)系學(xué)院教授、中外人文交流研究基地執(zhí)行主任王棟作總結(jié)發(fā)言。王棟表示，各位專家學(xué)者在會上發(fā)表的真知灼見，將為項目下一步推進(jìn)提供重要指導(dǎo)。課題組將認(rèn)真梳理、吸收這些寶貴建議，全力做好首份報告的撰寫工作。未來，項目將持續(xù)聚焦人工智能安全護(hù)欄這一全球性命題，通過扎實研究，推動國際共識的凝聚與落實。他衷心感謝啟明創(chuàng)投的鼎力支持、各位嘉賓的深入分享以及團(tuán)隊成員的辛勤工作，并期待與各方攜手，共同助力人工智能的全球治理與可持續(xù)發(fā)展。

參會嘉賓合影