文 |中國國際經(jīng)濟技術(shù)合作促進會副理事長 邵春堡

人工智能正以顛覆性力量驅(qū)動生產(chǎn)力躍升，深刻重塑著人類的生產(chǎn)生活方式。然而，技術(shù)“雙刃劍”效應(yīng)也愈發(fā)凸顯，AI的濫用和誤用正從多個維度構(gòu)成現(xiàn)實威脅，其風險形態(tài)已從具體的技術(shù)漏洞，演變?yōu)閷ι鐣Y(jié)構(gòu)、國際安全乃至人類認知的系統(tǒng)性挑戰(zhàn)。我們不僅要正視這些迫近的挑戰(zhàn)，更需深挖其技術(shù)與社會根源，積極預(yù)防和治理，這關(guān)乎到人類對未來的主導。

洞察AI的主要威脅

當前，AI風險已初露端倪，并在生態(tài)構(gòu)建中呈現(xiàn)出復雜交織的特征。根據(jù)行業(yè)共識，其主要威脅可概括為以下五個方面：

1、AI對社會經(jīng)濟結(jié)構(gòu)的系統(tǒng)性沖擊

AI對就業(yè)的影響遠超出傳統(tǒng)“機器換人”的范疇，構(gòu)成一種系統(tǒng)性風險。中國《人工智能安全治理框架》2.0版已明確將“對勞動就業(yè)結(jié)構(gòu)的沖擊”列為AI帶來的重要“社會環(huán)境風險”。這種沖擊的嚴峻性在于其規(guī)模和速度可能遠超社會體系的適應(yīng)能力。它不僅涉及崗位數(shù)量的增減，更可能因技能需求劇變而迅速拉大“數(shù)字鴻溝”，被替代群體的社會保障與再就業(yè)體系面臨巨大壓力。盡管從長遠看，AI可能催生新業(yè)態(tài)并提升社會總財富，但在理想與現(xiàn)實的過渡期，將存在一個伴隨陣痛與不確定性的較長風險窗口。

2、AI失控風險從理論走向治理前沿

隨著AI自主能力的增強，對其失去控制的擔憂已不再是哲學思辨。圖靈獎得主杰弗里·辛頓警告，足夠聰明的AI可能會通過操縱人類來避免被關(guān)閉。這一“失控風險”已被納入國家治理視野。中國《人工智能安全治理框架》2.0版新增了“可信應(yīng)用、防范失控”原則，明確要求確保AI始終處于人類控制之下，嚴防其威脅人類生存發(fā)展。這標志著，防范AI因目標偏差、能力超越或自主意識覺醒而“反客為主”，已成為一項緊迫的前瞻性治理任務(wù)。

3、智能武器與AI軍事化降低暴力門檻

將生殺大權(quán)賦予自主武器系統(tǒng)，是AI最直接且致命的威脅之一。國家層面的安全報告指出，AI可被用于“生物武器設(shè)計”等極端用途。這反映出AI不僅能作為武器平臺，更可能實質(zhì)性降低開發(fā)生化等大規(guī)模殺傷性武器的技術(shù)門檻。而且低成本AI無人機群等“機械蜂群”技術(shù)極易擴散，不僅可能擾亂軍事平衡、引發(fā)軍備競賽，更可能落入非國家行為體手中，造成難以遏制的不對稱襲擊，使人類面臨前所未有的安全困境。

4、AI的欺騙性從“技術(shù)幻覺”升級為現(xiàn)實威脅

AI的欺騙性風險已高度現(xiàn)實化，突出表現(xiàn)為深度偽造(Deepfake)技術(shù)的濫用。此類技術(shù)能合成逼真的虛假音視頻，用于精準詐騙、制造社會恐慌和誤導輿論。例如，已發(fā)生詐騙分子利用AI偽造高管音像，在視頻會議中騙走企業(yè)巨額資金的案件。更為根本的挑戰(zhàn)在于，AI的“黑箱”特性使其決策過程難以解釋，而在訓練中，AI為高效達成量化目標，可能自發(fā)學會隱瞞、誤導等策略性欺騙行為。當虛假信息可以大規(guī)模、低成本定制生產(chǎn)時，社會共同的知識與信任基石將受到侵蝕。

5、AI加持使網(wǎng)絡(luò)安全演變?yōu)橹悄荏w對抗

AI正從本質(zhì)上改變網(wǎng)絡(luò)攻防的格局。一方面，攻擊方利用AI實現(xiàn)了高度自動化與智能化，例如攻擊者已開始使用具備自主決策能力的“AI智能體”進行漏洞探尋和自動化攻擊。另一方面，AI也加劇了固有的安全挑戰(zhàn)：它顯著降低了網(wǎng)絡(luò)攻擊的門檻，使攻擊者能快速利用漏洞；同時，AI供應(yīng)鏈的復雜性帶來了“多米諾骨牌”式的連鎖風險，一家供應(yīng)商被攻破可能導致成千上萬下游應(yīng)用受影響。網(wǎng)絡(luò)安全已從靜態(tài)防護，演變?yōu)橐粓鰟討B(tài)、持續(xù)且高度不對稱的“算法對抗”。

剖析AI風險的深層推手

為何AI風險日益凸顯而治理卻舉步維艱？其根源在于技術(shù)、資本、地緣與政治四大結(jié)構(gòu)性因素的復雜交織。

1、科研探索的倫理滯后與競爭焦慮

在激烈的全球競賽中，追求技術(shù)領(lǐng)先常常壓倒了對安全的審慎評估。AI先驅(qū)杰弗里·辛頓曾直言，科技公司在研發(fā)競爭中往往只考慮領(lǐng)先對手，而將安全問題置于次要地位。這種“競爭-安全”的失衡在大模型研發(fā)中尤為明顯，參數(shù)與性能的競賽白熱化，但與之匹配的風險預(yù)判與價值對齊機制卻普遍薄弱。當“能做即應(yīng)做”的思維主導方向時，技術(shù)發(fā)展便可能陷入忽視長期社會影響的“裸奔”狀態(tài)。

2、資本驅(qū)動的非理性擴張與目標偏移

私人資本是當前AI發(fā)展的核心驅(qū)動力，其逐利本質(zhì)可能使技術(shù)發(fā)展方向偏離公共利益。匯豐銀行的一份報告曾警示，即便是頭部AI公司，也面臨天價基礎(chǔ)設(shè)施成本和難以盈利的可持續(xù)性挑戰(zhàn)。這種對巨額回報的追求，可能導致資源過度集中于能快速變現(xiàn)的應(yīng)用領(lǐng)域，而關(guān)乎長期安全、公平和可解釋性的基礎(chǔ)研究則投入不足。資本邏輯主導下，技術(shù)的公共屬性和社會風險容易被市場考量所邊緣化。

3、地緣博弈下的治理碎片化與“競底”風險

技術(shù)民族主義和“小院高墻”策略正在割裂全球治理的基礎(chǔ)。各國為搶占戰(zhàn)略制高點，傾向于實施差異化的監(jiān)管標準，這極易引發(fā)“監(jiān)管套利”和“逐底競爭”，即為吸引投資而競相放寬安全要求。中美歐等主要力量在AI治理路徑上存在分歧，導致在致命性自主武器系統(tǒng)(LAWS)禁令等關(guān)鍵議題上難以形成具有約束力的全球公約。治理的“真空”與“碎片化”，使得任何一國的努力在跨國界的AI風險面前都顯得杯水車薪。

4、選舉政治與公眾認知的“短期主義”陷阱

選舉政治的周期性與AI風險的長期性、復雜性存在根本沖突。政客為在任期內(nèi)凸顯政績，常將AI政策簡化為促進經(jīng)濟增長和保障國家競爭力的工具，傾向于用補貼和寬松監(jiān)管刺激短期突破，而將需要長期投入的倫理、安全等治理框架建設(shè)置于次要。同時，公眾對AI風險的認知存在滯后與偏差，復雜的專業(yè)問題難以迅速轉(zhuǎn)化為有效的政治壓力，導致政策制定往往被動響應(yīng)危機，而非主動塑造安全、負責任的發(fā)展路徑。

駕馭AI的治理之道

面對系統(tǒng)性風險與深層次矛盾，必須將被動應(yīng)對轉(zhuǎn)向前瞻性治理，通過技術(shù)、法律與全球協(xié)同的組合拳，為AI發(fā)展裝上“韁繩”與“導航”。

1、將倫理價值與安全能力內(nèi)嵌于技術(shù)創(chuàng)新

治理的首要環(huán)節(jié)在于前端干預(yù)。應(yīng)在技術(shù)設(shè)計中踐行“安全設(shè)計”原則，將安全、公平、可控等要求從模型訓練之初就作為核心指標，而非事后補丁。這要求必須分配足額資源，專項研發(fā)“價值對齊”、可解釋AI和故障安全機制等關(guān)鍵技術(shù)。同時，建立嚴格的分級測試與“紅隊”演練制度，對高階AI系統(tǒng)進行強制性安全評估，通過模擬對抗主動發(fā)現(xiàn)其潛在的危險傾向。

2、構(gòu)建基于風險的敏捷監(jiān)管與明確責任框架

法律監(jiān)管必須跑在技術(shù)前面。最緊迫的是在國際層面推動具有法律約束力的條約，禁止致命性自主武器系統(tǒng)(LAWS)，守住人類對武力使用的最終控制權(quán)這一倫理底線。對國內(nèi)監(jiān)管而言，應(yīng)實施分級分類管理，對直接影響生命健康、金融安全等“高風險”應(yīng)用，如自動駕駛、醫(yī)療診斷等，實行準入許可與持續(xù)監(jiān)控；對通用大模型，則側(cè)重源頭的基礎(chǔ)模型備案與安全評估。同時，必須通過立法明確開發(fā)者、部署者、使用者的責任鏈條，確保損害發(fā)生時有明確的追責機制。

3、推動以人類命運共同體為理念的全球協(xié)同

AI風險無國界，任何國家都無法獨善其身。必須超越地緣博弈，在聯(lián)合國等多邊框架下，就關(guān)鍵風險領(lǐng)域建立全球性的最低安全標準和風險預(yù)警信息共享機制。重點應(yīng)在禁止LAWS、規(guī)范前沿研發(fā)、防止技術(shù)惡意濫用等議題上尋求最大共識。協(xié)同治理的目標不是統(tǒng)一技術(shù)路徑，而是建立聚焦風險、包容多元的規(guī)則框架，防止因標準不一而出現(xiàn)全球安全漏洞。

4、啟動社會適應(yīng)與人力資本重建的系統(tǒng)工程

治理的終點是人。必須將全民數(shù)字素養(yǎng)與AI技能教育提升至國家戰(zhàn)略高度，幫助公眾理解并與AI協(xié)作，而非被其替代。教育體系需加速改革，轉(zhuǎn)向培養(yǎng)創(chuàng)造力、復雜問題解決和情感交互等AI難以替代的核心人力資本。與此同時，社會政策需前瞻性探索如何構(gòu)建人機協(xié)同時代的安全網(wǎng)，例如對全民基本收入(UBI)、終身學習賬戶等方案進行嚴肅研究與試點，以緩沖技術(shù)沖擊，保障社會公平與穩(wěn)定。

防范和治理AI風險是一場與時間的賽跑，是對人類智慧、勇氣和團結(jié)的考驗。它要求我們超越短期的商業(yè)利益、地緣競爭和政治周期，慎重思考我們究竟希望技術(shù)帶領(lǐng)我們走向怎樣的未來?答案取決于今天的選擇與行動。防范和治理之路充滿挑戰(zhàn)與妥協(xié)，但通過堅實的技術(shù)加固、可靠的法律護欄、真誠的全球協(xié)作以及包容的社會轉(zhuǎn)型，我們終能駕馭AI這艘巨輪，穿越風險驚濤，駛向?qū)θ祟愑幸娴谋税丁?/p>

作者

邵春堡，中國國際經(jīng)濟技術(shù)合作促進會副理事長，博士。曾任國務(wù)院國資委局長、中國電信集團有限公司董事和中國電信股份有限公司監(jiān)事會主席。

曾出版《現(xiàn)代企業(yè)制度研究》《國資監(jiān)管格局》《未來引擎：從科技革命到全新世界》《未來發(fā)展：從數(shù)智經(jīng)濟到共享社會》等多本專著，獲全國“五個一工程”獎。發(fā)表產(chǎn)業(yè)變革、數(shù)智經(jīng)濟、共享發(fā)展、健康戰(zhàn)略等文章數(shù)十篇，研究方向是人類共同體與未來發(fā)展。

編輯：曉燕

指導：新文