AI 倒反天罡擺脫人類控制的情節(jié)在科幻作品屢見(jiàn)不鮮，現(xiàn)實(shí)中各國(guó)也已立法管控AI帶來(lái)的風(fēng)險(xiǎn)

近兩年AI大潮，一浪強(qiáng)過(guò)一浪，現(xiàn)在的 AI 聰明得有點(diǎn)“滲人”？

越來(lái)越逼真的效果，讓各種問(wèn)題浮現(xiàn)。前段時(shí)間江蘇就有買家利用手機(jī)合成制作收到 6 只“死螃蟹”的虛假視頻，實(shí)施詐騙。甚至有人擔(dān)心明天會(huì)不會(huì)被硅基生物搶了飯碗。就像看著自家養(yǎng)的哈士奇突然學(xué)會(huì)了開(kāi)鎖——既驚又怕。

大家都想讓 AI 聽(tīng)話、安全、別搞事，已是國(guó)際共識(shí)。但怎么管？各國(guó)的模式卻有所不同。

歐盟：嚴(yán)防死守

歐盟的導(dǎo)向是最為嚴(yán)格，以至于有聲音說(shuō)阻礙科技發(fā)展。

歐盟《人工智能法案》根據(jù)造成傷害的風(fēng)險(xiǎn)對(duì)除軍事用途外人工智能應(yīng)用進(jìn)行分類。有四個(gè)等級(jí) — 不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、最小風(fēng)險(xiǎn) — 加上一個(gè)通用人工智能的附加類別。

• 不可接受風(fēng)險(xiǎn)：除特定豁免外，此類人工智能應(yīng)用被禁止。這類主要是針對(duì)能直接影響到人類行業(yè)的應(yīng)用。
• 高風(fēng)險(xiǎn)： 預(yù)計(jì)會(huì)對(duì)人們的健康、安全或基本權(quán)利構(gòu)成重大威脅的人工智能應(yīng)用。這類要接受嚴(yán)格管理及需進(jìn)行“基本權(quán)利影響評(píng)估”。
• 通用人工智能：比如聊天機(jī)器人。必須經(jīng)過(guò)徹底的評(píng)估過(guò)程，它們須遵守透明度要求。說(shuō)人話就是不能裝成真人。
• 最小風(fēng)險(xiǎn)：此類別包括例如用于視訊游戲或垃圾電子郵件篩檢的人工智能系統(tǒng)。這些不用接受管理。

歐盟這就是典型的“以風(fēng)險(xiǎn)為基礎(chǔ)”，核心就是保護(hù)公民權(quán)利。由法案而產(chǎn)生的“布魯塞爾效應(yīng)”——通過(guò)市場(chǎng)機(jī)制管理全球：只要與歐盟生意，就得接愛(ài)《人工智能法案》。

美國(guó)：能搞錢就行

漂亮國(guó)的態(tài)度與歐盟就完全風(fēng)格相反。

美國(guó)的邏輯是：“兄弟，先搞錢……啊不，先創(chuàng)新！”

散裝的美國(guó)基本是各州各自立法，目前仍沒(méi)有一個(gè)關(guān)于管理AI的聯(lián)邦法律。主要靠大統(tǒng)領(lǐng)簽個(gè)“行政命令”來(lái)指方向。這有點(diǎn)像老板發(fā)個(gè)全員郵件：“大家注意安全啊，但業(yè)績(jī)不能掉！”說(shuō)了等于沒(méi)說(shuō)。

他們更在意的是**“基礎(chǔ)模型”**（Frontier Models），國(guó)家標(biāo)準(zhǔn)局（NIST）搞了個(gè)風(fēng)險(xiǎn)框架指導(dǎo)行業(yè)自律。

說(shuō)白了，美國(guó)就是生意人頭腦，畢總大統(tǒng)領(lǐng)就是一個(gè)生意人。沒(méi)到危害國(guó)家安全就不用管，賺錢最重要。

中國(guó)：高效的“實(shí)干派”

再看咱們中國(guó)。目前監(jiān)控AI的法律文件主要是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》。

中國(guó)的管理哲學(xué)是“雙輪驅(qū)動(dòng)”：既要發(fā)展，又要安全。而且特別具體：

• 管內(nèi)容：AI 生成的東西必須標(biāo)注。
• 管算法：以前大廠總說(shuō)算法是黑箱，現(xiàn)在不行了，你得告訴用戶這玩意兒怎么推給我的，還得讓人家能選擇退出。

這叫“以治理為主線”。由網(wǎng)信辦牽頭，一旦發(fā)現(xiàn)問(wèn)題，那是真·光速修補(bǔ) Bug 17。

最后總結(jié)

• 歐盟寧愿慢慢走也要走穩(wěn)，誰(shuí)也別想搶跑；
• 美國(guó)管理是沒(méi)有的，交給市場(chǎng)自己找出路；
• 中國(guó)只要沒(méi)造成社會(huì)影響，放手干。

雖然各地區(qū)管理方式不同，但也聚焦通用大模型算法透明。deepseek這類模型選擇開(kāi)源，估計(jì)這也是一個(gè)考量點(diǎn)。

未來(lái)的管理長(zhǎng)啥樣？

AI 是沒(méi)有國(guó)界的，真出了亂子，誰(shuí)也跑不了。覺(jué)得全球應(yīng)該盡快制定一個(gè)類似“機(jī)器人三原則”的最底層代碼，否則“天網(wǎng)”與“奧創(chuàng)”降臨時(shí)再后悔就晚了。

最后擴(kuò)展思考：

盡管各地都有管理，但全都只是針對(duì)民間。你覺(jué)得未來(lái)會(huì)有AI機(jī)器人大戰(zhàn)嗎？