国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Anthropic的「奧本海默時(shí)刻」:最害怕AI的公司,造出了最危險(xiǎn)的AI

0
分享至

Anthropic 發(fā)布了它有史以來最強(qiáng)大的模型 Claude Mythos,將不對(duì)公眾開放。

越說越好奇了,這到底是有多強(qiáng)?


不公布的原因是,模型「構(gòu)成前所未有的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)」(poses unprecedented cybersecurity risks)。歷來所有的模型都會(huì)在網(wǎng)絡(luò)安全的賽場(chǎng)上測(cè)試它們的能力,迄今為止,只有 Mythos 獲得了這樣的「高評(píng)價(jià)」。

最害怕 AI 的公司,正在造最危險(xiǎn)的 AI,這件事跟你我有關(guān)。

A 社自己都害怕

在 Mythos 發(fā)布之前,Anthropic 就私下向美國政府高官發(fā)出警告:Mythos 使得大規(guī)模網(wǎng)絡(luò)攻擊在 2026 年變得更加容易實(shí)現(xiàn)。

4 月 7 日,Anthropic 的紅隊(duì)安全團(tuán)隊(duì)發(fā)布了 Mythos Preview 的技術(shù)評(píng)估報(bào)告,這份報(bào)告是近年來 AI 安全領(lǐng)域最重磅的技術(shù)文檔之一,其中讓 A 社決定不公開發(fā)布的地方在于:

Mythos Preview 能找到每一個(gè)主流操作系統(tǒng)和每一個(gè)主流瀏覽器中的「零日漏洞」級(jí)別的 bug,并自主編寫攻擊代碼。

在網(wǎng)絡(luò)安全領(lǐng)域,「零日」指的是開發(fā)者發(fā)現(xiàn)這個(gè)漏洞后,修復(fù)它的時(shí)間是 0 天——在被發(fā)現(xiàn)的那一刻,它已經(jīng)可以被利用了,防御方?jīng)]有任何準(zhǔn)備時(shí)間。


,Mythos 找到了 OpenBSD 中存在 27 年的 TCP 協(xié)議漏洞、FFmpeg 中存在 16 年的視頻解碼器漏洞、FreeBSD 內(nèi)核中存在 17 年的遠(yuǎn)程代碼執(zhí)行漏洞(CVE-2026-4747)、一個(gè)未披露名稱的生產(chǎn)級(jí)云計(jì)算 VMM 的內(nèi)存損壞漏洞,以及多個(gè)主流瀏覽器的沙箱逃逸漏洞。這些 bug 都已經(jīng)存在十年甚至二十年之久,之前從未被任何人或工具發(fā)現(xiàn)。

為什么這些 bug 能藏這么久?顯然不是因?yàn)樗鼈兲唵味缓雎?,是因?yàn)樘珡?fù)雜:需要跨多個(gè)維度的推理,加上精確的觸發(fā)條件。

目前安全行業(yè)最主要的自動(dòng)化工具是 fuzzer(模糊測(cè)試器),給程序喂大量的隨機(jī)輸入,看它會(huì)不會(huì)崩潰。Fuzzer 擅長發(fā)現(xiàn)「輸入 X 導(dǎo)致崩潰」這種簡單關(guān)系。


Fuzzer 不會(huì)「推理」,它只會(huì)盲測(cè)。比如 OpenBSD 的安全漏洞,需要理解兩個(gè)看似無關(guān)的條件組合在一起才會(huì)爆炸;FFmpeg 那個(gè) bug 需要構(gòu)造一個(gè)精確命中特定數(shù)值的視頻文件,正常使用或者隨機(jī)測(cè)試,可能永遠(yuǎn)不會(huì)撞上。

那人呢?人總會(huì)推理吧?但人類審計(jì)員需要考慮規(guī)模問題。這些項(xiàng)目都有幾百萬行代碼,人眼不可能逐行檢查每一個(gè)文件。而且存在一種心理盲區(qū):當(dāng)一段代碼已經(jīng)安全運(yùn)行了 27 年,任誰都會(huì)想當(dāng)然地認(rèn)為「應(yīng)該有人查過了」。


Mythos 的質(zhì)變?cè)谟谒谝淮瓮瑫r(shí)具備了兩種能力,推理和針對(duì)性實(shí)驗(yàn)。傳統(tǒng)工具是「盲測(cè)」:隨機(jī)輸入,觀察結(jié)果。人類審計(jì)是「推理」:讀代碼,推理漏洞,驗(yàn)證。

Mythos 把兩者合二為一,它讀懂代碼的語義,提出「這里可能有漏洞」的假設(shè),然后自己啟動(dòng)程序、加調(diào)試邏輯、運(yùn)行實(shí)驗(yàn)來驗(yàn)證或推翻假設(shè),循環(huán)往復(fù)。

Anthropic 強(qiáng)調(diào),這些能力不是專門訓(xùn)練的結(jié)果,而是模型在代碼、推理和自主性方面的通用改進(jìn)的副產(chǎn)品,它們是「涌現(xiàn)」的。讓模型更擅長修復(fù)漏洞的同時(shí),也讓它更擅長利用漏洞。上一代模型 Opus 4.6 在自主漏洞利用方面的成功率接近 0%。Mythos Preview 在同一個(gè)測(cè)試中,成功率從 2 次跳到了 181 次,都不是階梯式提高,是平地起高樓。


Anthropic 的首席科學(xué)家 Jared Kaplan 對(duì)《紐約時(shí)報(bào)》說,他希望讓更多人意識(shí)到這項(xiàng)技術(shù)的能力,因?yàn)?strong>這意味著模型不只是有找到漏洞、發(fā)現(xiàn)問題的能力,也有利用問題的能力,自動(dòng)把漏洞變成可用的武器。

另一位安全研究者 Logan Graham 提出了一個(gè)更尖銳的問題:全球有大量關(guān)鍵基礎(chǔ)設(shè)施運(yùn)行在老舊代碼上,它們過去的安全性主要依賴一個(gè)前提——攻擊它們需要大量人力,「如果這個(gè)安全范式本身不再成立呢?」

你依賴的系統(tǒng),正在失去保護(hù)

網(wǎng)絡(luò)安全是個(gè)有點(diǎn)高大上的詞,實(shí)際上,它和每個(gè)上網(wǎng)人的日常息息相關(guān)。

最典型的是 FFmpeg,這個(gè)開源的視頻處理庫,負(fù)責(zé)視頻的解碼、編碼和轉(zhuǎn)換。YouTube、Netflix、Bilibili、微信視頻號(hào)、VLC 播放器,幾乎所有需要播放或處理視頻的軟件都直接或間接依賴它。你每天在手機(jī)上看視頻的時(shí)候,F(xiàn)Fmpeg 的代碼很可能正在你的設(shè)備上運(yùn)行。


這樣基礎(chǔ)的設(shè)施,代碼里藏著一個(gè) 16 年的漏洞,16 年來都沒有人發(fā)現(xiàn),想來問題也是不大了——直到 Mythos 出現(xiàn)。

Mythos 在這些系統(tǒng)中找到的漏洞,曾經(jīng)沒有造成問題,只是因?yàn)檎业竭@些 bug 需要大量的人類專家時(shí)間?,F(xiàn)在,這個(gè)阻礙不存在了。

《紐約時(shí)報(bào)》4 月 6 日的報(bào)道描繪了更廣泛的圖景:AI 正在從根本上改變網(wǎng)絡(luò)安全的攻防格局。黑客使用 AI 加速攻擊,防御方也只能用更多的 AI 來回應(yīng),人類安全專家正在被擠出攻防第一線。


第二天,TIME 報(bào)道了 Google 和量子計(jì)算初創(chuàng) Oratomic 的最新研究,AI 輔助下的量子計(jì)算機(jī)破解互聯(lián)網(wǎng)加密協(xié)議的時(shí)間可能比預(yù)期提前數(shù)年。Oratomic 的研究團(tuán)隊(duì)使用 AI 工具優(yōu)化算法,將構(gòu)建危險(xiǎn)量子計(jì)算機(jī)所需的量子比特?cái)?shù)減少了 100 倍。聯(lián)合創(chuàng)始人 Dolev Bluvstein 說:「我們用了 AI 來加速這項(xiàng)研發(fā),毫無疑問?!?/p>

Cloudflare 的安全研究員 Bas Westerbaan 的評(píng)估更是直接,「幾乎世界上每一個(gè)系統(tǒng)都會(huì)變得對(duì)量子攻擊者脆弱?!?/p>


發(fā)現(xiàn)問題,就會(huì)負(fù)責(zé)到底嗎?

Anthropic 是硅谷最常舉起「負(fù)責(zé)任 AI」大旗的公司之一,創(chuàng)始人從 OpenAI 離職,理由就是擔(dān)心 AI 安全。A 社每年發(fā)布大量安全研究,而與此同時(shí),也是 A 社,制造了一個(gè)對(duì)網(wǎng)絡(luò)安全最有殺傷力的武器。

負(fù)責(zé)任披露和威脅示警之間,只有一層薄薄的邊界。順著 Mythos 的發(fā)布,Anthropic 也牽頭成立了 Project Glasswing,先把這個(gè)工具給到防御方(關(guān)鍵基礎(chǔ)設(shè)施和開源項(xiàng)目),讓他們?cè)陬愃颇芰Φ哪P蛷V泛可用之前修復(fù)最重要的漏洞。


這是最反直覺的部分:發(fā)現(xiàn)這些問題的公司,恰恰是一直在警告這些問題的公司。Anthropic 沒有在假裝一切安全。它在大聲說:我們?cè)炝艘粋€(gè)危險(xiǎn)的東西,我們知道它危險(xiǎn),我們正在盡力讓防御方先行一步。但他們也知道,其他公司的類似模型很快就會(huì)跟上。通過公開展示危險(xiǎn)性,Anthropic 同時(shí)實(shí)現(xiàn)了兩個(gè)目標(biāo):它建立了自己作為安全權(quán)威的地位,也向潛在客戶證明了 Mythos 的能力上限?!高@個(gè)模型強(qiáng)大到連我們自己都害怕」,這句話既是警告,也是廣告。

而與此同時(shí),你的瀏覽器、你使用的云服務(wù)、你的視頻平臺(tái)、你的加密通信,這些系統(tǒng)的安全范式正在被重新定義。它們所披著的安全罩,正在變得越來越脆弱。過去它們「安全」是因?yàn)楣粽咝枰罅康娜肆蜁r(shí)間來發(fā)現(xiàn)和利用漏洞,現(xiàn)在一個(gè)模型幾小時(shí)就能完成同樣的工作。

AI 安全已經(jīng)不是一個(gè)行業(yè)話題,關(guān)乎你我,而 Mythos 僅僅只是開始。

我們正在招募伙伴

簡歷投遞郵箱hr@ifanr.com

?? 郵件標(biāo)題「姓名+崗位名稱」(請(qǐng)隨簡歷附上項(xiàng)目/作品或相關(guān)鏈接)


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
看笑了!大連國腳與浙江外援沖突后捂著嘴交流,都怕因罵人被處罰

看笑了!大連國腳與浙江外援沖突后捂著嘴交流,都怕因罵人被處罰

我愛英超
2026-04-10 22:30:45
是時(shí)候攤牌了,中方明確信號(hào):要打,戰(zhàn)火必須燒進(jìn)美國本土!

是時(shí)候攤牌了,中方明確信號(hào):要打,戰(zhàn)火必須燒進(jìn)美國本土!

史說方休
2026-04-11 01:23:59
俄烏明天停火,烏軍已取得戰(zhàn)略主動(dòng)權(quán)

俄烏明天?;穑瑸踯娨讶〉脩?zhàn)略主動(dòng)權(quán)

名人茍或
2026-04-10 14:04:37
網(wǎng)上大量的自媒體,你們已經(jīng)變成伊朗宣傳部中國分部了么?

網(wǎng)上大量的自媒體,你們已經(jīng)變成伊朗宣傳部中國分部了么?

世界圈
2026-04-10 13:15:02
伊朗媒體稱以軍停止襲擊黎巴嫩首都貝魯特

伊朗媒體稱以軍停止襲擊黎巴嫩首都貝魯特

新華社
2026-04-10 21:31:31
山西一局長在辦公室突發(fā)疾病不幸去世,單位正申報(bào)因公殉職,生前曾獲省五一勞動(dòng)獎(jiǎng)?wù)?>
    </a>
        <h3>
      <a href=大風(fēng)新聞
2026-04-10 11:26:15
伊朗權(quán)貴有三千多親屬在美過奢侈生活,盧比奧正在考慮全部驅(qū)逐

伊朗權(quán)貴有三千多親屬在美過奢侈生活,盧比奧正在考慮全部驅(qū)逐

小院之觀
2026-04-09 21:35:10
觀察|脆弱休戰(zhàn)下的美以伊三方:“嘴炮”不停,備戰(zhàn)不止

觀察|脆弱休戰(zhàn)下的美以伊三方:“嘴炮”不停,備戰(zhàn)不止

澎湃新聞
2026-04-10 13:10:26
陳光標(biāo)回應(yīng)送車風(fēng)波:不認(rèn)識(shí)張雪,“不管他叫張雪還是李雪”,只想向他致敬

陳光標(biāo)回應(yīng)送車風(fēng)波:不認(rèn)識(shí)張雪,“不管他叫張雪還是李雪”,只想向他致敬

齊魯壹點(diǎn)
2026-04-10 22:24:12
3-0橫掃!中超黑馬豪取3連勝,本土主帥李國旭神了:擊敗3大強(qiáng)隊(duì)

3-0橫掃!中超黑馬豪取3連勝,本土主帥李國旭神了:擊敗3大強(qiáng)隊(duì)

足球狗說
2026-04-10 21:32:30
美伊戰(zhàn)火打醒中東土豪!伊朗導(dǎo)彈一炸,阿聯(lián)酋連夜拔管法國大飛機(jī)

美伊戰(zhàn)火打醒中東土豪!伊朗導(dǎo)彈一炸,阿聯(lián)酋連夜拔管法國大飛機(jī)

青青子衿
2026-04-10 20:26:18
交易規(guī)則重大調(diào)整!A股風(fēng)險(xiǎn)警示股告別5%漲跌幅,涉超130股

交易規(guī)則重大調(diào)整!A股風(fēng)險(xiǎn)警示股告別5%漲跌幅,涉超130股

北京商報(bào)
2026-04-10 19:47:03
王毅訪朝第2天!高市不裝了,降級(jí)中日關(guān)系,中方的回應(yīng)不簡單

王毅訪朝第2天!高市不裝了,降級(jí)中日關(guān)系,中方的回應(yīng)不簡單

共工之錨
2026-04-10 19:28:56
形勢(shì)已然大變!西方媒體集體改口:中國,已無需再向世界證明什么

形勢(shì)已然大變!西方媒體集體改口:中國,已無需再向世界證明什么

樂享人生風(fēng)雨
2026-04-11 02:05:32
文章新飯店開張!開業(yè)當(dāng)天人氣爆滿,文章戴婚戒抱著嬰兒在店合影

文章新飯店開張!開業(yè)當(dāng)天人氣爆滿,文章戴婚戒抱著嬰兒在店合影

一盅情懷
2026-04-10 15:38:43
王鷗和李小冉現(xiàn)實(shí)中長這樣

王鷗和李小冉現(xiàn)實(shí)中長這樣

鄉(xiāng)野小珥
2026-04-10 21:31:17
太突然!知名品牌宣布:停止運(yùn)營、全部退款!網(wǎng)友唏噓:用了十幾年啊,舍不得

太突然!知名品牌宣布:停止運(yùn)營、全部退款!網(wǎng)友唏噓:用了十幾年啊,舍不得

環(huán)球網(wǎng)資訊
2026-04-10 16:52:28
鄭麗文在北京新造型!穿藍(lán)紫色西服彰顯貴氣,還雙手背后很有氣勢(shì)

鄭麗文在北京新造型!穿藍(lán)紫色西服彰顯貴氣,還雙手背后很有氣勢(shì)

八八尚語
2026-04-10 12:58:23
蘋果給折疊屏起了個(gè)新名字,國產(chǎn)廠商連夜抄作業(yè)

蘋果給折疊屏起了個(gè)新名字,國產(chǎn)廠商連夜抄作業(yè)

薛定諤的BUG
2026-04-09 17:06:08
3-0!3-0!5連敗日乒僅3小時(shí),溫瑞博殺瘋:連續(xù)橫掃成國乒遮羞布

3-0!3-0!5連敗日乒僅3小時(shí),溫瑞博殺瘋:連續(xù)橫掃成國乒遮羞布

大秦壁虎白話體育
2026-04-10 19:16:33
2026-04-11 05:12:49
AppSo incentive-icons
AppSo
讓智能手機(jī)更好用的秘密
6292文章數(shù) 26819關(guān)注度
往期回顧 全部

科技要聞

馬斯克狂發(fā)大火箭也養(yǎng)不起AI 年虧50億美元

頭條要聞

特朗普:美軍艦已裝最先進(jìn)武器 未來24小時(shí)成關(guān)鍵窗口

頭條要聞

特朗普:美軍艦已裝最先進(jìn)武器 未來24小時(shí)成關(guān)鍵窗口

體育要聞

17歲賺了一百萬美元,25歲被CBA裁員

娛樂要聞

黃景瑜王玉雯否認(rèn)戀情!聚會(huì)細(xì)節(jié)被扒

財(cái)經(jīng)要聞

李強(qiáng)主持召開經(jīng)濟(jì)形勢(shì)專家和企業(yè)家座談會(huì)

汽車要聞

搭載第二代刀片電池及閃充技術(shù) 騰勢(shì)N8L閃充版預(yù)售35萬起

態(tài)度原創(chuàng)

家居
時(shí)尚
藝術(shù)
公開課
軍事航空

家居要聞

復(fù)古風(fēng)格 自然簡約

今日熱點(diǎn):陳添祥長文道歉;夏克立曾給前經(jīng)紀(jì)人傳上廁所照片……

藝術(shù)要聞

深圳頂級(jí)海景地段,為啥留下一排“幽靈別墅群”?真相成謎!

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

特朗普:對(duì)美國與伊朗達(dá)成和平協(xié)議“非常樂觀”

無障礙瀏覽 進(jìn)入關(guān)懷版