Anthropic推出玻璃翼項目，用AI防護AI網(wǎng)絡(luò)攻擊

亞馬遜、蘋果、谷歌等公司將使用Claude模型來增強其軟件防護能力。

我們經(jīng)常看到關(guān)于人工智能潛在負面影響的擔(dān)憂報道，特別是它可能在網(wǎng)絡(luò)安全方面帶來的新問題。Anthropic宣布了一項名為"玻璃翼項目"的新倡議，旨在通過"保護全球最關(guān)鍵軟件"免受AI驅(qū)動攻擊來解決這些擔(dān)憂。該項目的合作伙伴包括亞馬遜云服務(wù)、蘋果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金會、微軟、英偉達和帕洛阿爾托網(wǎng)絡(luò)公司。

參與者將使用Claude Mythos Preview——Anthropic尚未發(fā)布的通用模型——來增強自己的安全項目。Anthropic聲稱該模型已發(fā)現(xiàn)數(shù)千個可利用的漏洞，"包括所有主要操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中的一些漏洞"。該公司表示希望開始防御性地使用其工具，以防止惡意使用AI可能對經(jīng)濟和安全造成嚴重后果。

Anthropic已成為在該領(lǐng)域引發(fā)倫理關(guān)注的知名AI公司之一。今年早些時候，該公司拒絕為五角大樓移除其服務(wù)的安全防護措施，這促使國防部對Anthropic實施"供應(yīng)鏈風(fēng)險"制裁作為報復(fù)。推出玻璃翼項目可能是在AI時代改善網(wǎng)絡(luò)安全的有益開端，但一些損害已經(jīng)造成。據(jù)報道，其自身的Claude在二月份被黑客用于攻擊墨西哥多個政府機構(gòu)。

Q&A

Q1：玻璃翼項目是什么？有哪些公司參與？

A：玻璃翼項目是Anthropic推出的AI網(wǎng)絡(luò)安全防護倡議，旨在保護全球最關(guān)鍵軟件免受AI驅(qū)動的網(wǎng)絡(luò)攻擊。參與的合作伙伴包括亞馬遜云服務(wù)、蘋果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金會、微軟、英偉達和帕洛阿爾托網(wǎng)絡(luò)公司。

Q2：Claude Mythos Preview模型有什么特殊能力？

A：Claude Mythos Preview是Anthropic尚未發(fā)布的通用模型，它已經(jīng)發(fā)現(xiàn)了數(shù)千個可利用的安全漏洞，包括所有主要操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中的一些漏洞。參與項目的公司將使用這個模型來增強自己的安全項目。

Q3：Anthropic為什么要推出這個項目？

A：Anthropic希望防御性地使用其AI工具，防止惡意使用AI可能對經(jīng)濟和安全造成嚴重后果。該公司已成為在AI領(lǐng)域引發(fā)倫理關(guān)注的知名公司之一，此項目是其在AI時代改善網(wǎng)絡(luò)安全的重要舉措。