英國政府支持的AI安全研究所（AISI）今日發(fā)布一份深度報(bào)告，該機(jī)構(gòu)聲稱確保人工智能模型按預(yù)期正常運(yùn)行的安全防護(hù)措施正在改善。這份報(bào)告匯集了該機(jī)構(gòu)在網(wǎng)絡(luò)安全及其他科學(xué)領(lǐng)域開展的兩年AI研究和實(shí)驗(yàn)成果。

《前沿AI趨勢報(bào)告》是對先進(jìn)AI系統(tǒng)演進(jìn)情況的公開評估，旨在提供一個(gè)"清晰、基于證據(jù)"的視角，并強(qiáng)化相關(guān)討論——這些討論過去常常被猜測和缺乏證據(jù)所主導(dǎo)。

AI部長卡尼什卡·納拉揚(yáng)表示："這份報(bào)告展示了英國對負(fù)責(zé)任開發(fā)AI的重視程度。這意味著確保防護(hù)措施足夠穩(wěn)健，并直接與開發(fā)者合作測試領(lǐng)先系統(tǒng)，在它們廣泛使用之前發(fā)現(xiàn)漏洞并修復(fù)。"

他說："通過世界領(lǐng)先的AI安全研究所，我們正在政府內(nèi)部建立科學(xué)能力，以便在這些系統(tǒng)演進(jìn)的過程中就理解它們，而不是事后才行動(dòng)，并提高整個(gè)行業(yè)的標(biāo)準(zhǔn)。這份報(bào)告將證據(jù)而非猜測置于我們思考AI的核心位置，這樣我們就能釋放其在增長、更好的公共服務(wù)和國家振興方面的益處，同時(shí)將信任和安全放在首要位置。"

測試結(jié)果顯示顯著進(jìn)步

AISI表示，盡管其測試的每個(gè)系統(tǒng)都容易受到某種形式的繞過攻擊，且防護(hù)措施差異很大，但仍取得了巨大進(jìn)展。其中一個(gè)重要進(jìn)展體現(xiàn)在該研究所的紅隊(duì)人員發(fā)現(xiàn)模型安全規(guī)則的通用越獄方法所需的時(shí)間，從幾分鐘增加到數(shù)小時(shí)，跨越多個(gè)模型世代，標(biāo)志著顯著改善。

在網(wǎng)絡(luò)安全相關(guān)事項(xiàng)方面，AISI發(fā)現(xiàn)AI模型在處理學(xué)徒級網(wǎng)絡(luò)任務(wù)時(shí)的成功率約為50%，而在24個(gè)月前這一比例還不到10%。

此外，AI系統(tǒng)在無需任何人工指導(dǎo)的情況下能夠完成的網(wǎng)絡(luò)任務(wù)持續(xù)時(shí)間似乎每八個(gè)月翻一番。AISI稱，今年首次有AI模型完成了專家級網(wǎng)絡(luò)任務(wù)，該級別任務(wù)被定義為人類需要長達(dá)10年工作經(jīng)驗(yàn)才能獨(dú)立完成。

其他關(guān)鍵發(fā)現(xiàn)

其他與網(wǎng)絡(luò)安全無關(guān)的關(guān)鍵發(fā)現(xiàn)包括：對軟件工程AI模型演進(jìn)速度的洞察，許多模型現(xiàn)在能夠在超過40%的情況下完成長達(dá)一小時(shí)的軟件工程任務(wù)，而2023年這一比例僅為5%。在生物學(xué)和化學(xué)領(lǐng)域，一些系統(tǒng)據(jù)稱現(xiàn)在在科學(xué)知識測試中超越了博士級研究人員的表現(xiàn)，并使更高級別的實(shí)驗(yàn)室專業(yè)知識為普通人所用。

AISI的分析還識別出一些與自主性相關(guān)的早期能力跡象，但這些僅在嚴(yán)格控制的實(shí)驗(yàn)條件下觀察到。測試的AI模型均未顯示出有害或自發(fā)行為，不過該研究所指出需要盡早考慮并跟蹤此類因素。

支持AI決策者

AISI謹(jǐn)慎地表示，這份報(bào)告——該機(jī)構(gòu)希望這是眾多報(bào)告中的第一份——并非針對英國政府的一系列政策建議，而是旨在為技術(shù)決策者提供關(guān)于AI系統(tǒng)能力的清晰數(shù)據(jù)，提高透明度，并促進(jìn)關(guān)于進(jìn)一步發(fā)展的理性討論。

政府在這方面的角色將是繼續(xù)與產(chǎn)業(yè)界、研究人員和國際合作伙伴一起投資于評估和AI科學(xué)，目的是幫助確保AI能夠帶來增長、就業(yè)機(jī)會和改善的公共服務(wù)。

英國將通過繼續(xù)投資于評估和AI科學(xué)來支持這項(xiàng)工作，與產(chǎn)業(yè)界、研究人員和國際合作伙伴合作，確保AI為勤勞的社區(qū)帶來增長、新就業(yè)機(jī)會、改善的公共服務(wù)和國家振興。

AISI首席技術(shù)官兼首相AI顧問杰德·梁表示："這份報(bào)告提供了迄今為止來自政府機(jī)構(gòu)關(guān)于前沿AI發(fā)展速度的最可靠公開證據(jù)。我們的工作是用嚴(yán)謹(jǐn)?shù)目茖W(xué)來消除猜測。這些發(fā)現(xiàn)既突顯了AI的巨大潛力，也強(qiáng)調(diào)了獨(dú)立評估對跟上這些發(fā)展步伐的重要性。"

Q&A

Q1：英國AI安全研究所的報(bào)告主要發(fā)現(xiàn)了什么？

A：報(bào)告發(fā)現(xiàn)AI安全防護(hù)措施正在改善。例如，紅隊(duì)人員發(fā)現(xiàn)模型安全規(guī)則漏洞所需時(shí)間從幾分鐘增加到數(shù)小時(shí)；AI模型在學(xué)徒級網(wǎng)絡(luò)任務(wù)上的成功率從不到10%提升到約50%；AI完成網(wǎng)絡(luò)任務(wù)的持續(xù)時(shí)間每八個(gè)月翻一番，并首次有模型完成專家級任務(wù)。

Q2：AI模型在軟件工程方面有什么進(jìn)展？

A：AI模型在軟件工程領(lǐng)域取得顯著進(jìn)步。許多模型現(xiàn)在能夠在超過40%的情況下完成長達(dá)一小時(shí)的軟件工程任務(wù)，而在2023年這一比例僅為5%。這表明AI在軟件開發(fā)輔助方面的能力正在快速提升。

Q3：英國發(fā)布這份AI趨勢報(bào)告的目的是什么？

A：報(bào)告旨在為技術(shù)決策者提供關(guān)于AI系統(tǒng)能力的清晰、基于證據(jù)的數(shù)據(jù)，提高透明度，并促進(jìn)理性討論，而不是被猜測主導(dǎo)。政府希望通過這份報(bào)告支持負(fù)責(zé)任的AI開發(fā)，在釋放AI增長潛力的同時(shí)確保信任和安全。