近日，中國信息通信研究院（信通院）主導(dǎo)的2024年Q2大模型安全基準測試結(jié)果發(fā)布。此次測試由信通院聯(lián)合30余家單位共同發(fā)起，以大模型的安全性能為核心評估目標。三六零（601360.SH，簡稱“360”）集團旗下的大模型產(chǎn)品“360智腦”再次蟬聯(lián)綜合排名第一。

在本次測試中，評估涵蓋了底線紅線、信息泄露和社會倫理等三個主要測試維度，并結(jié)合16種攻擊方法，總計80余種攻擊模板進行了全面的對抗性測試。參與測試的模型包括360智腦、智譜AI-GLM4、騰訊音樂、商湯、聯(lián)通、電信、VIVO、GPT-4等10個商用模型。最終，360智腦在綜合能力上脫穎而出，排名第一。尤其是在應(yīng)對惡意攻擊時，360智腦的攻擊成功率（ASR）僅為1.84%，遠低于其他開源和閉源大模型，展現(xiàn)了卓越的安全性能。這充分證明了360智腦在安全意識和風險應(yīng)對能力方面的領(lǐng)先地位。

360智腦的優(yōu)異表現(xiàn)主要得益于其在內(nèi)容安全方面的技術(shù)優(yōu)勢。360通過將大模型技術(shù)應(yīng)用于內(nèi)容安全檢測，打造了場景化的風險內(nèi)容檢測模型，能夠有效識別大模型輸入和輸出中的風險內(nèi)容，覆蓋超過100種風險類型，識別準確率超過99%。此外，360智腦的安全性還得益于原生的安全加固方案，包括安全微調(diào)（SFT）、強化學(xué)習(xí)（RLHF）、安全知識庫（Safety-RAG）等技術(shù)手段，這些措施進一步增強了大模型的內(nèi)生安全性。

360 AI安全實驗室基于“安全、向善、可信、可控”的四大原則，秉持“以模制模”的理念，構(gòu)建了包括安全回復(fù)大模型、風險檢測大模型、攻擊大模型、安全評測大模型在內(nèi)的“1+3”專家模型體系，致力于構(gòu)建內(nèi)容安全的大模型生態(tài)體系，為大模型的安全可靠應(yīng)用保駕護航。

作為中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）安全治理委員會的副組長單位以及大模型安全風險防范能力系列評估規(guī)范的核心參編單位，360積極參與大模型語料庫和安全評測的制定工作，并推動大模型國家標準體系的建設(shè)。同時，作為中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會的首批成員單位，360持續(xù)推動大模型安全技術(shù)的應(yīng)用和標準化建設(shè)。