北京
每天分享科技熱點！
谷歌AI聊天機器人Gemini近日遭遇大規(guī)模“蒸餾攻擊”，攻擊者通過高頻次重復提問試探其輸出邏輯，試圖逆向解析模型內部機制以復制或強化自身AI系統(tǒng)。
據(jù)谷歌披露，單次攻擊活動已產生超10萬次提示交互，主要發(fā)起方為具有商業(yè)動機的私營企業(yè)或研究機構，意圖通過知識蒸餾獲取競爭優(yōu)勢。
谷歌威脅情報團隊指出，此類攻擊本質是知識產權盜竊行為，因大語言模型開發(fā)耗資巨大，其核心算法被視為核心資產。盡管企業(yè)已部署防御機制，但開放訪問特性使模型仍易受攻擊。
專家警告，隨著定制化企業(yè)級AI工具普及，若模型嵌入敏感數(shù)據(jù)，攻擊危害將顯著擴大——例如包含百年交易經驗的模型可能被逐步提取關鍵決策邏輯。當前攻擊規(guī)模已暴露行業(yè)風險，小型企業(yè)定制工具或成下一波攻擊目標。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
