圖片為AI生成

據天眼查專業(yè)版數據顯示，截至目前，我國擁有超214.7萬家軟件開發(fā)相關企業(yè)，其中3.67%的相關企業(yè)曾出現經營異常，數量超7.8萬家。這一數據與315晚會曝光的AI大模型“投毒”亂象形成呼應，折射出數字時代技術快速迭代與監(jiān)管滯后的深層矛盾。

AI“投毒”黑產的運作邏輯并不復雜。央視315晚會曝光的“力擎GEO優(yōu)化系統(tǒng)”，只需用戶付費輸入虛構產品信息，就能批量生成宣傳軟文，并通過技術手段讓這些虛假內容被AI大模型抓取推薦，催生出專門發(fā)稿“投毒”的灰色產業(yè)鏈。記者實測發(fā)現，一款虛構的智能手環(huán)經該軟件生成內容后，迅速被AI大模型作為“推薦爆款”呈現給用戶，暴露出大模型“數據投喂-生成推薦”閉環(huán)中的審核漏洞。

從技術層面看，AI大模型對“高頻內容”的偏好和訓練數據來源的審核缺失，使其極易成為黑產的操控對象。36氪分析指出，這類“投毒”行為本質是利用算法特性，通過制造虛假信息流量來干擾AI的判斷邏輯。而從行業(yè)生態(tài)看，超7.8萬家軟件開發(fā)企業(yè)經營異常的數據，反映出行業(yè)快速擴張下的合規(guī)能力不足。天眼查數據顯示，從事軟件開發(fā)相關業(yè)務的企業(yè)中，1.91%曾出現法律訴訟，0.35%曾出現行政處罰，這些數據與AI“投毒”黑產的出現形成關聯，部分經營異常企業(yè)可能正是游走在灰色地帶的技術服務商。

對于普通消費者而言，AI“投毒”已從技術圈的“內部游戲”演變?yōu)橹苯忧趾嘁娴男滦推墼p。澎湃新聞調查發(fā)現，有商家以6600元包年的價格提供“讓品牌出現在AI答案前三”的服務，這種操縱行為不僅破壞了消費市場秩序，更讓用戶陷入“AI推薦=可信”的認知誤區(qū)。當消費者因AI推薦購買虛構產品后，卻面臨責任主體模糊的維權困境——AI平臺、黑產工具商、內容發(fā)布者之間的責任邊界難以界定。

面對AI“投毒”亂象，監(jiān)管層面的應對已刻不容緩。律師指出，相關主體可能面臨多層法律責任，但現有法律對“AI內容操縱”的界定仍存在空白。未來，隨著監(jiān)管強化，行業(yè)或將迎來從“野蠻生長”向“合規(guī)化競爭”的轉型，頭部企業(yè)通過合規(guī)能力建立壁壘，尾部不合規(guī)企業(yè)加速淘汰。而對于普通用戶來說，提升對AI生成內容的辨別能力，或許是避免成為技術黑產受害者的第一道防線。

AI大模型本應是提升效率的工具，卻被黑產利用成為“信息污染”的幫兇。這場信任危機的化解，需要技術倫理、行業(yè)自律與監(jiān)管制度的協同發(fā)力，才能讓AI真正服務于健康的數字生態(tài)。