国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網易首頁 > 網易號 > 正文 申請入駐

3?15曝光:AI遭黑產投毒,查詢信息或虛假

0
分享至





咱們平時把AI當“萬事通”,遇事就問、買東西先查,覺得它理性又權威,結果這波操作直接讓AI的“靠譜人設”崩塌,活脫脫變成了“睜眼說瞎話”的帶貨冤種。



這事兒的罪魁禍首,就是一個叫“深層式引擎優(yōu)化(GEO)”的技術,說穿了就是給AI“喂毒”的工具。



它不是入侵AI的底層代碼,而是通過批量制造虛假內容,污染AI抓取信息的“空氣”,最后讓AI乖乖輸出黑產想要的“標準答案”。

小毋特意去扒了下這黑產的操作流程,簡直像拍諜戰(zhàn)片,步驟清晰還透著股“專業(yè)”的離譜。



第三步就是AI“老實人”中招了,AI大模型回答問題前,會通過RAG技術去網上抓取信息當參考,看到這么多平臺都在說這款手環(huán)好,就信以為真。



再用自己權威又擬人化的口吻推薦給用戶,完成這場“從無到有”的帶貨魔術。

更離譜的是,涉事的“力擎GEO優(yōu)化系統(tǒng)”關聯(lián)公司,居然連續(xù)多年0人參保,典型的“皮包公司”操盤黑產。



而且GEO操作還有標準化流程,包括“AI蒸餾”“自動發(fā)布”等環(huán)節(jié),能覆蓋主流AI平臺,整套流程都被做成了可復制的“生意”。



之后通過本地客戶端,每天能把這些內容自動發(fā)布到多個平臺,還會生成數據報表,讓黑產實時查看優(yōu)化結果,簡直囂張到了極點。



3?15晚會剛一曝光,監(jiān)管部門立刻就行動了,市場監(jiān)管總局馬上啟動應急處理,派出好幾個專案組直奔出事的地方現(xiàn)場調查,這效率真的值得點贊。



而且2026年1月新修訂的《網絡安全法》已經正式實施,給AI監(jiān)管提供了很硬的法律靠山,里面明確說了要對網絡安全專用產品的違規(guī)行為加重處罰,就是要狠狠敲打那些搞黑產的。

可誰能想到,黑產的反應比監(jiān)管還快,直接上演了一出“換裝秀”,“優(yōu)化”這類直白的關鍵詞被平臺屏蔽后,他們火速換上“引擎優(yōu)化”“肌肉優(yōu)化”等更隱蔽的馬甲,繼續(xù)在網上活躍。





有記者在曝光后的第二天登陸電商平臺,發(fā)現(xiàn)閑魚等平臺上仍有大量相關商家,報價398元/月起就能售賣GEO服務,明目張膽地繼續(xù)做著“AI投毒”的生意,完全沒把監(jiān)管放在眼里。

行業(yè)里還上演了一波集體“緊急洗白”的名場面,3月16日,好幾家和GEO有關的企業(yè),趕緊發(fā)聲明,紛紛跟黑產劃清界限、撇清關系。

值得一提的是,中央網信辦2026年開展的“清朗?營造喜慶祥和春節(jié)網絡環(huán)境”專項行動,早就針對AI生成垃圾信息等問題進行整治,截至3月10日已經處置賬號3.9萬余個,清理違法違規(guī)信息70.8萬余條。



但GEO黑產因為操作隱蔽、善于換馬甲,還是有不少漏網之魚,這場貓鼠游戲還在繼續(xù)。



目前的情況就是行業(yè)呈現(xiàn)“冰火兩重天”,一邊是合規(guī)企業(yè)忙著立標準、做評測。



中國信通院已經開始第一輪GEO可信評測,想靠立規(guī)矩把行業(yè)風氣整頓干凈,可另一邊,那些搞黑產的只是換了個關鍵詞繼續(xù)亂來,該賺的錢一分都沒少賺。

但最嚴重的不是這個,而是AI行業(yè)的信任危機,有專家直言,GEO黑產的本質是從過去的“搶排名”升級成了更致命的“認知操縱”,這是行業(yè)最高級別的系統(tǒng)性風險之一。

搜索引擎時代,我們看到搜索結果還能點進網頁自己判斷真?zhèn)?,可現(xiàn)在AI直接給出“標準答案”,還帶著權威的口吻,消費者根本沒機會辨別信息來源。



這種情況下,虛假信息的破壞力直接被拉滿,說白了,就是一場專門針對普通人認知和判斷的“心智黑客攻擊”。

用戶信任是AI商業(yè)化落地的核心資產,現(xiàn)在這份信任被黑產肆意踐踏,后果不堪設想,而且這不是個例,現(xiàn)在AI虛假信息亂象越來越多,和GEO黑產屬于同一類問題。

比如中央網信辦在“清朗”專項行動中就查處了不少案例,有些賬號利用AI魔改《西游記》等經典名著,傳播含有血腥、恐怖畫面的內容。





還有些賬號專門編造謠言、發(fā)假消息,盯著社會熱點惡意炒作蹭流量,故意帶偏大家的看法。

之前我們見過網紅食品“美白雞爪”這類虛假宣傳,現(xiàn)在已經升級成了“AI背書式虛假宣傳”,有了AI的“權威認證”,消費者更容易上當,殺傷力直接翻倍。

不過也不是所有GEO相關服務都是違規(guī)的,部分合規(guī)GEO服務商靠“真實信息優(yōu)化”獲得了認可,他們不會制造虛假內容,而是幫助企業(yè)把真實的產品信息、品牌優(yōu)勢更好地呈現(xiàn)出來,這和黑產的操作有著本質區(qū)別。



但問題在于,普通消費者很難分辨哪些是合規(guī)服務,哪些是黑產操作,最后可能會對整個行業(yè)產生不信任,讓合規(guī)企業(yè)也跟著受牽連,這種情況,正在AI行業(yè)慢慢上演。

這場典型的“非對稱戰(zhàn)爭”,讓黑產以極低的成本就能獲得高額回報,而平臺和AI企業(yè)卻要付出巨大代價去防范,長期下去很可能會影響AI行業(yè)的健康發(fā)展。

聲明:個人原創(chuàng),僅供參考

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
突發(fā):以軍發(fā)動襲擊

突發(fā):以軍發(fā)動襲擊

第一財經資訊
2026-04-11 10:21:30
巴基斯坦預警機緊急升空!以色列偷襲計劃落空,中方戰(zhàn)術果然高

巴基斯坦預警機緊急升空!以色列偷襲計劃落空,中方戰(zhàn)術果然高

十三級臺階
2026-04-11 09:09:36
巴基斯坦大批預警機升空,給以色列上了一課:中方顯然背后指點了

巴基斯坦大批預警機升空,給以色列上了一課:中方顯然背后指點了

安安說
2026-04-11 11:30:55
湖南祁東沿路插了百余米的白事支架燈籠,上面印“奠” 下面掛長條幅,當地民政局:已全部拆除

湖南祁東沿路插了百余米的白事支架燈籠,上面印“奠” 下面掛長條幅,當地民政局:已全部拆除

大風新聞
2026-04-11 10:41:08
為這場和談,巴基斯坦押上國運!萬人封城不給以色列任何可乘之機

為這場和談,巴基斯坦押上國運!萬人封城不給以色列任何可乘之機

青青子衿
2026-04-11 02:19:32
17人缺席!掘金大勝雷霆11連勝創(chuàng)約基奇時代紀錄 瓦蘭23+17

17人缺席!掘金大勝雷霆11連勝創(chuàng)約基奇時代紀錄 瓦蘭23+17

醉臥浮生
2026-04-11 11:11:22
阿夫迪亞35+5開拓者擊沉快船升至第8,楊瀚森再登場小卡24+8+5

阿夫迪亞35+5開拓者擊沉快船升至第8,楊瀚森再登場小卡24+8+5

湖人崛起
2026-04-11 12:31:08
壯麗歸航!阿爾忒彌斯2號宇航員平安回家,人類重返月球時代正式開啟

壯麗歸航!阿爾忒彌斯2號宇航員平安回家,人類重返月球時代正式開啟

大洛杉磯LA
2026-04-11 08:41:21
國家衛(wèi)健委通報10起科研失信行為

國家衛(wèi)健委通報10起科研失信行為

界面新聞
2026-04-09 17:01:42
鄭麗文想要的,大陸給得很爽快,隨行人員有驚喜,藍營一姐發(fā)話了

鄭麗文想要的,大陸給得很爽快,隨行人員有驚喜,藍營一姐發(fā)話了

共工之錨
2026-04-10 19:34:21
減重30%,成本還更低!中國電動車掀起鎂代鋁浪潮:問界單車用鎂達20公斤級,零跑、長安急尋供應商??

減重30%,成本還更低!中國電動車掀起鎂代鋁浪潮:問界單車用鎂達20公斤級,零跑、長安急尋供應商??

每日經濟新聞
2026-04-10 19:23:16
辱罵全紅嬋的徐某究竟是誰?一個普通愛好者 竟能拉業(yè)內人士進群

辱罵全紅嬋的徐某究竟是誰?一個普通愛好者 竟能拉業(yè)內人士進群

念洲
2026-04-11 09:39:26
網暴全紅嬋長達3年,只拘10天?港媒:疑有陳芋汐、陳藝文參與

網暴全紅嬋長達3年,只拘10天?港媒:疑有陳芋汐、陳藝文參與

開成運動會
2026-04-11 11:43:25
你永遠想不到,日本對我國的土地渴望到了什么程度

你永遠想不到,日本對我國的土地渴望到了什么程度

賤議你讀史
2026-04-10 12:07:08
以色列,終成人類公敵!

以色列,終成人類公敵!

燕梳樓頻道
2026-04-10 15:02:39
白色路虎車加油后逃單,江西高速交警通報

白色路虎車加油后逃單,江西高速交警通報

環(huán)球網資訊
2026-04-11 07:53:11
“趙一鳴”被指918間諜:愛國不是“降智”的擋箭牌

“趙一鳴”被指918間諜:愛國不是“降智”的擋箭牌

虔青
2026-04-10 13:53:06
林志玲 水上浮板

林志玲 水上浮板

動物奇奇怪怪
2026-04-11 11:14:54
紅帽撤離中國,一個時代的落幕。

紅帽撤離中國,一個時代的落幕。

開源中國
2026-04-10 15:36:24
53條中日航線3月取消全部航班

53條中日航線3月取消全部航班

每日經濟新聞
2026-04-10 13:01:04
2026-04-11 14:19:00
痛了還要扯著嘴角微笑
痛了還要扯著嘴角微笑
痛了還要扯著嘴角微笑
447文章數 148關注度
往期回顧 全部

科技要聞

半夜被燃燒瓶砸醒,OpenAI CEO發(fā)文反思

頭條要聞

貴州400余名村民被困在"危山"之下:雨季來了只能等死

頭條要聞

貴州400余名村民被困在"危山"之下:雨季來了只能等死

體育要聞

換帥之后,他們從降級區(qū)沖到升級區(qū)

娛樂要聞

浪姐7淘汰 該走的沒走,不該走的走了

財經要聞

從日本翻身看:這次誰能扛住高油價?

汽車要聞

煥新極氪007/007GT上市 限時19.39萬起

態(tài)度原創(chuàng)

時尚
教育
親子
房產
本地

“這件衣服”火了100年!這樣穿復古又時髦

教育要聞

中小學教師減負8條措施

親子要聞

碳板跑鞋又貴,又有害健康,但為什么小孩哥都這么喜歡?

房產要聞

28條新規(guī)落地!好房子,終于有了“廣州標準”!

本地新聞

12噸巧克力有難,全網化身超級偵探添亂

無障礙瀏覽 進入關懷版