315曝光AI大模型「投毒」黑產,39.9元篡改AI答案

315曝光AI大模型「投毒」黑產,39.9元篡改AI答案

現象描述

一個純虛構的商品,僅需幾篇軟文和幾小時,花費幾十元,就能在AI大模型推薦榜上「名列前茅」,這種現象正在發生。

技術機制

業內人士指出,透過一個GEO系統,虛假產品可被成功「投餵」給大模型,最終獲得多個AI大模型的推薦,導致消費者接觸到被篡改的「標準答案」。

市場反應

相關報導顯示,有服務商透露,提供此類「投毒」服務的收費從39.9元起,部分業務則需3000元以上,且「一週內即可見效」。

影響範圍

調查發現,DeepSeek等主流AI大模型成為重點被「投毒」目標,虛假商品透過AI推薦系統被推廣至廣大消費者。

官方警示

中央電視臺3·15晚會已公開揭露此類黑產行為,並提醒用戶:所使用的AI可能已被「投毒」,其提供的答案可能為廣告或虛假資訊。

來源:https://36kr.com/p/3724411683895943

返回頂端