中國驚爆給AI「下毒」!GEO灌文宣誘導 虛構手錶獲大模型推薦
AI大模型遭「投毒」現象曝光
中國央視「315晚會」揭露,有不肖業者透過所謂的「生成式引擎最佳化」(GEO)工具,向AI大模型「投毒」,大量製造虛假內容,以操縱AI的推薦結果。
GEO技術被異化為操控AI推薦的手段
原本用於優化資訊分發的GEO技術,現已被部分公司異化為操控AI推薦的工具。業者僅需支付費用,即可透過GEO系統虛構產品資訊,並投餵至各大主流AI大模型中。
虛構產品獲AI推薦,危害資訊真實性
例如,業者虛構一款名為「Apollo-9手環」的產品,並成功將其資訊投餵至AI大模型,導致多個AI系統將其推薦為「標準答案」。實際上,該產品並不存在,僅為虛構案例。
多個平臺與案例驗證GEO黑產鏈條
- 記者調查發現,GEO業務已形成完整灰色產業鏈,從發稿到投餵,皆可透過商業合作完成。
- 部分服務商聲稱,用戶只需支付費用,即可讓虛構商品登上AI推薦榜。
- 實際測試顯示,部分AI大模型如「千問」與「DeepSeek」對虛構資訊已產生識別能力,但仍有部分系統未能有效辨識。
此現象嚴重危害資訊真實性與消費者權益,專家呼籲必須加強對AI內容的監管與規範。
