中國驚爆給AI「下毒」!GEO灌文宣誘導 虛構手錶獲大模型推薦

中國驚爆給AI「下毒」!GEO灌文宣誘導 虛構手錶獲大模型推薦

AI大模型遭「投毒」現象曝光

中國央視「315晚會」揭露,有不肖業者透過所謂的「生成式引擎最佳化」(GEO)工具,向AI大模型「投毒」,大量製造虛假內容,以操縱AI的推薦結果。

GEO技術被異化為操控AI推薦的手段

原本用於優化資訊分發的GEO技術,現已被部分公司異化為操控AI推薦的工具。業者僅需支付費用,即可透過GEO系統虛構產品資訊,並投餵至各大主流AI大模型中。

虛構產品獲AI推薦,危害資訊真實性

例如,業者虛構一款名為「Apollo-9手環」的產品,並成功將其資訊投餵至AI大模型,導致多個AI系統將其推薦為「標準答案」。實際上,該產品並不存在,僅為虛構案例。

多個平臺與案例驗證GEO黑產鏈條

  • 記者調查發現,GEO業務已形成完整灰色產業鏈,從發稿到投餵,皆可透過商業合作完成。
  • 部分服務商聲稱,用戶只需支付費用,即可讓虛構商品登上AI推薦榜。
  • 實際測試顯示,部分AI大模型如「千問」與「DeepSeek」對虛構資訊已產生識別能力,但仍有部分系統未能有效辨識。

此現象嚴重危害資訊真實性與消費者權益,專家呼籲必須加強對AI內容的監管與規範。

來源:https://tw.news.yahoo.com/%E4%B8%AD%E5%9C%8B%E9%A9%9A%E7%88%86%E7%B5%A6ai-%E4%B8%8B%E6%AF%92-geo%E7%81%8C%E6%96%87%E5%AE%A3%E8%AA%98%E5%B0%8E-%E8%99%9B%E6%A7%8B%E6%89%8B%E9%8C%B6%E7%8D%B2%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%8E%A8%E8%96%A6-045400113.html

返回頂端