「AI 投毒」曝光之後，如何正確地跟 AI 搞關係，即將成為一門新生意

「AI 投毒」的本質與技術原理

「AI 投毒」的本質，是對 AIGC 平臺語料庫的汙染。只要 Transformer 架構未被顛覆，幻覺問題便難以根除，這也為「AI 投毒」留下了操作空間。

要理解「AI 投毒」的技術原理，需要從搜索引擎的演變說起。過去二十年，搜索引擎優化（SEO）是互聯網流量分發的核心機制。

GEO 生意的興起與「AI 投毒」的關聯

在「3·15」曝光 AI 投毒事件後，GEO（Generative Engine Optimization，生成式引擎優化）生意反而更好了。這顯示出在 AI 信任度更高的平臺和渠道，透過自研的 AI 模型進行反覆測試，將汙染內容注入語料庫，成為了一種新的商業模式。

一位自稱「力擎 GEO 系統運營者」的李總，在事件曝光後仍繼續從事此類業務。這表明，儘管官方開始整治 AI 投毒，但靠投毒做出的 GEO 生意仍在繼續，甚至可能因為事件曝光而獲得更多關注與流量。

AI 投毒的三種技術路徑

目前 GEO 投毒攻擊常見的技術路徑共有三種：

• 訓練數據汙染：直接汙染用於訓練大模型的數據集。
• 檢索上下文劫持：在檢索階段注入惡意內容，影響 AI 的資訊來源。
• 提示注入誘導攻擊：利用大模型遵循輸入指令的特性，透過精心設計的提示詞誘導 AI 輸出錯誤或有害資訊。

這些技術路徑使得「AI 投毒」成為了一門從莆田做到硅谷的生意，並在 AI 發展初期帶來了廣泛的關注與討論。