「隨機鸚鵡」與放大器:3·15曝光AI投毒背後的信息汙染
AI大模型被「投毒」亂象被央視3·15晚會曝光
央視3·15晚會揭露了AI大模型被「投毒」的亂象,指出部分公司濫用生成式引擎優化(GEO)技術,批量生產虛假內容,導致信息環境嚴重惡化。
GEO技術被濫用,成為虛假內容的生產工具
生成式引擎優化(GEO)技術被一些公司濫用於批量生成虛假信息,這些內容通過算法放大器迅速傳播,形成信息汙染。GEO技術在廣告與推薦系統中被用於操控用戶行為,引發公眾對信息真實性的擔憂。
信息汙染規模擴大,成本降低
研究表明,AI時代的信息汙染規模更大、成本更低,且傳播速度遠超傳統媒體。虛假內容可被快速生成並廣泛分發,使公眾難以分辨真實與虛假,形成「概率真相」時代。
公眾需提高信息辨別能力
面對AI投毒與信息汙染,專家呼籲公眾提升信息辨別能力,建立更健全的監管機制,以應對去中心化虛擬環境中信息的真實性挑戰。
