「隨機鸚鵡」與放大器:3·15曝光AI投毒背後的信息汙染

「隨機鸚鵡」與放大器:3·15曝光AI投毒背後的信息汙染

AI大模型被「投毒」亂象被央視3·15晚會曝光

央視3·15晚會揭露了AI大模型被「投毒」的亂象,指出部分公司濫用生成式引擎優化(GEO)技術,批量生產虛假內容,導致信息環境嚴重惡化。

GEO技術被濫用,成為虛假內容的生產工具

生成式引擎優化(GEO)技術被一些公司濫用於批量生成虛假信息,這些內容通過算法放大器迅速傳播,形成信息汙染。GEO技術在廣告與推薦系統中被用於操控用戶行為,引發公眾對信息真實性的擔憂。

信息汙染規模擴大,成本降低

研究表明,AI時代的信息汙染規模更大、成本更低,且傳播速度遠超傳統媒體。虛假內容可被快速生成並廣泛分發,使公眾難以分辨真實與虛假,形成「概率真相」時代。

公眾需提高信息辨別能力

面對AI投毒與信息汙染,專家呼籲公眾提升信息辨別能力,建立更健全的監管機制,以應對去中心化虛擬環境中信息的真實性挑戰。

來源:https://www.huxiu.com/article/4843312.html

返回頂端