觀點:AI自主代理“集群”或加劇平臺輿論操控風險

觀點:AI自主代理“集群”或加劇平臺輿論操控風險

研究指出AI集群可偽裝真人行為並跨平臺協同操縱輿論

多國高校與科研機構研究人員在《Science》發表論文警告,未來線上“影響力行動”正從易識別的簡單水軍/殭屍網絡,演變為由大量自主AI agents組成的“swarms(集群)”,可在較少人工干預下協同操縱輿論。

AI集群具備跨賬號與跨平臺自適應能力

此類AI集群能偽裝真人行為、跨賬號和跨平臺自適應調整話術,並在長週期持續營造特定敘事,使現有主要針對垃圾內容與單點違規的風控與審核難以有效識別。

平臺現有風控機制存在明顯不足

學者指出,平臺目前在身份驗證、賬號濫用監控以及對異常協同行為的透明度和外部審計方面均存在明顯不足,單純依賴內容審核難以構成有效防線。

相關資訊來源

來源:https://www.panewslab.com/zh/articles/019c7ba2-2165-76fd-9c35-b800352f32b2

返回頂端