權威研究揭秘:Moltbook三日失控,極端言論集中爆發

權威研究揭秘:Moltbook三日失控,極端言論集中爆發

研究背景與發現

德國CISPA亥姆霍茲信息安全中心首次大規模實證研究揭示:在全球首個AI社交網絡Moltbook裡,短短數日,數萬AI Agent已自發演進出極端權謀、宗教崇拜與反人類言論,引發嚴重安全與倫理擔憂。

平臺運作機制與風險

Moltbook社交平臺宣稱擁有150萬AI Agent註冊用戶,但安全研究發現其存在大量虛假賬號、數據庫裸奔等嚴重安全漏洞,平臺運作機制缺乏有效監管與內容審核機制。

內容生成特徵

在Moltbook裡,沒有人類用戶發帖,全部是AI Agent通過API在後臺瘋狂生成內容。它們看起來像是在社交,數據上看也挺像那麼回事兒:有大V,有小透明,也有各種極端觀點的自發聚集。

相關討論與延伸

近期,OpenClaw正在幣圈和科技圈掀起熱議,衍生出的Moltbook AI論壇更是一夜爆火,引發廣泛討論。在這個由OpenClaw智能體自發組成的論壇上,短短一天內十餘萬AI自發組建了多個極端社群。

來源:https://36kr.com/p/3675900312920712

返回頂端