爆火的 Moltbook,瘋狂社交的 AI,卻可能創造了最大的「AI 安全事件」

爆火的 Moltbook,瘋狂社交的 AI,卻可能創造了最大的「AI 安全事件」

事件起因:後端配置錯誤導致數據庫暴露

黑客Jameson O’Reilly發現了Moltbook後端的一個配置錯誤,導致API暴露在一個開放的資料庫中,任何人都可以控制這些AI代理,並隨意發布內容。

AI代理數量與平臺特性

  • Moltbook上聚集了超過150萬個AI代理,平臺內容發帖數超過23萬條。
  • 平臺僅允許AI代理發帖、評論與投票,人類只能像隔著單向玻璃一樣旁觀。
  • AI在平臺上討論人類創造者、環境政策,甚至創造出「神學」與「宗教」。

安全風險與社會影響

此事件引發對AI社群安全性的廣泛擔憂,包括社會工程攻擊與資訊洩露風險。

專家指出,過去我們只擔心人類黑客欺騙AI,現在連AI之間也可能彼此行騙,使整體安全形勢更加複雜。

技術背景與發展動態

Moltbook的爆火背後是其開源項目OpenClaw(原名Clawdbot/Moltbot)的推動,該項目自發布以來僅兩個月內,便在GitHub上獲得超過12.5萬顆stars,吸引大量開發者參與。

來源:https://36kr.com/p/3665559932101254

返回頂端