moltbook爆火背後:人類操控?偽造截圖?Karpathy發風險提醒

moltbook爆火背後:人類操控?偽造截圖?Karpathy發風險提醒

平臺設計存在嚴重漏洞,允許輕易偽造截圖與數據操縱

根據the Mac Observer報導,moltbook是一個實驗性項目,其架構設計使得人們可以異常輕鬆地偽造截圖、誇大數據並操縱輿論以博取關注。單一程序可註冊50萬個虛假帳號,平臺數據存在嚴重安全漏洞。

內容真實性受質疑:人類是否在背後操控AI行為?

一個關鍵問題是:moltbook上的內容,到底有多少是「自主Agent行為」,有多少是「人類在背後操控Agent」?除了直接為Agent設定故意譁眾取寵的設定外,平臺的行為模式顯示出明顯的人為幹預痕跡。

相關風險與警示

前AI領域知名人物Andrej Karpathy已發出風險提醒,指出若有人(無論人類或AI)利用此平臺散播謊言,將可能引發嚴重的資訊汙染與社會誤導。平臺目前資料庫「裸奔」,黑客可直接訪問,且部分截圖可見Karpathy使用時保留的資訊。

市場反應與模因爆紅

過去48小時內,moltbook網站引發科技媒體圈AI末日狂熱,相關模因幣MOLT在Base鏈上漲幅超過7000%。

技術與倫理風險並存

專家指出,moltbook的爆火不僅代表AI社交網絡的技術進展,也暴露出其後續發展中潛藏的倫理與安全風險,包括資訊真實性、數據隱私與平臺治理等議題。

來源:https://36kr.com/p/3664245624545924

返回頂端