Anthropic 最危險的 AI 模型 Mythos 已落入錯誤之人的手中

事件概述

據彭博社報導，Anthropic 公司開發的強大網路安全工具「Mythos AI 模型」已被一小群未經授權的使用者存取。該模型被公司描述為若落入錯誤之人的手中可能產生危險。

未經授權的存取者

一名匿名成員，僅被識別為「Anthropic 的第三方承包商」，向媒體透露，該群體成員來自一個私人的線上論壇。他們獲得了對該模型的存取權，這引發了對模型安全性與潛在風險的擔憂。

模型特性與潛在風險

Mythos Preview 是一個新的通用模型，具備識別與利用「各大作業系統中的漏洞」的能力。由於其強大的功能，Anthropic 公司擔心若公開釋放，可能會引發災難性的攻擊，因此決定暫時不向公眾開放。

公司反應

Anthropic 公司表示，由於擔心該模型若落入錯誤之人的手中會引發災難性攻擊，他們將不會向公眾釋放此新工具。此舉引發了關於 AI 模型安全性與公開性的廣泛討論。