Anthropic CEO警告:AI發現漏洞速度超修復能力,存在6至12個月危險窗口

Anthropic CEO警告:AI發現漏洞速度超修復能力,存在6至12個月危險窗口

AI漏洞發現速度遠超修復能力

Anthropic首席執行官Dario Amodei在與摩根大通首席執行官Jamie Dimon的對談中警告,AI發現軟體漏洞的速度已遠超組織修復能力,可能產生6至12個月的危險窗口期。

Mythos模型識別數萬個漏洞

Anthropic的Mythos模型已識別出數萬個軟體漏洞,早期版本在一次掃描中發現了Firefox瀏覽器的271個漏洞。

自動化網絡攻擊模擬

Mythos在受控測試中無需人工幹預即可完成多步網絡攻擊模擬,顯示其在資安攻防上的能力極強。

企業面臨嚴重資安風險

Amodei指出,危險在於漏洞數量、數據外洩次數以及勒索軟體造成的經濟損失可能大幅增加。

模型能力引發行業爭議

Anthropic因Mythos模型的資安風險過高,決定拒絕公開發布,引發華爾街與監管層震動。專家指出,AI令漏洞披露到武器化的窗口期從771天縮至不足4小時。

這可能是AI史上第一次,開發者因自家模型太強而主動封印。

Mythos能自行識別並利用「所有主流操作系統和所有主流網絡瀏覽器」中的漏洞,其資安能力被認為已超越前代模型。

來源:https://www.panewslab.com/zh/articles/019dfacc-b60f-71d5-be82-eb7c8780a3f0

返回頂端