簡要概述
- 據 Bloomberg 報導，美國官員警告主要銀行，與 Anthropic 的 Mythos AI 模型相關的資安風險。
- 據稱，該系統能識別並利用作業系統與瀏覽器中的漏洞。
- 當 Anthropic 評估潛在的安全風險時，已對該模型的存取進行限制。
據稱，美國財政部長 Scott Bessent 與聯邦準備理事會（Federal Reserve）主席 Jerome Powell 先前這週召集了一場會議，與華爾街銀行的執行長（CEO）們會面，警告與 Anthropic 一款新型人工智慧模型相關的資安風險。
根據 Bloomberg 的報導，這場會議包含來自花旗集團（Citigroup）、美國銀行（Bank of America）、富國銀行（Wells Fargo）、摩根士丹利（Morgan Stanley）以及高盛（Goldman Sachs）的高階主管。
官員們討論了 Anthropic 新的 AI 模型 Mythos，該模型近期因其似乎具備進階的資安能力而引發廣泛關注。
官員召集這場會議，是為了確保銀行理解由能夠在作業系統與網頁瀏覽器間辨識並利用軟體漏洞的系統所帶來的風險，並鼓勵機構強化針對潛在、由 AI 協助的網路攻擊之防禦，攻擊目標則是金融基礎設施。
資安研究人員警告，能夠自動發現漏洞的工具若被濫用，將可能加速防禦性資安工作與惡意駭客行動兩者的進展。
Anthropic 的 Mythos 模型於 3 月首次在線上浮出水面，當時關於該系統的草稿材料外洩，使人得以看見該公司所稱其迄今最具能力的 AI 模型。
在測試中，據稱該系統找到了數千個先前未知的軟體漏洞，其中包括針對主要作業系統與網頁瀏覽器的零日漏洞（zero-day flaws）。
Anthropic 的研究人員在本週早些時候的一份報告中表示，Mythos Preview 的漏洞發現能力並非被刻意訓練，而是源自模型在程式碼、推理與自主性等更廣泛的改進所導致。
「讓模型在修補漏洞方面變得實質更有效的相同改進，也同時讓它在利用這些漏洞方面變得實質更有效，」該公司寫道。
由於具備這些能力，Anthropic 已限制該模型僅供少數資安機構存取。
「鑑於其能力之強，我們在釋出方式上會保持審慎，」Anthropic 在一份聲明中表示。「如同產業內的通行做法，我們正與一小群早期存取的客戶合作，以測試該模型。我們認為這個模型是一個顯著的跳躍式進展，也是我們迄今打造出的最具能力的模型。」
為了因應這項風險，Anthropic 正透過 Project Glasswing 測試 Mythos；該計畫是與大型科技與資安公司合作的一項計畫，利用該模型在攻擊者尚未能夠利用之前，辨識並修補關鍵軟體中的漏洞。
「Project Glasswing 是一個起點。沒有任何一家機構能單獨解決這些資安問題，」該公司在一份聲明中表示。「來自全球的前沿 AI 開發者、其他軟體公司、資安研究人員、開源維護者以及政府，都扮演著不可或缺的角色。」
Anthropic 尚未立即回應 Decrypt 的評論請求。
