美國政府週五發布一項緊急出口管制指令,要求 Anthropic 立即暫停其兩款最強大的 AI 模型——Claude Fable 5 和 Claude Mythos 5——供所有外國公民使用,理由是其在潛在越獄(jailbreak)漏洞方面的國家安全疑慮。該指令禁止外國公民在美國境內或境外存取這些模型,迫使 Anthropic 為了確保符合要求,將其對整個客戶群停用這兩個模型。兩款模型都在幾天前剛推出,其中 Mythos 5 因其在發現資安漏洞方面的能力,只提供給特定合作夥伴。
政府指令暫停 Claude Fable 5 與 Claude Mythos 5 存取
週五發布的緊急出口管制指令禁止任何外國公民存取 Claude Fable 5 與 Claude Mythos 5,不論是在美國境內或境外。該命令的範圍之廣,迫使 Anthropic 為了確保合規而停用其整個客戶群中的這些模型。
該信函未提供其國家安全疑慮的具體細節,但政府相信它已掌握一種繞過,或稱「越獄」(jailbreaking),公開可用的 Fable 5 模型的方法。Mythos 5 具有較少的護欄,且特別擅長發現資安漏洞,因此僅提供給特定合作夥伴。
其他所有 Anthropic 模型的存取不會受到影響。該公司表示,正在盡快恢復存取。
Anthropic 爭議越獄嚴重性之發現
Anthropic 對該項發現的嚴重程度提出爭議。該公司表示,其已審查該技術的示範,並認定所識別的漏洞看起來相對簡單,且其他公開可用的模型也能在不需要任何繞過的情況下找出這些漏洞。
該公司表示,迄今政府僅提供口頭證據,指稱可能存在一種狹義、非通用的越獄——本質上是要求模型閱讀特定程式碼庫並修正任何軟體缺陷。Anthropic 進一步表示,它已驗證所展示的能力層級其實已廣泛存在於競爭模型之中,包括 OpenAI 的 GPT-5.5。
在遵循該指令的同時,Anthropic 表示它認為此舉會形成危險的先例。「如果這一標準被套用到整個產業中,」該公司在文中寫道,「我們相信它將本質上叫停所有前沿模型供應商的所有新模型部署。」
David Sacks 詳述政府對停用的立場
週六,David Sacks——總統科技顧問委員會(President's Council of Advisers on Science and Technology)的共同主席——在 X 發文稱,「一位同時是 Anthropic 與美國政府的高度可信合作夥伴、且正在測試 Fable 的人,提出了針對那些護欄的越獄(jailbreak)。行政部要求[Anthropic 執行長 Dario Amodei]修復該越獄,或將該模型退部署(de-deploy)。Dario 拒絕。」
Sacks 也進一步宣稱,Anthropic 對政府請求的反應違背了該公司就 AI 安全與監管所做出的公開主張——而 Amodei 本週也再次在一篇部落格文章中分享了這種觀點。
「Anthropic 把持續提供消費者模型放在安全之前,」Sacks 寫道。「作為反應,行政部發布了出口管制。行政部是出於不情願才這麼做的。我們也非常驚訝於 Anthropic 似乎並不想配合一項合理的安全請求(也就是修復越獄問題)。Anthropic 的反應與其作為安全 AI 研究社群的品牌與理念大相逕庭。」
Sacks 還補充說,政府希望 Anthropic 能修正該問題,並讓 Fable 5 回到公開發布。「行政部重視 Anthropic 的技術能力,並認為,儘管這個問題很嚴重,但應該很容易解決,」他寫道。「皮球在 Anthropic 這邊。」
Anthropic 與美國政府之間先前的緊張局勢
今年稍早,當 Anthropic 與美國政府就一家 AI 公司拒絕簽署一份擴大協議一事發生正面衝突時,兩者就曾槓上。該協議允許對美國境內民眾進行大規模監控,以及完全自主的致命武器系統。
在會談破裂後,總統 Donald Trump 對該公司進行抨擊,而國防部則將 Anthropic 標示為「供應鏈風險」(supply chain risk)——這項標示該公司已向法院提出挑戰。自那以來,也有報導指出,隨著政府試圖使用 Claude Mythos 與其他模型,雙方的對峙已逐漸降溫。
常見問題(FAQ)
美國政府週五要求 Anthropic 做了什麼?
美國政府週五發布一項緊急出口管制指令,要求 Anthropic 立即暫停所有外國公民存取 Claude Fable 5 與 Claude Mythos 5,理由是其在潛在越獄漏洞方面的國家安全疑慮。
為什麼 Anthropic 爭議政府的越獄發現?
Anthropic 審查了該技術的示範,並得出結論:所識別的漏洞看起來相對簡單,且包括 OpenAI 的 GPT-5.5 在內的其他公開可用模型也能在不需要任何繞過的情況下同樣找出這些漏洞。
Anthropic 與美國政府之間先前存在哪些緊張?
今年稍早,Anthropic 拒絕簽署一份擴大協議,允許對美國境內民眾進行大規模監控,以及完全自主的致命武器系統,導致國防部將 Anthropic 標示為「供應鏈風險」——這項標示該公司已向法院提出挑戰。