Anthropic 於週五晚間接獲出口管制指令,要求公司暫停其最新 Claude 模型的存取權,包含 Fable 5 與 Mythos 5,且無論是任何外國國民,不論其身處美國境內或境外,包括外國國民身分的 Anthropic 員工。依據 Anthropic 的說法,川普政府援引國家安全主管機關,但未具體說明其疑慮。該指令落在 Anthropic 執行長 Dario Amodei 於數日前發表一篇主張對 AI 進行更嚴格且具約束力監管的文章之後,該文章包含若模型被認定為不安全,就能夠封鎖模型。華爾街日報報導,此舉是由亞馬遜執行長 Andy Jassy 與美國官員(包含財政部長 Scott Bessent)之間的對話所引發;在那些對話中,Jassy 表示亞馬遜研究人員使用提示詞(prompts)讓 Fable 5 提供可能有助於網路攻擊的資訊。該公司目前估值接近 1 兆美元,多年來致力於安全的說法不絕於耳,卻在今年第二次成為川普政府的目標。
該指令是在唐納·川普總統簽署一份 AI 行政命令約 10 天後送達。該命令要求公司自願向聯邦政府提供模型,以便在全面發布之前評估其能力。命令也授權政府官員 60 天時間,為 AI 公司制訂並維護相關審查框架以供其考量。沒有跡象顯示,強制暫停 Anthropic 最新模型與該行政命令有所關聯。
依據華爾街日報的報導,援引熟悉此事的人士說法,亞馬遜執行長 Andy Jassy 告知政府,亞馬遜研究人員使用一系列提示詞,讓 Fable 5 提供可能有助於網路攻擊的資訊。該公司稱讚本月稍早簽署的川普 AI 行政命令是「重要的一步」。
Anthropic 表示回應稱,其不同意「川普政府的發現」是導致召回的原因,並將此項擾動形容為「誤解」。在一篇部落格文章中,公司表示:「如我們公開所述,我們相信政府應具備封鎖不安全部署的能力,作為一個透明、公平、清楚且以技術事實為基礎的法定程序的一部分。此行動未能符合這些原則。」
美國新安全中心(Center for a New American Security)的資深研究員 Daniel Remler 告訴 CNBC:「如果不照政府說的做,就會有後果,那這看起來肯定是強制性的。」「從一個完全沒有模型存取控制的環境,直接用這個工具在短短數小時內把一家公司的模型下架,這實在非常驚人。」
週一,部分 Anthropic 高階員工飛往華盛頓特區,與川普政府成員會面。該公司告訴 CNBC:「雙方都在加快速度,力求儘快把事情解決。」Anthropic 尚未表示其模型預計何時能重新上線。
依據一位要求不具名以便討論機密事項、熟悉會談過程的人士說法,Anthropic 與政府機構合作,在發布前測試了模型,並獲得部署核准。該人士表示,政府方面沒有傳達任何國家安全威脅。
Fable 5 與 Mythos 5 是建立在 4 月推出的 Claude Mythos Preview 之上,這是一款強大的產品,擅長辨識軟體中的安全漏洞。Anthropic 將推出限制在少數公司,以配合名為 Project Glasswing 的網路安全計畫。Mythos 5 仍僅限於少數使用者,但 Anthropic 讓 Fable 5 提供給其企業客戶與付費訂閱者。公司表示,之所以能進行更廣泛的發布,是因為新增了防護機制,可在特定高風險領域阻擋回應,包括網路安全與生物領域。
Corridor 的產品長 Alex Stamos,以及先前擔任 Facebook 安全主管的人士,撰寫了一封以「透明 AI 網路保護(transparent AI cyber protections)」為題的公開信,寄給商務部長 Howard Lutnick 與國家網路長 Sean Cairncross。這封信由超過 150 位執行長與技術領袖簽署,要求解除出口管制指令。
Stamos 在接受 CNBC 採訪時表示,規則需要「基於科學」。他說:「那些規則需要被寫下來,而且要透明。這件事並沒有發生。Anthropic 或任何其他公司都沒有任何可供查閱的資料,能讓人知道我到底能做什麼、不能做什麼。」他補充說,對於每一家美國公司而言,「擔心的是,你隨時都可能因為違逆政府,而被以完全任意的決定、任性地直接關停。」
David Sacks 是一位風險投資者,過去曾擔任川普的 AI 與加密貨幣沙皇;他在 X 上撰文指出,該公司部落格文章中「弱化語氣(minimizing language)」的用法,與其作為「AI 安全公司(the AI safety company)」的品牌不一致。Sacks 表示:「行政部門重視 Anthropic 的技術能力,並認為此問題雖然嚴重,但應該能輕易解決。球在 Anthropic 手上。」
今年稍早,Anthropic 曾與國防部進行一場高調爭議。國防部(DOD)於 3 月將 Anthropic 列為供應鏈風險,這一標註要求國防承包商必須證明其將不會在與軍方的工作中使用 Claude 模型。Anthropic 就這項供應鏈風險標註起訴川普政府,試圖予以推翻。該訴訟仍在進行中。
在週六於 X 發文時,國防部長 Pete Hegseth 回應政府的最新指令,他寫道:「每過一天都證明,將 Anthropic 列入黑名單是『正確的選擇』。」
該公司及其主要競爭對手 OpenAI 近期都以機密方式提交了 IPO 規模文件(prospectuses),為可能創下歷史的股權銷售鋪路,吸引急於投身 AI 的投資人。
川普政府在週五晚間命令 Anthropic 做了什麼?
川普政府於週五晚間發布出口管制指令,要求 Anthropic 暫停其最新 Claude 模型(Fable 5 與 Mythos 5)的存取權,且無論是任何外國國民,不論其身處美國境內或境外,包括外國國民身分的 Anthropic 員工。該政府援引國家安全主管機關,但未具體說明其疑慮,依據 Anthropic 的說法。
為什麼川普政府要對 Anthropic 發布出口管制指令?
依據華爾街日報的報導,援引熟悉此事的人士說法,這項舉措是由亞馬遜執行長 Andy Jassy 與美國官員(包含財政部長 Scott Bessent)的對話所引發。Jassy 告知該政府,亞馬遜研究人員使用一系列提示詞,讓 Fable 5 提供可能有助於網路攻擊的資訊。川普政府援引國家安全主管機關,但未具體說明其疑慮。
Anthropic 正在做什麼以解決出口管制指令?
週一,部分 Anthropic 高階員工飛往華盛頓特區,與川普政府成員會面。該公司告訴 CNBC:「雙方都在加快速度,力求儘快把事情解決。」Anthropic 尚未表示其模型預計何時能重新上線。
相關新聞
資安專家:川普下架 Anthropic 最強模型,管制擋不住 24 個月內全球擴散
Anthropic 因美國政府指令而暫停頂級 AI 模型
Bittensor TAO 因美國下令關閉 Anthropic AI 模型而飆升 30%
Anthropic 在美國出口禁令後關閉 Claude Fable 5 和 Mythos 5
川普政府要求 Anthropic 撤下最強 AI 模型,公司赴華盛頓尋豁免