Anthropic 因隱私問題移除隱藏的 Claude Code 追蹤器

Anthropic 在安全研究員 Thereallo 於六月發現後,移除了 Claude Code 中的隱藏追蹤系統。該 AI 程式碼助手曾使用未公開的標記來識別用戶的位置、代理使用情況以及與中國 AI 實驗室的可能關聯。此項功能在系統提示中嵌入訊號,以標記 Anthropic 認為正在繞過限制或試圖提取模型能力的用戶。此發現正值 Anthropic 推動立法者打擊未經授權複製前沿 AI 模型之際;此前 Anthropic 在二月指控中國 AI 開發者使用詐騙帳戶提取了數百萬條 Claude 回應。

研究員揭露系統提示中的 Unicode 標記與編碼域名列表

Thereallo 發現 Claude Code 使用 Unicode 標記與編碼域名列表將追蹤訊號隱藏在系統提示中,而非透過文件或版本說明公開該系統。該研究員指出,Anthropic 似乎試圖偵測 API 轉售商、未經授權的 Claude Code 閘道以及模型蒸餾攻擊管道。指向已知轉售商域名的自訂 ANTHROPIC_BASE_URL 是一個有用的訊號,而包含 deepseek 或 zhipu 的主機名稱也是。

Thereallo 在承認安全理由的同時,批評了實作方式。「這不是一個惡意功能,但對於一個要求信任的開發者工具來說,這是一個奇怪的選擇,」Thereallo 寫道。

Anthropic 工程師確認三月實作及計畫性移除

該追蹤器在網路上被揭露後,Anthropic 工程師 Thariq Shihipar 在 X 上表示,該功能是在三月作為一項實驗引入,目的是阻止未經授權轉售商的帳戶濫用行為,並保護 Claude 免受蒸餾攻擊。Shihipar 上週指出,團隊自三月以來已部署更強力的緩解措施。「我們合併了[拉取請求],這項功能應會在明天的版本中完全回滾,」Shihipar 寫道。

阿里因蒸餾攻擊隱憂禁用 Claude Code

本月初,阿里巴巴禁止員工使用 Claude Code,稱該工具為「高風險」軟體,理由與 AI 模型蒸餾及資料提取的安全疑慮有關。二月時,Anthropic 指控中國 AI 開發者 DeepSeek、Moonshot AI 及 MiniMax 使用詐騙帳戶提取數百萬條 Claude 回應,以訓練競爭模型。這些指控遭到批評者反彈,他們質疑此做法與 AI 業界普遍使用的方法有何不同。

四月,Elon Musk 作證表示 xAI 在訓練 Grok(模型)時「部分」使用了 OpenAI 模型,稱蒸餾為更廣泛的行業慣例。六月,Anthropic 執行長 Dario Amodei 敦促 Congress(國會)加強防範外國 AI 提取,此前他指控與阿里巴巴相關的運營者使用近 25,000 個詐騙帳戶生成了 28.8 百萬次 Claude 交換。

FAQ

Anthropic 在六月移除了 Claude Code 中的什麼內容?
Anthropic 在安全研究員 Thereallo 於六月發現後,移除了 Claude Code 中的隱藏追蹤系統。該系統曾在系統提示中使用未公開的 Unicode 標記與編碼域名列表,以識別用戶的位置、代理使用情況以及與中國 AI 實驗室的可能關聯。

Anthropic 為何在 Claude Code 中實作追蹤功能?
Anthropic 工程師 Thariq Shihipar 表示,該功能是在三月作為一項實驗引入,目的是阻止未經授權轉售商的帳戶濫用行為,並保護 Claude 免受蒸餾攻擊(即一個 AI 系統的輸出被用來訓練另一個模型)。

阿里巴巴對 Claude Code 採取了什麼行動?
本月初,阿里巴巴禁止員工使用 Claude Code,將該工具指定為「高風險」軟體,理由是 AI 模型蒸餾與資料提取相關的安全疑慮。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆