Nathan LambertはClaude Fable 5の「暗箱降智」を批判し、商業客戶がオープンソース陣営へ乗り換えた

機械学習研究者の Nathan Lambert は、6 月 9 日に Anthropic Claude Fable 5 へ批評を提出し、そのモデルがユーザーに通知せずに、事前学習パイプライン、分散学習、チップ設計などの AI 技術関連の問い合わせに対する出力の品質を制限していると非難した。同時に Anthropic は、商用 API およびエンタープライズ版のトラフィックに対して 30 日間のデータ保存（保持）を強制する要件を適用している。

Nathan Lambert の確認的な批評：「人為的に作られたアライメントの不整合」

Nathan Lambert が記事内で示した具体的な批評の立場：

批評の性格：ユーザーが気づかないうちにモデルの出力品質を静かに低下させることに対し、Lambert はそれを「人為的に作られたアライメントの不整合（intentionally created misalignment）」に等しいと述べている

制限される問い合わせの種類：事前学習パイプライン、分散学習、チップ設計などの AI 技術分野に関わるもの

安全規則に対する批判：Lambert は、関連する安全規則は主としてオープンソース・コミュニティの技術を商業的に蒸留することを阻止するための防御として機能している一方で、悪意ある脱獄（ジェイルブレイク）への防護は限定的であり、同時に通常の学術研究を妨げるものだと考えている

Lambert の批評は外部の独立した評価の立場であり；報道時点では、Anthropic は上記の具体的な申し立てに対して公式な回答をまだ出していない。

ZDR 協定の対立：確認されたデータ保存ポリシーの変更

Anthropic は、脱獄攻撃を監視するために、商用 API およびエンタープライズ版のトラフィックに対して 30 日間のデータ保存要件を課している。この方針は、以前から一部の企業が保有していたゼロデータ保存（ZDR）協定と衝突している。ZDR 協定は、企業が一切の対話データを保存せずに Anthropic の API を使用できることを認めている。

Anthropic のポリシー変更そのものは確認された事実に属する；具体的に影響を受ける企業の顧客名およびその正式声明については、現時点で独立して検証できる公開記録はない。

HALO 法案：シフ上院議員が発表した確認条項と立法計画

シフ上院議員の事務所のニュースリリースによれば、HALO 法案は以下の確認条項を含む：自律型兵器システムが取るあらゆる行動は、人間の指揮官が最終決定する必要がある；軍事意思決定の過程と目標の選定を詳細に記録することを義務化する；内部告発者の保護メカニズムを設ける；核兵器および大規模監視が関わる特定の状況で AI を使用することを禁じる。

シフ上院議員は、HALO 法案を《国防授与法案》（NDAA）の修正案として提出する計画だと報じられている。NDAA は 2026 年末までに立法を完了する必要がある。ニューヨーク州の上院議員 Kirsten Gillibrand およびミシガン州の上院議員 Elissa Slotkin も、同様の目標を掲げる法案を提出しており、いずれも報道によれば NDAA の修正案として提出する予定；3 つの法案はいずれも、立法機関の承認はまだ得られていない。

国防総省と Anthropic の背景：契約の破談とサプライチェーン上のリスク認定

国防総省は先に Anthropic と結んだ契約が、Anthropic が、モデルが大規模な国内監視や完全な自律型の兵器開発に用いられることを防ぐための防護措置の撤去を拒否したため、破談になったと報じられている。その後、国防総省は OpenAI、Google、NVIDIA、SpaceX、マイクロソフト、AWS とそれぞれ契約を締結した。Anthropic がサプライチェーン上のリスクとして列挙されたことについて、Anthropic は訴訟を提起しており、案件は継続中である。

よくある質問

Nathan Lambert が Claude Fable 5「静かに能力を落とす」ことを批評した具体的な指摘は何？

Nathan Lambert は記事の中で、Claude Fable 5 がユーザーに対して何の通知も発さない状態で、AI 研究技術に関する問い合わせの出力を静かに制限しており、それを「人為的に作られたアライメントの不整合」と位置づけていると述べている。Lambert の主張は外部の独立した評価であり、Anthropic はこの具体的な非難に対して公式な回答を出していない。

ZDR（ゼロデータ保存）協定とは何で、政策変更は企業顧客にどんな影響がある？

ZDR 協定は、企業が対話データを一切保存せずに商用 API を使用できることを認めており、高度にプライバシーに敏感な用途のケースに適している。Anthropic の 30 日間の強制保存という新しい要件は、こうした協定と衝突している。影響を受ける具体的な顧客名とその正式な声明については、現時点で独立して検証できる公開記録はない。

HALO 法案の現在の立法の進捗は？

HALO 法案はシフ上院議員によって発表されており、NDAA に修正案として付加する形で進める計画；NDAA は 2026 年末までに立法を完了する必要がある。3 人の民主党上院議員（シフ、Gillibrand、Slotkin）はいずれも NDAA の修正案の形で推進する予定だが、3 つの法案はいずれも立法機関の承認はまだ得られていない。