アルトマン、クロード神話をめぐるマーケティングに「恐怖に基づくマーケティング」を使ったとして、アンスロピックを非難

OpenAIのCEOであるサム・アルトマンは、テクノロジージャーナリストのアシュリー・ヴァンスが主催する Core Memory ポッドキャストでの発言を通じて、対抗相手のアンソロピックが「恐怖に基づくマーケティング」を使って自社のClaude Mythos AIモデルを宣伝していると非難した。アルトマンは、恐怖を煽るレトリックは、高度なAIシステムを「少人数のグループ」の管理下に置き続けることを正当化するために設計されていると主張したが、一部の安全性への懸念は正当なものだと認めた。

Altman’s Marketing Critique

アルトマンは、AIの安全性について妥当な懸念がある一方で、「これは明らかに驚くほどのマーケティングだと言っているようなものだ。『爆弾を作った。これからそれをあなたの頭上に投下する。$100 百万で爆弾シェルターを売ります。あなたのあらゆる物を動かすために必要です。ただし、顧客として我々があなたを選んだ場合に限ります。』」と述べた。彼は、技術がアクセス可能であるべきだという信念と、AIの新たな能力の両立のバランスを取るのは「いつも簡単ではない」と指摘した。

アルトマンは、「正当な安全上の懸念が出てくる」ことは認めつつも、恐怖に基づくメッセージが武器化されて中央集権的な統制を正当化するために使われ得ると示唆した。彼はこう述べた。「もしあなたが望んでいるのが、『AIは我々が統制する必要がある。なぜなら我々が信頼できる人々だからだ』というようなことなら、恐怖に基づくマーケティングが、それを正当化するうえでおそらく最も効果的な方法だと思う。」

Claude Mythos Capabilities and Distribution

アンソロピックのClaude Mythosモデルは先月明らかにされ、研究者、政府、そしてサイバーセキュリティ業界から大きな注目を集めている。テストによると、このモデルはソフトウェアの脆弱性を自律的に特定し、複雑なサイバー操作を実行できるという。テスト中に、MythosはMozillaのFirefoxブラウザにおいて数百件の脆弱性を特定しており、多段階のサイバー攻撃シミュレーションを実行する能力も示した。

アンソロピックは、Project Glasswingを通じてこのシステムへのアクセスを制限している。これは限定的なプログラムで、Amazon、Apple、Microsoftを含む選ばれた企業に対し、その能力をテストする権限を与えている。同社はまた、オープンソースのセキュリティ支援に多大なリソースを投じることも約束しており、より広く利用可能になる前に防御側がその技術の恩恵を受けるべきだと主張している。

Safety Framing and Government Response

アンソロピックは、Mythosの能力を、防御面でのブレークスルー（重要なソフトウェア欠陥のより迅速な検知を可能にする）であると同時に、悪用された場合の潜在的な攻撃リスクでもあると位置づけている。また、このモデルは既存のAI評価システムの限界も明らかにしており、アンソロピックは、現在の多くのサイバーセキュリティのベンチマークが、その最新システムの能力を測るにはもはや十分ではないと認めている。

戦争や監視における潜在的な用途への懸念から、米国政府の一部では技術の使用を止めるよう求める声があるにもかかわらず、国家安全保障局（NSA）は、分類ネットワーク上でモデルのプレビュー版のテストを開始したと報じられている。予測市場のMyriadでは、ユーザーがClaude Mythosが6月30日までにより広い一般公開にリリースされる確率を49%と見積もっている。

先週、ある研究者グループは、公に利用可能なモデルを使ってMythosの調査結果を再現できたと主張した。

Broader AI Release Rhetoric

アルトマンは、高度に危険なAIシステムに関するレトリックは能力が向上するにつれて増えていく可能性があると示唆したが、そうした主張のすべてがそのまま額面通りに受け取られるべきではないと主張した。彼はこう述べた。「リリースできないほど危険なモデルについてのレトリックは、もっとたくさん出てくるでしょう。また、別の方法でリリースされなければならない、非常に危険なモデルも出てくるはずです。Mythosはサイバーセキュリティのための素晴らしいモデルだと思いますが、この種の能力を世界に出す方法について、私たちは自分たちが納得できる計画を持っていると思います。」

アルトマンはまた、OpenAIがインフラ支出を縮小しているという提案を退け、「同社は計算能力の拡大を続ける」と述べた。彼は次のように指摘した。「それがどこから来ているのかは分かりません…人々は退くというストーリーを書きたがっている。でもごく近いうちにまた、例えば『OpenAIは無謀だ。どうしてこんな途方もない額を使っているんだ？』みたいな話になるでしょう。」