xAIおよびGrok向けに児童のディープフェイク動画を制作したとして、ユーザーを起訴。業界初の事例

ロイター通信によると、7月16日、xAIはテキサス州連邦裁判所において、サウスカロライナ州の男性Terry Harwoodを相手取り民事訴訟を提起した。Grokチャットボットを使って、児童の性的虐待を目的としたディープフェイク動画を作ったとしている。報道によれば、これはAI企業が初めてユーザーを訴えるものであり、その理由はユーザーが自社プラットフォーム上で生成したコンテンツに関係している。

xAIの訴訟内容：Harwoodの手口、Grokのフィルタ対抗策、裁判所への請求

（出所：Fingfx）

起訴状によると、Harwoodは虚偽の身分で複数のアカウントを開設し、Grokに成人および児童の一般的な写真を入力し、写真を性的な内容に変換するよう指示した。TVチャンネルの報道では、画像内の人物はいずれも、写真が使用されることに同意しておらず、また知ってもいないという。

xAIは、Grokが上記の請求を拒否し、コンテンツ規則違反としてマークしたと主張しているが、Harwoodの対応は、プロンプトを繰り返し修正して再度試すことだった。xAIは訴訟書類で「被告の行為は故意に企てられたものであり、原告のツールを犯罪行為に利用して、真の被害者に深刻かつ継続的な被害を与えることを目的としている」と記した。

xAIは裁判所に以下の2つの請求を行っている：

損害賠償：Harwoodの行為によって生じた損失について、Harwoodに賠償を求める。具体的な金額は訴訟書類に記載されていない。

差し止めの申請：裁判所に対し、HarwoodがGrokのいかなる製品も再び使用することを禁じるよう求める。

xAIのプラットフォーム執行：2026年に5.2万件超のアカウントを停止し、244件の逮捕につながった。

xAIが訴訟書類で明らかにしたプラットフォーム執行の定量データ：書類提出時点で、同社は2026年に52,222件のアカウントを停止し、米国の行方不明・虐待被害の子どもを対象とするセンター（NCMEC）に73,604件の報告を提出していた。これらの報告は、2026年に少なくとも244件の逮捕行動につながったとしている。

Grokの規制をめぐる背景：欧州の審査、マレーシアとインドネシアでの使用禁止

今回の訴訟提起に先立ち、xAIはGrokの機能面で複数の圧力に直面していた。欧州の規制当局がGrokの調査に着手し、マレーシアとインドネシアでは、出力される内容に露骨な性的示唆が含まれるとして、このチャットボットの使用が禁止されたと、TVチャンネルの報道が伝えている。

イーロン・マスク本人は1月14日にX（旧Twitter）で投稿し、「私は、Grokが未成年の裸の写真を生成したことがあることは知りません。絶対にありません」と述べ、さらに、Grokは自発的に画像を生成しないこと、そして、その運用原則は違法な内容の生成を拒否することだと補足した。

DEFIANCE Act：2024年の立法背景と各州の追随状況

DEFIANCE Act（「反抗法案」）は、2024年に米国連邦レベルで署名・施行され、望まない私的なディープフェイク動画の被害者が民事訴訟を提起するための法的な手段を与えるものだ。現時点で複数の州が、これに対応する州レベルの法律を可決している。

報道によれば、DEFIANCE Actの立法により、この種の案件の提訴件数が増加しており、xAIによるHarwoodへの民事訴訟も、この法律の枠組みが整った背景のもとで提起された。

よくある質問

AI企業が、プラットフォームで生成されたコンテンツを理由にユーザーを訴えるのは初めてですか？

報道によると、xAIがTerry Harwoodに対して提起した民事訴訟は、AI企業が初めて自社のユーザーを訴えるものであり、その理由はユーザーがプラットフォーム上で生成したコンテンツに関係している。ロイターの本件報道には、この点に関する説明が記載されている。

xAIは裁判所に対して具体的にどの2つの請求を行っていますか？

xAIはテキサス州連邦裁判所に対し、2つの請求を行っている。（1）Harwoodに損失の賠償を求める（具体的な金額は訴訟書類に記載されていない）；（2）Harwoodが再びGrokのいかなる製品も使用することを禁じる差し止め命令を求める。

DEFIANCE Actとは何で、本件との関連は？

DEFIANCE Actは、2024年に米国連邦レベルで署名・施行され、望まない私的なディープフェイク動画の被害者が民事訴訟を提起するための法的手段を与えるもので、多くの州も対応する州レベルの法律を可決している。報道によれば、本法の施行により関連する案件の提訴件数が増加しており、xAIの今回の訴訟はこの法律の枠組みが整った背景のもとで行われた。