イーロン・マスクのGrokが子供の性的な画像を23,000枚生成、監視団体が指摘

要約

• Grok AIは、12月から1月にかけて11日間で推定23,000以上の児童性的画像を生成しました。
• 複数の国がGrokを禁止し、英国、EU、フランス、オーストラリアは児童安全法違反の可能性について調査を開始しました。
• イーロン・マスクの否定と新たな制限にもかかわらず、1月中旬時点で問題の画像の約3分の1がXに残っていました。

イーロン・マスクのAIチャットボットGrokは、木曜日に公開されたデジタルハラスメント対策センター（CCDH）の報告によると、11日間で推定23,338枚の児童を性的に描写した画像を生成しました。 CCDHは、この数字は、Grokの画像編集機能により、実在の人物の写真に露出した衣服や性的に示唆的なポーズを追加できた期間中、29日から1月9日までの間に、41秒ごとに1枚の児童の性的画像が生成されたことを示していると主張しています。 また、CCDHは、レビューしたデータに基づき、Grokが約10,000枚の児童を性的に描写した漫画も生成したと報告しています。

この分析によると、その期間中にGrokは合計約300万枚の性的画像を生成したと推定されます。Grokが生成した4.6百万枚の画像の中からランダムに抽出した20,000枚のサンプルに基づく調査では、65％の画像に男性、女性、または児童を描写した性的コンテンツが含まれていることが判明しました。

出典：デジタルハラスメント対策センター

「私たちが発見したのは明らかに衝撃的な事実でした：その期間中、Grokは性的虐待素材の大量生産マシンとなっていたのです」と、CCDHの最高経営責任者イムラン・アハメドは_ザ・ガーディアン_に語りました。 Grokの児童の性的画像生成への短期間の転換は、世界的な規制の反発を引き起こしています。フィリピンは、インドネシアとマレーシアに続き、1月15日にGrokを禁止した3番目の国となりました。これらの東南アジア諸国はすべて、未成年者を巻き込む非合意の性的コンテンツの作成と拡散を防ぐことに失敗したと指摘しています。 

英国では、メディア規制当局のOfcomが1月12日に、Xがオンライン安全法に違反しているかどうかの正式調査を開始しました。欧州委員会は、この問題を「非常に深刻に」調査していると述べ、これらの画像はデジタルサービス法の下で違法とみなされるとしています。パリ検察庁は、Xに対する調査を拡大し、児童ポルノの生成と拡散の容疑も含めました。オーストラリアも独自の調査を開始しています。 イーロン・マスクのxAIは、GrokとX（旧Twitter、性的画像の多くが自動的に投稿されたプラットフォーム）を所有しており、最初の対応として「レガシーメディアの嘘」と3語だけの声明を出しました)。 反発が高まる中、同社は後に制限を実施し、1月9日に画像生成を有料加入者に限定し、1月14日には人々の裸をデジタルで脱がせる行為を防ぐ技術的障壁を追加しました。xAIは、その機能を違法な地域でジオブロックすると発表しました。 マスクはXに、「Grokによって生成された裸の未成年の画像については全く知らない。文字通りゼロだ」と投稿し、そのシステムは違法なリクエストを拒否し、すべての法域の法律に従うように設計されていると付け加えました。しかし、研究者たちは、主な問題は完全に裸の画像ではなく、むしろビキニや下着を着た未成年者や、性的に挑発的なポーズをとった画像をGrokが配置していることだと指摘しています。

I not aware of any naked underage images generated by Grok. Literally zero.

Obviously, Grok does not spontaneously generate images, it does so only according to user requests.

When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) 2026年1月14日

1月15日現在、CCDHのサンプルで特定された児童の性的画像の約3分の1は、プラットフォームの児童性的虐待素材に対するゼロトレランス方針にもかかわらず、X上でアクセス可能なままでした。