Grok 11日間で2万枚以上の児童性画像を生成！EUが調査を開始、最高6%の年間売上高の罰則も

欧盟は《デジタルサービス法》に基づき、XとGrokの深偽映像問題について正式に調査を開始し、未成年者コンテンツやプラットフォームのガバナンスの失敗に関与しており、高額な罰金の可能性がある。

規制の鉄槌再び！欧盟が正式にXプラットフォームのDSA準拠調査を開始

BBCの報道によると、欧州委員会（European Commission）は1月26日に、億万長者イーロン・マスク（Elon Musk）傘下のソーシャルメディアプラットフォームXに対して法的手続きを正式に開始した。この動きの核心は、同プラットフォームに内蔵されたAIチャットボットGrokが、短時間で数百万の未許可のディープフェイク（Deepfake）性的映像を生成したとされるもので、未成年者に関わる不適切な内容も含まれている。

画像出典：Europa 欧州連合委員会は、億万長者イーロン・マスク傘下のソーシャルメディアプラットフォームXに対して法的手続きを正式に開始したと発表

監督機関の初期調査によると、ユーザーはGrokに指示を出すことで、実在の人物の写真を仮想の合成映像に改変できる。この技術の乱用は、EUがAIの安全性と違法コンテンツの拡散に対して厳重な懸念を抱くきっかけとなった。EUは《デジタルサービス法》（Digital Services Act, DSA）に基づき、Xプラットフォームが法的義務を果たしているかどうかを評価し、違法コンテンツのリスク評価や緩和策、AI生成または操作されたメディアコンテンツに対する明示的なマーク付けを行っているかを調査する。

延長読書
Grokの性的搾取疑惑に9大地域が注目！英国が調査を開始、違反すれば天文学的罰金も
マスクのGrok改変乱用頻発！コスプレイヤーや未成年者がAIによる衣服脱衣、各国が調査に乗り出す

驚くべきデータの内幕：41秒ごとに児童性的映像が生成される

デジタルヘイト対策センター（Center for Countering Digital Hate, CCDH）が発表した最新の研究報告によると、Grokは2025年12月末から2026年1月初旬のわずか11日間で、約300万枚の性的示唆を含むディープフェイク映像を生成したと推定される。調査データによると、その中には児童に関わる性的な映像が23,338枚含まれており、計算上、平均して41秒ごとに児童の権利を侵害する映像が生成されていることになる。

マスクは当初、この種の報道に対して冷笑し、「伝統的なメディアの虚偽」と反論し、システム設計はすべての違法リクエストを拒否すると主張していたが、研究者は、問題の核心はGrokが全裸コンテンツをフィルタリングできる一方で、未成年者が涼しげな衣服を着て性的挑発的なポーズをとる映像を容易に生成できる点にあると指摘している。1月中旬時点で、議論の対象となった映像の約3分の1がXプラットフォーム上に残存しており、同プラットフォームのコンテンツ審査メカニズムが合成メディアに対して重大な脆弱性を抱えていることを示している。

政治的嵐と遅延問題：グリーンランド危機からアイルランド当局の撤退まで

このスキャンダルは欧州の政治界に大きな波紋を呼び、アイルランドの複数の政府閣僚は激しい行動を取り、Xアカウントを一斉に閉鎖して抗議した。欧州議会議員レジーナ・ドハティ（Regina Doherty）は、EU委員会の決定を支持し、「EU内で運営される企業は法律の上に立つことはできない」と強調し、女性や子供を傷つける行為に対して即時かつ効果的な制裁を求めている。

また、ドイツのメディア『ハンデルスブラット』（Handelsblatt）の報道によると、EUは本来この調査を早期に開始する予定だったが、当時は米国大統領ドナルド・トランプ（Donald Trump）がグリーンランド併合を企てた外交危機に対応していたため、手続きが遅れたという。さらに、Xは2025年12月に既にDSA違反（誤解を招くブルーチェックや広告の透明性不足）で1億2000万ユーロの罰金を科されており、その際にはマルコ・ルビオ（Marco Rubio）など米国の政治家から厳しい批判を受けていた。これは米国のテクノロジー企業に対するターゲット攻撃だと見なされている。

延長読書
EU関税の一時停止！トランプがダボスでグリーンランドについて語る：武力で奪うことは望まないが

最高罰金6%の年間売上高、AI規制時代の法的最終テスト

正式な手続きの開始に伴い、Xプラットフォームは非常に重い財務的ペナルティに直面する可能性がある。《デジタルサービス法》の規定によると、重大な違反が認定された場合、EU委員会はその企業の年間総売上高の最大6%の巨額罰金を科すことができる。この案件は単なるXのコンプライアンス評価にとどまらず、《人工知能法案》（AI Act）とDSAの枠組みの下で、EUが新興技術の課題にどう対応するかの指標的な試験となる。

監督機関は現在、Xが効果的な救済措置を講じられるかどうかを注視している。例えば、xAI社は違法地域に地理的制限を設け、映像生成機能に技術的障壁を追加して、ユーザーが他者の「脱衣」をデジタル化するのを防ぐと発表している。しかし、デジタルセキュリティの擁護者にとって、この調査結果は、今後大手テクノロジープラットフォームが技術革新を追求しながらも、合成メディアによる被害からユーザーを守る社会的責任を果たせるかどうかを左右する重要な判断材料となるだろう。