欧州委員会は月曜日、Xが違法コンテンツの生成と拡散を防止できなかったとして、EUのデジタル規則違反の疑いで正式な調査を開始した。対象は、性的に露骨な子供の画像を含む内容である。
調査は、Grokの画像生成機能を展開する前に、同社がリスクを適切に評価し軽減したかどうかを評価するものだと、委員会は月曜日の声明で述べた。
また、実際に違法な性的コンテンツが生成・拡散されたことで、EU市民が深刻な被害にさらされていると指摘した。
これは、Grokが非合意のディープフェイクを作成する役割についての国際的な監視が高まる中の動きだ。
2週間前、Xは画像生成を有料会員に限定し、デジタル操作による衣服の露出を防ぐ技術的障壁を追加した。また、違法な地域ではこの機能を地理的にブロックした。
それにもかかわらず、研究者たちは、CCDHのサンプルで特定された子供の性的画像の約3分の1がXのプラットフォーム上でアクセス可能なままだったと指摘している。
「この調査を通じて、XがDSAの法的義務を果たしているか、あるいは女性や子供を含む欧州市民の権利をサービスの副産物として扱っているかを判断します」と、Henna Virkkunen（技術主権、安全保障、民主主義担当副委員長）は声明で述べた。
今月初め、EU委員会のスポークスマン、Thomas Regnierはブリュッセルの記者会見で、Xの「Spicy Mode」機能を非難した。
「これはスパイシーではありません。違法です。許し難いです。気持ち悪いです。ヨーロッパには居場所がありません」とRegnierは述べた。
cheqdの共同創設者兼CEO、Fraser Edwardsは、_Decrypt_に対し、「すべてのクリエイターは、自分の肖像がAI生成メディアでどのように使われるかをコントロールできるべきだ」と語った。
彼は、「ディープフェイクの乱用に対する反発は、インターネット自体の根本的な失敗を浮き彫りにしている」と指摘する。
「誰が合成コンテンツを作成したのか、またはその使用が許可されたものかを確認するネイティブな方法は未だに存在しません」とエドワーズは付け加え、責任追及は「Xのような仲介者に委ねられ続ける」と述べた。
調査で明らかになれば、違反はデジタルサービス法の第34条（1）および（2）、第35条（1）、第42条（2）に抵触する可能性がある。これらは、プラットフォームに対し、違法コンテンツの拡散や性別に基づく暴力に関する負の影響を含むシステムリスクの評価と軽減を義務付けている。
EUの調査は、2023年末にXに対して行われた、欺瞞的なデザイン、広告の透明性不足、研究者アクセス制限に関する1億4000万ドル（1億2000万ユーロ）の罰金を科したDSA案件の延長線上にある。
委員会はその後、Grokに対する監視も強化し、チャットボットによる反ユダヤ的コンテンツの生成に関する懸念も含めて調査を拡大している。
_Decrypt_はxAIに追加コメントを求めている。
