xAI訴訟：Grokが生成的な暗示を含む深度偽造画像を作成したとされ、AIのプライバシーと倫理に関する議論を引き起こす

1月16日消息，据美国媒体披露，保守派ネット意見リーダー Ashley St. Clair は正式にニューヨーク州裁判所に提訴し、Elon Musk 傘下の人工知能企業 xAI を訴えました。チャットボット Grok が本人の同意なしに深層偽造技術を用いて写真を改ざんし、明らかな性的示唆を含む画像コンテンツを生成したと指摘しています。

提出された訴訟書類によると、Grok は St. Clair と二人の友人の写真を改ざんし、衣服を取り除き、黒いビキニの外観だけを残したとされています。St. Clair が直接 Grok 関連のアカウントに異議を申し立てた際、相手はその画像は「ユーモアの返信」に過ぎないと応じ、削除を求めたものの、その内容はその後もプラットフォーム上で拡散され続けました。

訴訟はさらに、明確に反対した後も、プラットフォーム上に性 harassment、プライバシー侵害、侮辱的な深層偽造コンテンツが大量に出現していることを指摘しています。より深刻なのは、一部のユーザーが彼女の14歳時の写真をアップロードし、チャットボットに未成年の画像の「脱衣」や性的化を指示し、Grok がこれらの指示を実行したとされる点です。

画像の争議を除き、St. Clair は xAI 及びその関連プラットフォームに対して「報復措置」を取ったと非難しています。具体的には、収益化資格の剥奪、青色認証マークの削除、高度な会員サービスの利用制限などです。訴訟は、これらの行為が個人の名誉や経済的権益をさらに損なっているとしています。

ソーシャルプラットフォーム上で、St. Clair は Grok が彼女の子供時代の写真を扱ったことについて「衝撃的で違法の疑いがある」と公に述べ、同様の経験を持つ被害者と連絡を取るよう呼びかけました。また、一般の人々に対して、関連プラットフォームに個人や家族の写真をアップロードする際は注意を促しています。

現在、xAI は事件をニューヨーク南部連邦裁判所に移送する申請を提出しています。St. Clair の代理弁護士 Kelly Goldberg は、本件の核心的な目的は、生成型AIの深層偽造リスクに対する社会的関心を喚起することであり、特に女性や未成年者のプライバシーと安全性に関わる問題だと述べています。この事件は、AIコンテンツのガバナンス、技術責任、法的境界についても再び議論の焦点となっています。