「Grokに子どもの頃の写真を性的画像にされた」10代の被害者らがxAIを提訴

Bloomberg は、xAI のAI「Grok」で子どもの頃の写真を性的な画像に加工された10代の被害者らが、同社の責任を問う訴訟を起こしていると報じました。

• ウィスコンシン州の18歳の女性は、14歳のときの中学卒業写真を、同級生の兄が Grok で裸の性的な画像に加工してネットで広めたと訴えています
• テネシー州の未成年者らは3月に提訴し、後に原告を加えました。ワイオミング州やアーカンソー州の家族、カリフォルニア州での全米規模の集団訴訟もあります
• 原告側は、利用者が作った物ではなく、モデル自身が作った画像は、プラットフォームの免責の対象にならないと主張しています

xAI は係争中を理由にコメントせず、こうした画像を禁じ、作らせないための技術的な対策をとっているとしています。いずれも訴訟での主張で、裁判所の判断は出ていません。

画像を作るAIを提供する会社の責任が、どこまで問われるかに関わる裁判です。