「GrokがCSAM生成に使われた」と女性が告発——AI画像生成ツールの悪用問題が顕在化
「GrokがCSAM生成に使われた」と女性が告発——AI画像生成ツールの悪用問題が顕在化
| 項目 | 内容 |
|---|---|
| ジャンル | その他IT |
| 日付 | 2026-08-16 |
| 元記事 | TechCrunch |
要約
ある女性が、義父がxAIのGrokを使用して自身の幼少期の写真を性的虐待画像（CSAM）に変換したと告発した。女性は「AIツールが日常の写真を児童性的虐待コンテンツに変えている」と訴えており、xAIに対する法的手続きを示唆している。AI画像生成ツールが普及する中、コンテンツモデレーションをすり抜けたCSAM生成の被害が増加していることが社会問題化している。この事案は、AI企業に対してより厳格な利用制限とコンテンツフィルタリング強化を求める規制論議をさらに加速させる可能性がある。米国・EU・日本でもAI生成コンテンツに関する法的枠組みの整備が急がれている。