"DiscordがAIモデレーションのバグを認める―5月以降、無害な画像で誤BANが多発"
DiscordがAIモデレーションのバグを認める―5月以降、無害な画像で誤BANが多発
| 項目 | 内容 |
|---|---|
| ジャンル | その他IT |
| 日付 | 2026-07-08 |
| 元記事 | TechCrunch |
要約
Discordは2026年5月以降、AIコンテンツモデレーションシステムのバグにより、無害な画像を投稿したユーザーが誤ってアカウントBANされていたことを認めた。週末には200人以上のユーザーが影響を受け、問題発覚後にチームが特定・修正した。AI自動モデレーションの誤検知はユーザー体験を大きく損ない、プラットフォームへの信頼低下を招くリスクがある。完全自動化に頼らず、人間によるレビューとの組み合わせや、不服申し立てプロセスの整備が不可欠であることが改めて示された。