Anthropicの生物・化学兵器安全フィルターが約1年間停止、1億3300万リクエストが未検査状態
Anthropicの生物・化学兵器安全フィルターが約1年間停止、1億3300万リクエストが未検査状態
| 項目 | 内容 |
|---|---|
| ジャンル | セキュリティ |
| 日付 | 2026-08-17 |
| 元記事 | The Decoder |
要約
Anthropicは、生物・化学兵器関連コンテンツを検出・ブロックするための内部安全システムが約1年間にわたって非活性状態にあったことを開示した。この期間中、コントラクターが実行した約1億3300万件のモデルインタラクションがフィルタリングなしで処理されていた。安全システムの継続的な動作監視を怠ったという深刻な管理上の問題を浮き彫りにするこの事例は、AIプロバイダーが安全機構の維持・検証に関して体系的な運用体制を持つことの重要性を示している。Anthropicは問題を修正済みとしているが、この開示はAI安全性実装と独立監査の業界標準の確立を求める声を高める契機となっている。