AnthropicとOpenAIが社内安全評価者の設置を提案——独立性への懐疑論も
AnthropicとOpenAIが社内安全評価者の設置を提案——独立性への懐疑論も
| 項目 | 内容 |
|---|---|
| ジャンル | AI |
| 日付 | 2026-09-17 |
| 元記事 | TechCrunch |
要約
AnthropicとOpenAIは、自社モデルの安全性を評価する内部審査員（セーフティ・エバリュエーター）を社内に常駐させる仕組みの導入を提案している。組織的な安全性強化への姿勢を示す一方で、「社内に置く評価者が本当に独立を保てるのか」という透明性の問題に批判が集まっている。外部の独立機関による第三者監査ではなく自己評価にとどまる構造は、政府・研究者・市民団体から信頼性の低さを指摘される可能性が高い。規制当局が強制的な外部監査制度の立法化を検討する中、業界の自主規制モデルとの間で綱引きが続いている。