Anthropic CEO Amodei、AIの自己改善がヒトの制御を超える前に速度制限を要求
Anthropic CEO Amodei、AIの自己改善がヒトの制御を超える前に速度制限を要求
| 項目 | 内容 |
|---|---|
| ジャンル | AI |
| 日付 | 2026-09-13 |
| 元記事 | The Decoder |
要約
Anthropic CEOのダリオ・アモデイ氏は、AIの再帰的自己改善（recursive self-improvement）がヒトの制御能力を超える前に開発速度を制御すべきだと訴えた。同氏は6〜12か月以内に自己改善ループがインターネットインフラを脅かす可能性があると警告し、具体的な対策として（1）AI開発企業への第三者監査員の常駐、（2）安全基準の業界横断的な共有、（3）核軍縮条約（SALT）に類似した国際合意の策定を提言した。大手AI企業がモデル能力の急速な向上を競い合う中、Anthropic自身も最大の能力モデルを開発・販売しているため、競争上のジレンマを抱えながら規制を求める姿勢は業界内で注目を集めている。