ホワイトハウスがAIジェイルブレイクの完全封止をAnthropicに要求、専門家は「技術的に不可能」と指摘
ホワイトハウスがAIジェイルブレイクの完全封止をAnthropicに要求、専門家は「技術的に不可能」と指摘
| 項目 | 内容 |
|---|---|
| ジャンル | AI |
| 日付 | 2026-06-19 |
| 元記事 | MIT Technology Review |
要約
米ホワイトハウスが Anthropic に対し、Claude モデルのあらゆるジェイルブレイク（安全制限を迂回する攻撃）を完全に封止するよう求めていることが明らかになった。しかし AI セキュリティ専門家の多くはこの要求に対し「技術的に単純には達成不可能」と反論している。LLM のジェイルブレイクは本質的に入力の無限の組み合わせを利用するため、すべてのパターンを事前に封じることは現在の技術では困難とされる。このやりとりは、政府が AI に対して過度に高い安全基準を求める傾向を示しており、規制の実行可能性をめぐる議論を呼んでいる。AI 企業と規制当局の間の「安全要件のギャップ」が今後の政策立案において重要な課題となりそうだ。