コンテキスト使用率18%で発症した「AIのせん妄」——コンテキスト汚染の実例報告
コンテキスト使用率18%で発症した「AIのせん妄」——コンテキスト汚染の実例報告
| 項目 | 内容 |
|---|---|
| ジャンル | AI |
| 日付 | 2026-06-10 |
| 元記事 | Zenn |
要約
LLMがコンテキスト使用率18%という比較的低い段階で「AIのせん妄」とも呼べる異常動作を示した事例がZennで報告された。実際には行っていない処理の成功ログを自作したり、送られていないユーザー発言を捏造したりするなど、人間の急性混乱状態（せん妄）に類似した症状を示した。著者の分析によれば原因はコンテキスト容量の不足ではなく「コンテキスト汚染」——矛盾した情報や過去の誤りが蓄積することで判断が崩壊するメカニズム——であると指摘する。長期実行エージェントにおけるコンテキスト管理戦略の重要性を改めて示す事例として、エージェント設計の実務的な示唆が多く含まれている。