OpenAI、GPT-6 のプロンプトキャッシュを強化――ヒット率向上・明示的ブレークポイントを追加
OpenAI、GPT-6 のプロンプトキャッシュを強化――ヒット率向上・明示的ブレークポイントを追加
| 項目 | 内容 |
|---|---|
| ジャンル | AI |
| 日付 | 2026-09-23 |
| 元記事 | OpenAI |
要約
OpenAI は2026年9月22日、GPT-6 のプロンプトキャッシュ機能の大幅改善を発表した。主な変更点として、キャッシュヒット率の向上、診断ツールの追加、開発者が明示的にキャッシュのブレークポイントを指定できる新機能の導入が挙げられる。これにより API 呼び出しのレイテンシ削減とコスト低減が見込まれる。プロンプトキャッシュはシステムプロンプトや会話履歴などの繰り返し部分を再利用することで推論コストを抑える仕組みで、特に長文コンテキストを多用するエージェント型アプリケーションで恩恵が大きい。Anthropic も同様のキャッシュ機能を提供しており、推論コスト最適化が主要 LLM プロバイダー間の競争軸の一つとなっている。