GPT-6 は、デフォルトでより高いキャッシュヒット率を提供し、キャッシュ済み入力トークンに最大 90% の割引を提供する改良されたプロンプトキャッシングシステムを導入しました。このシステムは、30 分間のウィンドウ内で共有プレフィックスを再利用し、長時間実行されるエージェントタスクのレイテンシとコストを削減します。新しいツールには、ヒット率を監視するプロンプトキャッシングダッシュボードと、リクエストを比較し、モデル、ツール、入力の変更を特定することでキャッシュミスを分析する診断ツールが含まれます。開発者は、明示的なキャッシュブレークポイントを使用して、どのプロンプトプレフィックスをキャッシュするかを選択し、キャッシュを壊さずに推論の労力を調整できるようになりました。キャッシュの安定性を維持するには、ツールの定義とスキーマを一貫させ、関連性のために allowed_tools を使用し、古いものを上書きするのではなく、開発者メッセージを介して新しい指示を追加してください。プリウォーミングは、既知のコンテキストを事前に準備し、処理をユーザーの待機時間から移動させます。これらのオプションの制御は、デフォルトのパフォーマンスに基づいて構築されており、開発者がワークロードに合わせてキャッシングを調整できるようにします。ヒット率の監視、ミスの調査、更新されたプロンプトキャッシングガイドの遵守、または Codex を使用したコードレビューから始めてください。