OpenAI 优化 GPT-6 API 提示词缓存：大幅提升命中率并降低智能体运行成本

OpenAI 针对 GPT-6 API 升级了提示词缓存机制，通过提高默认缓存命中率降低智能体开发者的推理延迟与资金开销。

• OpenAI 官方开发者账号公布，GPT-6 在 API 层面的提示词缓存能力获得改进，以适应高频长上下文场景。
• 默认更高的缓存命中率使得更多输入 token 能够享受最高 90% 的折扣优惠。
• 提示词缓存对于需要反复加载长系统提示词或外部文档的多轮智能体对话尤为关键，有助于缩短端到端响应时间。
• 影响/看点：缓存命中率提高意味着重度依赖长上下文的复杂智能体应用可能降低边际成本，其实际节省比例取决于开发者任务架构中提示词的静态复用程度。
• 资料依据：
• OpenAI Developers 官方 X 账号（2026-09-22）：https://x.com/OpenAIDevs/status/2102506476401258678

本内容由 AI 生成，仅供参考，请注意甄别