OpenRouter 数据通讯：缓存为何至关重要

OpenRouter 在 2026 年 10 月 8日发布的 Inferred 通讯将缓存率列为智能体工作负载的重要指标，关注价值在于智能体反复发送上下文时，缓存命中会直接影响推理成本和价格比较方式。

• OpenRouter 称，2026 年 9月智能体缓存提示词占相关令牌的比例接近九成。
• 其统计显示，智能体 API 密钥在 9 月最后一周使用的令牌约为人工 API 密钥的七倍。
• 通讯指出，缓存令牌通常比新输入令牌便宜，因此缓存命中率会改变单次任务的实际费用结构。
• 这些数据来自 OpenRouter 自身平台的分类与统计，不能直接代表整个行业，也可能受其用户构成和计费规则影响。
• 影响/看点：对于连续调用工具、重复携带上下文的应用，缓存策略可能成为成本优化重点；结论成立的条件是缓存命中稳定，且缓存写入费、上下文变化和供应商价格未抵消节省。
• 资料依据:
• OpenRouter（2026-10-08）：https://openrouter.ai/data/newsletter/cache-is-crucial

本内容由 AI 生成，仅供参考，请注意甄别