AI 智能体流量缓存率从 44% 升至 85%

OpenRouter 于 2026 年 10 月 9 日称，AI 智能体流量的缓存率中位数从 2026 年 1 月的 44% 升至 9 月的 85%，关注价值在于缓存命中率会直接影响重复上下文的处理成本与响应效率。

• 该数字是 OpenRouter 对其所观察流量的统计，不等同于整个 AI 行业的平均水平。
• 缓存通常适合系统提示词、长期上下文或重复前缀；频繁变化的请求内容未必能获得同等命中率。
• 缓存率提升可能降低部分请求的计算或计费成本，但实际节省还取决于缓存计费规则和上下文长度。
• 智能体任务越多地复用固定工具说明、角色设定和历史上下文，缓存优化的潜在收益越明显。
• 影响/看点：若该趋势能在不同平台和负载中复现，缓存将成为智能体基础设施的重要成本变量；判断其行业影响仍需公开样本范围、统计口径和成本变化。
• 资料依据:
• X：OpenRouter（2026-10-09）：https://x.com/OpenRouter/status/2108633330405310467

本内容由 AI 生成，仅供参考，请注意甄别