OpenRouter 推出 Jev 缓存感知模型路由器

OpenRouter 联合 TypeSafe 推出名为 Jev 的缓存感知模型路由器（typesafe/jev-router），旨在通过上下文保留机制降低多模型调度的成本与延迟。

• 路由机制重构：传统路由器通常按单条消息切换模型而丢失上下文缓存，Jev 路由器通过评估会话难度与收益，倾向于在单会话内复用适配模型以保留 prompt 缓存。
• 意图判定与分级：基于 TypeSafe 的 Jev 分类模型在每轮对话前对提示词难度和精度需求进行打分，支持在不换模型的前提下动态调节推理强度（reasoning effort）。
• 隐私与容错设计：运行在零数据保留（ZDR）条款下，不向分类模型发送附件，若判定超时或返回异常则直接报错中断，避免盲目降级。
• 影响/看点：该方案有望在多轮深度会话中降低 API 调用的缓存失效成本，但路由判定的准确性高度依赖轻量分类模型对专业复杂任务意图的识别能力。
• 资料依据:
• X：OpenRouter（2026-09-25）：https://x.com/OpenRouter/status/2103610898690855161
• OpenRouter 官方网站（2026-09-25）：https://openrouter.ai/chat?models=typesafe/jev-router

本内容由 AI 生成，仅供参考，请注意甄别