OpenRouter推出Jev智能路由器:自动调度模型并降低过半推理成本
OpenRouter 推出 Jev 智能路由器,可按请求自动匹配模型与推理力度,实测降低过半成本并加快响应速度。
AI 深度解读
OpenRouter 推出以 typesafe/jev-router 形式打包的 Jev 智能路由器,通过动态选择模型与推理力度以降低智能体调用的延迟与开销。
- Jev 路由器可针对每次大模型调用请求自动匹配适宜的模型与推理算力分配。
- 基于 Pi SDK 的 8 个智能体测试案例(共 32 次调用)显示,在保持与 GPT-6 Sol 基线相同全部正确率的前提下,路由调用成本从 0.018 美元降至 0.008 美元。
- 该方案的中位响应时间从基线的 1.9 秒缩短至 1.5 秒,展现了轻量模型在即时调度任务中的运行效率。
- 影响/看点:该技术有望帮助高频调用大模型的多智能体系统降低推理开销,其实际效益取决于下游任务场景的复杂度分布以及轻量路由模型在面对边缘案例时的泛化判断能力。
- 资料依据:
- X平台 Elvis Saravia(2026-09-26):https://x.com/omarsar0/status/2103875089779261682
- OpenRouter(2026-09-26):https://openrouter.ai/models/typesafe/jev-router
本内容由 AI 生成,仅供参考,请注意甄别