OpenRouter 上线 Batch API:批量任务多数模型 Token 价格减半
OpenRouter上线Batch API,针对非即时任务提供半价Token优惠并保证24小时内返回结果。
AI 深度解读
AI 模型聚合路由平台 OpenRouter 正式上线 Batch API 批量处理接口,为非实时性工作负载提供半价的推理服务。
- 价格与适用范围:针对不需要即时响应的异步任务,覆盖超过 70 款主流模型,其 Per-Token 价格相较标准费率直接减半。
- 交付与处理时效:官方承诺所有批量请求在 24 小时内返回完整结果;在涵盖超过 23 万个测试批次的 Beta 测试中,实际中位处理耗时为 7 分钟。
- 调用方式:支持开发者通过单次 API 调用提交数千个请求,适合数据清洗、评估集打分及大批量内容生成等离线场景。
- 影响/看点:批量推理接口的半价机制与多模型聚合特性相结合,意味着企业在执行大规模离线数据处理和模型基准评测时,算力成本将显著降低。
- 资料依据:
- OpenRouter Blog(2026-09-22):https://openrouter.ai/blog/announcements/batch-api
- X:OpenRouter(2026-09-22):https://x.com/OpenRouter/status/2102427981755081032
本内容由 AI 生成,仅供参考,请注意甄别