你以为调用的是这个模型？API 背后的静默路由揭秘

一篇长文揭示了一个容易被忽视的现实:调用某个模型API时,实际执行请求的可能根本不是指定的那个模型,这种模型身份的模糊化正在沿着三条独立路径发生。

• 第一种是「替换」:分类器根据请求内容判断后转发给完全不同的模型,例如 Anthropic 将被拦截的 Fable 5 请求转交给 Opus 4.8 处理,并在返回结果中如实标注实际执行的模型
• 第二种是「降级」:同一模型可能以更低精度提供服务,OpenRouter 明确提示部分服务商会以更低价格提供量化版本权重,输出效果可能与全精度版本存在差异
• 第三种是「漂移」:同一个模型名称背后指向的权重被悄悄更新,生产环境中大量使用的「-latest」式别名,本质上相当于一个未做版本锁定的隐性依赖
• Cursor 新推出的 Router 功能是另一种实践:基于60万条以上真实请求训练的分类器做路由分发,早期用户反馈相较于全部走 Opus 4.8 可节省30%至50%成本,但 Cursor 只公开了路由规则,未逐任务标注具体模型
• 文章指出,目前没有任何一种做法能完全说清调用的到底是哪个模型,这已经不只是工程可靠性问题,也是一个模型身份认定的问题
• 当model这个字段不再能保证语义唯一时,API 调用方在计费、合规、效果评估上都可能面临新的不确定性,这类透明度问题会随着路由技术的普及变得更加突出。

本内容由 AI 生成，仅供参考，请注意甄别