DeepSeek 开源 DeepInfer，单集群日服务 155 万亿 token、每 GPU 小时收入 38 美元

DeepSeek相关条目披露了DeepInfer在生产服务中的吞吐与收入估算，关注价值在于把推理框架的工程能力与商业化指标联系起来，但这些运营数字需要与可复现实测区分。

• DeepInfer官方仓库将其定义为面向DeepSeek模型的大规模推理框架，并称其用于生产服务。
• 仓库列出优化内核、并行计算、异步调度、确定性采样和结构化输出等功能。
• 官方支持硬件包括NVIDIA SM100 GPU和华为昇腾950 NPU；仓库同时说明，完整生产服务所需的KV缓存、负载均衡等部分并不包含在本次发布中。
• 条目所引帖子给出单集群日服务155万亿token和每GPU小时38美元收入，但未在可核验的官方仓库页面中看到对应运营口径、GPU规模或成本核算细节。
• 影响/看点：框架开源可能降低复用推理技术的门槛；收入和毛利判断只有在GPU配置、利用率、价格时段及成本口径透明时才具备可比性。
• 资料依据:
• DeepSeek GitHub（2026-10-20）：DeepInfer仓库 https://github.com/deepseek-ai/DeepInfer
• X：Yuchen Jin（2026-10-20）：关于DeepInfer运营数据的原始帖子 https://x.com/Yuchenj_UW/status/2112591074409742733

本内容由 AI 生成，仅供参考，请注意甄别