算力洞察:为何在GPU租赁成本翻倍的同时AI使用成本却在下降?
行业分析指出,尽管电力紧缺和基建成本推高了 GPU 租用价格,但模型推理优化与激烈竞争仍在推动 AI 终端调用成本下降。
AI 深度解读
投资人 Tomer Tunguz 发文分析了 GPU 租赁价格半年内翻倍但终端 AI 调用成本却走低的反常现象,揭示了底层基建紧缩与上层算法能效提升之间的双重博弈。
- 硬件与基建成本上涨:受电力短缺及建设供应链影响,GPU 租赁单价从每小时 4.40 美元上升至 8.08 美元,基础设施瓶颈推高了算力租用支出。
- 算法架构与推理能效提升:模型架构优化与量化压缩使单位任务成本回落,同等基准测试成本在 18 个月内下降逾百倍,微软等厂商单卡 Token 输出效率同比提升约 90%。
- 商业评价标准迁移:资本市场对科技估值的利率敏感度发生结构性变化,AI 企业的长期盈利关键正在从单纯拥有芯片转向 “每 GPU 小时所产生的毛利美元”。
- 影响/看点:如果模型压缩与推理优化的速度能够持续跑赢数据中心电力与硬件涨价的节奏,低成本普及应用的落地进程将不会因算力硬件涨价而中断。
- 资料依据:
- Tomer Tunguz 博客(2026-09-28):https://tomtunguz.com/how-gpu-prices-double-while-ai-gets-cheaper/
本内容由 AI 生成,仅供参考,请注意甄别