人工智能领域的计算成本与商业回报一直是行业关注的焦点。近日,DeepSeek(深度求索)正式开源了其大规模云服务AI推理框架DeepInfer,并披露了一组极具冲击力的线上运营数据。基于这一推理框架,DeepSeek在支撑V4.1 Flash模型的大规模线上服务时,单一集群的日均服务吞吐量达到了155万亿Tokens,而在按低峰期(谷价)计算的情况下,整体收入达到了每张显卡(GPU)每小时38美元。这一数据的公布,引发了行业对AI推理商业模式和基础设施投资回报率的重新评估。
单卡每小时产生38美元收入的概念,在目前的算力市场中显得格外突出。以当前主流云服务商的GPU算力租赁价格来看,从H100、H200到B200等高端芯片,单卡每小时的租赁成本通常在4.5美元至8.5美元之间,即使是高端的B300服务,平均价格普遍也在7到10美元左右。对比之下,DeepSeek通过提供Token推理服务创造的单位收入,远超裸卡或基础服务器的算力租赁价格。扣除GPU租赁及配套硬件成本后,其推理服务的毛利率被推估高达80%至90%以上。按照这一收益效率计算,硬件设备的成本回收周期被大幅压缩,在满载运行的理想状态下,硬件投入有可能在数个月至十个月左右实现回本。
如此高的算力产出效率与毛利率,并非单纯依赖硬件堆叠,而是源于底层工程和模型架构的深度优化。DeepSeek开源的DeepInfer框架展示了其如何将算力性能发挥到极限。该系统在部署上同时支持英伟达SM100系列以及华为昇腾950平台,实现了对国产算力和国际顶尖算力的深度适配。在技术细节上,系统实现了Prefill(预填)与Decode(解码)阶段的分离部署,通过多个负载均衡器协同工作。同时,输入前缀缓存命中率达到了96%,极大减少了重复计算。此外,系统还结合了SWA Bounded Replay重算机制、DSpark变长验证投机解码以及零开销异步调度等技术,不仅显著提升了系统吞吐量、降低了延迟,也大幅下探了单位Token的算力消耗成本。
DeepSeek不仅公开了运营账单,还同步开源了生产级Token编解码组件deepseek-recipe,将协议转换与流式解析机制完全对齐官方体验。对于大模型行业而言,这一举措展示了AI推理从“巨额烧钱”转向高效盈利的可能性。长期以来,市场普遍担忧AI领域巨大的资本开支难以收回,但DeepSeek的数据证明,只要模型本身具备足够强的竞争力,同时辅以极致的工程优化与充沛的真实调用需求,AI推理能够成为一门具备高资产周转率和高毛利的生意。
这种将核心推理框架与算力收益模式公之于众的做法,也体现了DeepSeek在商业与技术路线上的独特取舍。通过持续降低Token的使用成本并保持极高的生产效率,DeepSeek将业务重心锚定在基础模型研发与API服务上,把算力效率转化为普惠的智能供给。这不仅为算力基础设施的回本账本提供了实证,也为AI产业链如何通过底层技术创新提升商业效率指明了方向。