10月20日,DeepSeek正式宣布将内部推理框架DeepInfer及Token编解码组件deepseek-recipe全面开源,并同步晒出生产数据:单一集群日吞吐155万亿Token,按谷电价计算每卡每小时收入38美元。这个数字之所以比一般的财报口径更值得认真对待,是因为它公开到了可以被外部复算的程度。36氪
先把口径拆清楚:38美元是收入,不是利润,而且是按峰谷两档计价中较低的谷价折算的。也就是说,换成峰价,每卡每小时的进账还要更高。公开材料也支撑得住这个量级:有从业者拿GitHub仓库里"4卡Prefill、64卡Decode"的实测性能图与线上定价逐段反推,算出每卡每小时34至36美元,与官方公布的38美元对得上。一个"印钞"级别的数字,能被围观者用公开数据独立验证,这本身就是这次事件与以往厂商宣传的最大区别。DeepSeek官方文档知乎
一张卡凭什么值38美元
模型决定能力上限,但用户付的每一分钱里,相当一部分花在一个此前很少被公众看到的中间层:推理框架。DeepInfer做的第一件事是把推理流程拆开:处理输入提示词的Prefill交给常见的8卡机器,逐步生成Token的Decode交给64至128卡超节点,两边实例按流量自动伸缩。知乎
第二件事是别重复计算。V4.1 Flash把KVCache分成长期和短期两层:长期缓存存放在约100PiB的3FS分布式文件系统中,Agent流量保留3天、聊天流量最长7天,新请求命中相同前缀时直接复用旧结果;内存里的短期缓存命中率超过98%,落空也只重算最近128个Token;投机解码的变长验证再让吞吐提升6%。这些设计叠在一起,产生了看似矛盾的结果:Token单价降了好几倍,每卡收入反而涨了。道理不复杂——缓存每命中一次,同样的卡就多服务一批请求,价格降到每百万Token几美分,卡的产出率却成倍上去了。DeepSeek把自家模型的定价继续往下打,MiniMax在同一天发布M3.1 Flash,价格直接砍半。36氪36氪
开源真正"平民化"的是什么
算力平民化不等于算力免费,而是用算力的门槛在降。最直观的变化是:DeepInfer以Apache 2.0协议发布,任何人都能商用,仓库10月16日公开后已收获近9000个star。在这之前,DeepSeek已经陆续开源了模型权重、TileLang编译器和一批推理算子库,推理框架这层核心补上后,想自建V4.1 Flash服务的团队不再需要从零摸索工程细节。GitHub
第二个变化在硬件侧。官方框架可在英伟达与华为昇腾平台运行,开源版同时支持NVIDIA SM100系列与华为昇腾950,CUDA 13和CANN 9.2都能构建。跑得最快的"官方姿势"不再绑定单一芯片,中小玩家的算力采购面随之变宽。而当155万亿Token和38美元被公开摆出来,全行业卖算力和卖API的服务都有了一根可以对表的成本标尺。36氪
边界也要说清
开源的并不是那台"印钞机"的全部。DeepSeek明确说这是离线推理版本,与内部基础设施耦合较深的KVCache存储管理和负载均衡仍未开放,155万亿的成绩单出自完整内部系统。照搬开源版复现不了38美元,从"能部署"到"部署得划算"之间还有真实的工程距离。GitHub
供给侧同样没到"白菜价"的时候。媒体统计,年内DeepSeek已经历至少18次大面积宕机,反复指向的原因是算力供需失衡。高利用率撑起38美元的另一面,恰恰是算力仍然紧缺。外部市场的割裂也在同步发生:同一天,美国国土安全部刊出联邦公告,要求联邦民用机构将DeepSeek产品及相关第三方产品移出IT系统并禁止采购。36氪美国联邦公报
把这几点放在一起,这次开源的准确含义是:把"低成本、高效率地跑大模型"从少数公司的独家能力,变成整个行业的公共底座。技术开源了、口径公开了、跨平台的路径也摆出来了,但公共底座能否变成各家自己的成本曲线,取决于剩余工程能力和供给松紧,这是接下来一段时间值得盯住的观察点。