10月20日,DeepSeek把支撑线上服务的大规模推理框架DeepInfer开源,并同步发布了《DeepSeek V4.1 Flash大规模推理部署实践》。报告里第一次把生产数据摆上了桌面:目前,单一集群的服务吞吐量达到每天155万亿Token,按谷价计算,每卡每小时收入为38美元。但要先说清口径——这是一张GPU一小时挣进来的收入,不是利润,更不是发给谁的工资;"谷价"指DeepSeek分时定价中的最低档,即夜间、周末和法定节假日全天按输入1元、输出4元(每百万token)计价,相当于用对自己最便宜的价目算收入。第一财经36氪知乎
这个数怎么来的:一半靠量,一半靠"算过的不再算"
把38美元拆开,是一门卖token的生意:每天155万亿是量,分时价是单价,量价相乘摊到每张卡头上就是这个时薪。量的成色藏在缓存里。技术报告里的线上数据是:平均每个请求带着77K token的输入,其中96%命中缓存,不用重新计算。命中与未命中的价格差五十倍:缓存命中的输入价,白天每百万token 0.04元、夜里0.02元,未命中的则是2元和1元。能命中,前提是缓存真的存得住:DeepSeek把KV缓存分块存进约100 PiB的独立3FS存储集群,Agent流量的缓存保留3天,聊天流量保留7天。知乎知乎36氪
这套结构带来的收入分布反直觉:有技术博主按官方数据折算,96%的token挣走约三成收入,剩下4%没命中的挣了七成。换句话说,这张时薪账单的主体不是高单价,而是把重复计算的开销省掉之后,剩下那些必须现算的token按全价卖出去。知乎
另一半吞吐是架构抠出来的。输入阶段(Prefill)拼算力,输出阶段(Decode)拼显存带宽,两种活被拆到不同的机器上:常见的8卡机器承担Prefill任务,并采用64至128卡超节点承担Decode任务。按部署问答里的线上数字,答题阶段每张卡每秒写出1.4万个token,用户端每秒能看到230个token,写代码的场景是300个。36氪知乎
敢晒账本,是因为护城河不在账本里
数字开源的同时,DeepSeek把引擎本身也交了出来:DeepInfer以Apache 2.0协议开源,同时支持英伟达SM100系列和华为昇腾950,配套的Token编解码组件deepseek-recipe以MIT协议同步放出。但开源的边界划得很清楚:官方仓库说明,要搭建完整在线服务,开发者仍需自行补齐KV缓存系统、推理阶段分离部署及跨副本负载均衡等组件。部署文档同时给了门槛:一个既跑得起来又不至于太亏的单元,是64张卡预填充加64张卡解码,合计128张起步。这套账本就是写给已有数据中心的团队的,个人自部署复制不了38美元,真正决定这些数字的缓存与调度层,仍握在DeepSeek自己手里。知乎第一财经知乎
对用户,比38美元更有用的是三条边界
第一,数据全部是DeepSeek自报,没有第三方审计,成本侧也未披露。社区里有按市面卡租的粗算:B200的租金是8美元不到,谷价收入是38美元单卡,也就是说毛利率接近80%的水平。但这只是答主拿租金做的换算,不是官方口径。第二,155万亿Token是"单一集群"的日吞吐,不是公司总量,别拿它乘集群数量脑补总盘子。第三,这本账不会自动变成降价:官方低价有了结构性的成本底气,但降价节奏仍取决于DeepSeek自己的决定。知乎
真正能马上落进账单的,还是定价页上那两行字:能等的批量任务挪到夜间和周末跑,固定的长文档、系统提示词放在输入开头喂给缓存——分时价加缓存命中价,比讨论38美元这个数字本身值钱得多。