10月20日晚,DeepSeek发布《DeepSeek V4.1 Flash 大规模推理部署实践》,并开源支撑自家线上服务的推理框架 DeepInfer。与以往只讲技术的报告不同,这份报告首次附上了一份"账本":目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。标题里的"每时收38美金"因此成了最常见的误读:这不是向用户出租一张卡的标价,而是整个线上集群按单卡单小时折算下来的收入;要理解这个数字,关键是理解"按谷价"三个字。DeepSeek官方
"谷价"意味着这个数是被刻意压低过的下限。DeepSeek V4.1 Flash 实行分时定价:工作日 9 点到 12 点、14 点到 18 点的高峰价,输入每百万 token 2 元、输出 8 元;晚上、周末、法定节假日全天执行谷价,输入 1 元、输出 4 元,同样一次调用挪到夜里发,账单直接砍半。官方口径是把集群处理的全部 token 按这档最低价计价,等于先把收入打了五折再公布,真实营收只高不低。知乎
放到租赁市场里看,才能掂出这份收入的利润密度。当前市场上一张英伟达 B300 级 Blackwell 数据中心卡的平均租金约为每卡每小时 7–10 美元,最低能做到 4.89 美元,最高一档的 AWS 也只有 17.8 美元。这一估算出自社区整理而非官方报价,但倍数关系已经清楚:DeepSeek 一张卡一小时挣的钱,是同期把同样的卡租出去的数倍——它赚的是推理服务的溢价,不是转售算力。自今年 8 月融资话题发酵以来,多位科技博主转述过创始人梁文锋的表态:公司只赚维持生存的合理利润,服务器大约 10 个月回本。这次的"账本"让那句说法第一次有了可对照的数据。边界也要划清:38 美金是收入口径,不是利润——官方未披露集群规模、硬件与电力成本,净利无法直接推算。知乎微博
配合这份账本开源的 DeepInfer,就是收入的来源本身。它是 DeepSeek 线上服务背后的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay 与结构化输出,可在英伟达与华为昇腾两个平台上运行。硬件组织上,常见 8 卡机器承担 Prefill,64 至 128 卡超节点承担 Decode,两类任务分开部署、按流量自动扩缩。DeepSeek官方36氪
收入的另一半藏在缓存里。官方披露的线上数据显示,会话级缓存的命中率在 98% 以上,命中即免去重复计算。缓存省下来的算力直接体现在定价上:命中后的输入价与未命中相差五十倍,白天每百万 token 0.04 元,夜里只要 0.02 元。卡跑得越满、复用越多,每卡每小时的收入就越高,这正是 38 美金得以成立的工程基础。DeepSeek官方知乎
但这门"印钞"生意,眼下别人还复制不走。官方仓库本次只提供离线推理及大规模服务所需的核心能力,要搭建完整在线服务,开发者仍需补齐 KV 缓存系统、推理阶段分离部署及跨副本负载均衡等组件。DeepSeek 也在报告里确认,缓存管理与负载均衡组件因与内部基础设施耦合较深,相关代码目前尚未完整开源。部署问答建议的解码配置是 EP64 起步,一个既跑得起来又不至于太亏的单元是 64 张卡预填充加 64 张卡解码,加起来 128 张。这套框架面向已有上百张卡规模的团队,手里几张卡的开发者能学走工程思路,学不走这套经济学。第一财经DeepSeek官方知乎
至于为什么把赚钱的东西公开,供给端的解读更实际:过去第三方即便可以自由部署 DeepSeek 的模型,也做不到官方 API 那么便宜的价格,云厂商因此不太愿意上架;如今内部推理框架连同账本一起放出,推理侧的成本收益第一次在行业面前变得可算。微博
对普通用户,能立刻动手的信息都藏在定价页那两行字里:客服机器人、办公类工具、内部知识库,请求都跟着用户的作息走,谷价折扣基本吃不到。真正能省钱的办法,是把语料清洗、批量摘要、数据标注这类能等的任务排到深夜,同样的预算能跑完的量接近多出一半。下一个值得盯的观察点:拿到官方级推理栈的第三方平台,会不会把价格战从补贴打向真实成本线。知乎