10月20日，DeepSeek 宣布将内部的大规模云服务推理框架 DeepInfer 全面开源，同步放出生产级 Token 编解码组件 deepseek-recipe，框架可在英伟达与华为昇腾平台上运行。 但先说结论：这次开源并不会立刻改写你调用大模型的账单。走官方 API 的用户，省下的部分早已写进定价，不会因为这次开源多出折扣；租卡自建部署的团队，这次拿到的是引擎层代码，而省钱幅度最大的缓存与调度组件，恰好没包含在本次开源里。36氪
DeepSeek 在知乎同步发布的技术文章给出了这套框架支撑的真实数字：单一集群的服务吞吐是 155 万亿 Tokens/天，整体收入是每卡每小时 38 美金（按谷价）。 同一篇文章也写下了边界：KVCache 管理与负载均衡组件因与内部基础设施耦合较深，相关代码目前尚未完整开源。 换句话说，这本账是用一套包含未公开组件的系统算出来的。知乎36氪
GitHub 上的 README 把边界说得更直白：本次开源版本提供的是离线推理，适合跑评测、造训练数据这类批量任务；要凑成一个完整的在线推理服务，还缺 KVCache 系统、Prefill/Decode 分离部署与副本间负载均衡三样东西。 复现门槛同样不低：官方性能图是 prefill 4 张 SM100、decode 64 张的部署下测出来的，按技术社区的解读，想复现这个数，得先凑齐 68 张卡和配套互联，再自己补上缺的那层服务。GitHub知乎
API 调用方：账单上的钱本来就省在这里
对直接调用 API 的用户，“省多少"在官方定价页里就有现成答案。以 deepseek-flash（即 DeepSeek-V4.1-Flash-1017）为例：缓存未命中的输入 token 按谷价每百万 0.15 美元，命中前缀缓存的只要每百万 0.003 美元，相差 50 倍；输出 token 谷价每百万 0.6 美元、高峰价 1.2 美元。 价差背后的机制正是这次公开的部分：官方技术文章披露，Block KVCache 落在独立的 3FS 分布式文件系统上，提供约 100 PiB 的 SSD 存储，agent 流量的缓存保留 3 天、chatbot 流量保留 7 天，反复出现的对话前缀不必重新计算。 会话级的 SWA 缓存则留在内存中，线上命中率超过 98%。投机解码框架 DSpark 按候选 token 的预期接受率动态决定验证范围，变长验证让线上吞吐比固定验证再提升 6%。 翻译成用户能感知的版本：对话越长、前缀复用越多，输入账单就越贴近"缓存命中价”——推理框架省下来的算力，最终以低价 token 的形式返还给了调用者。DeepSeek API文档知乎36氪
云厂商与自建团队：这才是本次开源真正指向的市场
模型开放权重，并不等于别人能替你把它跑出同等成本。微博上就有人点出此前的供给僵局：DeepSeek 的模型虽然开放权重、任人部署，但第三方怎么调优都做不到官方 API 那么便宜的价格，很多云厂商因此不太愿意卖它的模型——竞争不过官方渠道。微博
这次同步开源的 deepseek-recipe 正是冲着这个短板来的，官方称其编解码处理逻辑与官方 API 完整对齐，以确保第三方部署能获得与官方部署一致的调用体验。 按同一条微博给出的横向参考，B200 的租金回报率约每卡每小时 10 美金——对照官方自述的 38 美金收入密度，框架开源瞄准的，正是这段效率差距能否向整个云市场外溢。知乎微博
眼下确定能受益的，是手里已有 SM100 或昇腾 950 算力、模型选择又锁定 V4.1 Flash 的团队：batch-invariant 与 deterministic sampling 两项特性（目前仅 NVIDIA 可用）对造数据、跑评测的可复现性是实打实的便利，框架按 Apache 2.0 协议发布。 但指望靠它把私有化成本压到官方 API 的价格，技术社区的判断是短期做不到——官方那个数是 68 张卡加一套没开源的缓存和调度跑出来的。GitHub知乎
官方还留了一句往后的事：未来新模型的推理代码和后续优化，都会持续放进 DeepInfer。 接下来值得盯的信号有两个：缓存与调度层会不会跟进开源；以及下一个新模型发布时，社区是继续等 vLLM 适配，还是直接来这里跑现成的实现。36氪
