10月20日，DeepSeek把自家大规模云服务推理框架DeepInfer连同同日开源的协议组件deepseek-recipe一起放上GitHub，官方把这一步的目标说得很直白：帮助社区降低计算成本、减少能源消耗，让AI更加普惠。但这次真正被交出去的，不是某款模型或某批算子，而是决定“模型能不能便宜地跑对”的那套引擎——等于把大模型的成本曲线本身开源了。新浪微博
判断是否成立，先看这套框架在替谁干活。官方披露，DeepInfer已在高吞吐、低延迟地大规模支撑DeepSeek-V4.1-Flash的线上服务，单一集群每天处理155万亿Token、每卡每小时收入约38美元（按谷价计），且兼容英伟达与华为昇腾两类芯片。过去DeepSeek开源的是权重和FlashMLA、DeepGEMM、TileLang这些算子库，它们决定“模型能不能跑”；推理引擎决定的是同样一张卡、同一套权重，一天能卖出多少Token。36氪新浪微博
开源了哪一半，留住了哪一半
这次放出的核心是离线推理引擎：DeepInfer公开代码包含模型执行、GPU/NPU算子接入、批调度、Attention DP与MoE EP并行、EPLB、投机解码、采样和结构化输出，仓库以Apache 2.0协议授权。但范围相当克制：只支持DeepSeek-V4.1-Flash一个模型，硬件只支持NVIDIA SM100（Blackwell）和华为昇腾950两类卡。知乎知乎
没开源的另一半，恰好解释了为什么38美元不等于人人都能赚到。跨机器、跨请求的KV缓存系统、Prefill/Decode分离部署和跨副本负载均衡都没有进入仓库，官方给出的原因是与内部基础设施耦合太深。跟着开源一起披露的部署资料勾出了这套系统的轮廓：线上系统要求KV cache保留72小时以上，DeepSeek给长期Block KV准备了约100 PiB的SSD存储，Agent流量缓存留三天、Chatbot留七天。拿到DeepInfer，等于拿到了生产级引擎实例，而不是拿到一整套官方服务。知乎知乎
更要紧的是，DeepInfer里最省钱的部分和DeepSeek的模型结构绑在一起：跨层共享KV、后半段层借用前半段的计算结果，都要求训练时就按这种方式设计模型，换来的收益是每Token全局KV被压到约890字节、长上下文的Prefill计算量近乎减半。只堆硬件、调kernel，复制不来这种成本。
第三方部署市场：低价满血从玄学变成可验证
真正会改变格局的，未必是省了多少电，而是“对不对”第一次有了官方参照物。此前市面上大量“DeepSeek满血版”第三方服务，同样权重不同体验：JSON解析失败率偏高、长上下文下工具调用参数被截断，用户很难定位差异出在哪一层。这次同开的deepseek-recipe负责把Chat Completions等三种API协议转成统一对话格式，官方称其处理逻辑与官方API完全对齐；DeepInfer还支持批次不变推理与确定性采样，让同批次组成下的输出可复现——这恰是第三方部署此前最容易被质疑“缩水”、用户却无从验证的环节。参照和评测基线就位之后，开发者可以逐Token比对第三方API与官方输出的差异，靠信息不对称卖“低价满血”的空间会被明显压缩。对云厂商则是另一面：第一天就有了明确的参照和现成的实现，在开源模型已经够用的任务上，服务价格的下限会继续往下走。DeepInfer最早基于vLLM开发、参考过SGLang和TensorRT-LLM，官方参考实现登场后，各社区框架的适配效果第一次有了可对比的基线。知乎知乎
昇腾拿到一等公民待遇，普惠也有门槛
在这份硬件清单里，昇腾950被放进了和英伟达新卡同一张官方支持列表，这比框架本身更值得行业留意。此前国产芯片跑DeepSeek新模型，通常是厂商自己维护vLLM或SGLang的分支，性能和功能都跟在后面；现在昇腾和英伟达用同一个引擎、同一套算法，差距被压缩到硬件本身和底层算子的实现质量，DeepSeek加昇腾很可能成为国内大规模推理部署的默认组合之一。至于爆料称DeepSeek拟在年内改用昇腾芯片做预训练，目前仍停在传闻阶段——推理跑通不等于训练跑通，这一步能否落地还需观察。36氪知乎
门槛同样清楚。DeepInfer的优化直接绑定新硬件：量化数据布局、融合算子、注意力实现都和具体后端连在一起，拿着它去适配手上没有折旧完的老卡，等于重新做一轮性能设计。此外，专家权重用FP4、激活用FP8的格式对齐正在成为芯片适配的新门槛，显存压力被低KV缓存卸掉之后，大规模专家并行把瓶颈搬到了互联带宽上。这轮普惠的真正受益者，是B系列卡、昇腾950这一代新算力，以及愿意在训练期就为推理算账的模型公司。知乎
从开放权重到开放行为
DeepSeek的路径是一步步走完的：先放权重，再放算子与通信库，如今把生产推理引擎的核心放上GitHub。官宣之后，DeepSeek一方还表态：开源vs闭源之战，“它们想打多久，我们就打多久，一直打到完全胜利”。如果Kimi、Qwen等厂商跟进，各自放出“官方推理参考实现+编解码组件+评测基线”的组合，开源模型的含义就会从“开放权重”扩展到“开放行为”——权重只是文件，行为才是用户实际感受到的东西，普惠也就从“用得上”变成“用得起、用得对”。新浪微博知乎
边界也要说清：每卡每小时38美元是按谷价计的收入口径，不是利润，把SSD、网络和预留容量的账单摊进去，才是各家云厂商自己的题。DeepSeek把“跑对跑快”开源给全行业，把大规模调度和成本压差的最后一层留在自己手里——这既保住了自家API的价格优势，也给云厂商留下了继续竞争的空间。接下来值得盯的信号有三个：其他开源模型厂商是否跟进官方参考实现、vLLM与SGLang多久吸收这些设计、昇腾上的批次一致性何时补齐。
