“平民化"这件事有一条清晰的分界线:智能的单位成本已经被打到人人用得起的水平,而这次开源把它从"API便宜"推进到了"部署便宜";但抹掉的是know-how门槛,不是硬件门槛。10月20日,DeepSeek将支撑自家线上服务的内部推理框架DeepInfer全面开源,同步放出生产级Token编解码组件deepseek-recipe,并罕见地摊开了账本:基于该框架,DeepSeek V4.1 Flash单一集群的服务吞吐达到每天155万亿Token,按谷电价计算每卡每小时收入38美元。官方技术长文给出的目标,是让智能服务以更低的价格触达更多用户。判断"平民化时代来了吗”,要看这些数字分别意味着什么、边界画在哪里。华尔街见闻知乎
模型权重早就开源了,"怎么把模型跑得便宜"是第一次摊开
过去一年,DeepSeek的模型权重早已可以随意下载部署,大量云厂商与MaaS平台对外出售"满血版"服务,但开发者普遍有一个体感:同样的开源模型,自己部署怎么调都做不到官方API那个价格。差距不在模型,而在中间那层工程——大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,取决于一个长期未被公众了解的中间层,即推理框架。 这次DeepSeek把这层家底公开了:DeepInfer集成高性能算子与深度优化的推理引擎,以Apache 2.0协议发布,可在英伟达与华为昇腾两类平台上运行。配套的deepseek-recipe以MIT协议开源,负责把OpenAI Chat Completions、Responses与Anthropic Messages三种主流API协议与模型Token之间做双向编解码,官方称其处理逻辑与自家API完整对齐,确保第三方部署能获得与官方部署一致的API体验。第一财经GitHub知乎
账本摊开:便宜不是补贴,是成本结构
38美元/卡/时的收入之所以成立,靠的是几项工程设计的复利。面对Agent每调用一次工具就要把系统提示、历史对话整段重新发给模型的负载,DeepSeek把算过的前缀缓存下来:Block KVCache存放在独立的3FS分布式文件系统中,相关存储容量约为100PiB,Agent流量保留3天、聊天流量保留7天。按官方披露的线上统计,平均96%的输入Token可以直接命中缓存、根本不用重算。缓存之外,对未命中的滑动窗口注意力只重算最近128个Token,投机解码DSpark采用变长验证,相比固定验证5个Token再提升6%吞吐。知乎新智元华尔街见闻
对普通用户,这套成本结构直接翻译成了价格表:现行模型DeepSeek-V4.1-Flash-1017支持100万Token上下文,工作日9点至12点、14点至18点为高峰时段,其余时段及整个周末、法定节假日均为空闲时段,价格一律减半——未命中缓存的输入从2元/百万Token降到1元,输出从8元降到4元,命中缓存的输入只要0.02元。一次长上下文请求的成本,可以低到几分钱的量级。DeepSeek官网
需要澄清一个常被混用的口径:155万亿是DeepSeek自营"单一集群"的服务吞吐能力,不是全网调用量,也不能与第三方平台的统计直接换算。需求侧的参照来自聚合平台:OpenRouter数据显示,7月27日至8月2日当周全球AI大模型总调用量为56.8万亿Token,DeepSeek V4 Flash位居榜首。自营产能与聚合平台调用量的统计对象不同,放在一起只能说明一件事——需求已经真实放大到"万亿Token/周"的量级,谁能把单位智能成本压得更低,谁就接得住这波需求。就在DeepSeek开源推理框架的当天,MiniMax发布M3.1 Flash,输出速度卷到200+TPS、价格砍到1/2。界面新闻36氪
开源了,但没全开源:受益顺序决定了"平民化"的速度
官方仓库把边界写得很清楚:这次发布提供离线推理及大规模服务所需的核心能力。要搭一套能对外接客的完整在线服务,开发者仍需自己补齐三块——KV缓存系统、Prefill/Decode分离部署、跨副本负载均衡;官方的解释是,KVCache管理与负载均衡组件与内部基础设施耦合较深,相关代码目前尚未完整开源。GitHub知乎
硬件名单同样划出了门槛:DeepInfer目前只支持V4.1-Flash一个模型,个人电脑的消费级显卡不在支持之列;按官方部署问答给出的建议,想要部署效率高,最小部署单元是64卡Prefill加64卡Decode。第一财经的判断相当克制:实际能够节省多少成本,仍取决于硬件配置、业务负载和部署能力。新智元第一财经
所以"平民化"的受益顺序是清晰的:第一梯队是已经持有数据中心级算力、却苦于调不出官方成本曲线的云厂商、Agent平台和私有化部署团队——此前只有向DeepSeek购买API才能享受的成本结构,如今有了可照着实现的工程蓝本;第二梯队才是通过API用便宜模型的普通开发者和用户。普通个人"在自己电脑上跑满血大模型"的场景,这次并没有被开源解决。
平民化来了几成:看三个后续信号
回到标题的问题。如果"AI平民化"指的是智能服务的价格不再是少数巨头的专利、任何一家有卡的企业都能参照官方级成本曲线自建服务——那么答案是来了,而且这次连账本一起公开,比"模型免费"更进一步。如果指的是"人人都能自建大模型"——还没有,128卡起步、数据中心级芯片、三件套待补,门槛仍然真实存在。
不过方向已经写明:官方承诺,新模型的推理代码及后续性能优化都将在DeepInfer框架中持续开源。接下来值得盯住三个信号:云厂商是否跟进下调自家开源模型服务价格;暂缺的KV缓存、分离部署、负载均衡三件套何时补齐开源;以及分时定价、缓存命中这套"谷电逻辑"能否被更多厂商复制。价格战的下一个降价节点,就是平民化再往前推一格的时刻。华尔街见闻