11月6日晚,摩尔线程宣布基于AI训推一体智算卡MTT S5000及MUSA软件栈,完成了刚开源的3万亿级参数模型Kimi K3.1 Pro的Day-0适配,打通模型加载、服务启动及文本、图片基础推理链路。 开发者最关心的只有一个问题:现在能用上吗?答案分两层——模型本身今天就能用,API自10月24日发布起开放,完整权重也已于11月4日放出;但“在国产GPU上跑通Kimi”暂时和个人电脑无关:这次验证跑在48张S5000卡组成的企业级集群上,公告里没有给出任何吞吐数字。这件事真正的增量不是个人本地部署成为可能,而是国产算力生态又一次跟上了前沿开源模型的第一时间。第一财经
2026年11月4日,月之暗面正式公布了Kimi K3.1 Pro完整模型权重。 K3.1 Pro是总参数2.8万亿的稀疏MoE模型,每次推理只激活其中约1040亿参数,支持100万token上下文,权重原生MXFP4、实测大小1.56TB、共96个分片。IT之家知乎知乎
集群规模由模型体积决定:“跑通”的是48张卡,不是一台电脑
集群规模不是厂商“不够亲民”,而是模型体积决定的:据公开报道,摩尔线程此轮适配验证的配置是6台服务器、每台8张MTT S5000、共48张卡,模型跑起来之后用中文介绍了自己,也描述了一张输入图片里的内容。 S5000单卡80GB显存是产品公开参数,48张卡合计3840GB,1.56TB的4位权重用掉不到一半,剩给并发和上下文缓存——换句话说,这套配置服务的是“一批同时进来的请求”,个人用户占不满这个配置。知乎
也要把“跑通”的边界说清楚:公告的公开内容止于跑通,没有披露每秒出字量、并发数等数字,官方承诺的只是还会继续做性能优化,围绕核心算子、显存管理和多机通信,目标是为开发者提供更具性价比的Token服务。 同一批国产方案处在类似阶段:11月5日,阿里云灵骏真武M890超节点完成了对K3.1 Pro权重的Day-0适配,并在vLLM与SGLang两大主流开源推理框架上跑通全链路验证。知乎东方财富
Day-0说的是跟上上游节奏,不是上线可用的承诺——昇腾CANN适配K3.1 Pro的公开代码仓库里,同一份提交的检查清单中有一行“已完成目标NPU实机与完整权重验证”没有打勾,意思是代码合进来了、测试跑的是小配置,真机跑完整权重这一步还没做完。 从“跑通”到“跑得划算”,中间隔着按月计算的调优工程。知乎
拿着权重也部署不了:普通开发者要算硬件、渠道、许可三本账
普通开发者拿着权重能做什么,先看硬件账:权重加起来约1.56TB,个人显卡就别想了,网友自嘲在2.3万美元的Mac Studio上也只能跑出每秒0.1个token;官方推荐vLLM、SGLang等推理框架,SGLang给出的部署方案需要8张英伟达GB300。 月之暗面技术博客明确说了:建议在64卡以上超节点配置上部署;有科技博主据此测算私有化部署“入场券”约800万元起、舒适配置奔着三千万去——该数字为自媒体估算、仅供量级参考,但与官方建议的方向一致。知乎知乎
渠道账同样明确:S5000不是零售商品,摩尔线程的智算集群商业化已从“卖卡”升级为“卖集群”,以服务器、网络、存储打包的交钥匙方案交付企业和智算中心客户。 无锡惠山国产智算中心一期264台国产GPU服务器、2112张计算卡已全面投运,20多家客户在用、数十家单位排队等待进入——即便如此,拿到这批卡的也是机构客户,而不是个人。微博知乎
许可账反倒对普通开发者友好:许可证主体沿用MIT协议的写法,个人和公司都能免费使用、修改、二次分发并拿去商用;附加限制只落在两类主体上——集团12个月营收超2000万美元的API转售大厂需另签协议,月活超1亿或月收入超2000万美元的产品需在界面醒目署名,公司内部使用不受限。知乎
所以“现在就能用上”的现实路径,对个人主要是调API:10月24日,Kimi正式发布K3.1系列首款模型Kimi K3.1 Pro,Kimi.ai客户端、KimiWork、KimiCode可直接调用;官方输入价格从每百万Token 20元降至13元、输出价格从100元降至68元。36氪知乎
要提醒的是,单价降三成不等于每个任务便宜三成——长任务token消耗大,发布初期曾引发额度消耗过快的吐槽,月之暗面随后公告10月26日起对所有档位订阅用户返还月度总额的25%。 不想被单家额度卡住的团队也有新渠道:11月5日起,月之暗面的Kimi K3.1 Pro正式登陆微软Foundry,走的是分成模式。36氪东方财富
这次“跑通”真正的受益者是做私有化、国产化部署的企业:需要把数据留在内网、算力来自国产GPU的客户,第一次能在前沿开源模型发布当天拿到国产卡上的可部署路径。在无锡集群运营方披露的DeepSeek V4 Flash实测口径(7K输入/2K输出)下,S5000资源池单机输出吞吐量达994.97tokens/s、SLA达标最大并发48路,达到英伟达H800的92%,显存单价不到H800的一半。 需要说明,这套数字来自其他模型的实测口径,不能直接套算到K3.1 Pro上;采购时真正该要的,是K3.1 Pro完整权重下的每秒出字量、最大并发和跨机all-to-all带宽实测——这些正是目前公告里还没有的数字。知乎
节奏本身也值得记录:7月月之暗面开源2.8万亿参数的Kimi K3时,摩尔线程就迅速完成了Day-0适配;这次换成K3.1 Pro,跟进依然是第一天。 公司三季报同时披露,其已Day-0支持DeepSeek、GLM、MiniMax、Kimi、Qwen等前沿开源模型——国产算力对头部开源模型的适配正在从“个别事件”变成“固定动作”。 对普通开发者来说,今天不需要改变任何调用API的方式;这件事更像一根进度条:下一次你因为数据安全必须把K3.1 Pro这类模型搬进自家机房时,选项里会多出一张国产全功能GPU——而要验证它是否划算,等的不是“跑没跑通”,而是每秒出字量和并发数这两个数字。微博知乎