华为官宣里的「首日」,指的是权重开放的第一天,而不是模型上线的那天。11月4日月之暗面放出 Kimi K3.1 Pro 完整权重,次日清晨华为宣布昇腾基于 vLLM Ascend、SGLang 完成 0 Day 推理适配,开发者当天就能把这台 2.8 万亿参数的 MoE 模型放上昇腾集群验证。这不是发布当天的临时冲刺——它需要五个条件同时成立。微博
第一个条件在模型方:权重按时放出。发布时 Kimi 就曾承诺,完整权重最晚11月4日放出来,并且如期兑现。 96 个 safetensors 分片、合计约 1.56TB、非 gated,带完整 LICENSE 和模型卡一起上线。 这也是月之暗面旗舰模型第一次放出权重,此前只走 API。 权重晚几天,后面的所有「首日」都无从谈起。知乎知乎微博
第二个条件是架构增量小、厂商做了提前功课。拆解权重的开发者分析显示,K3.1 Pro 保留了 K3 的底座,69 层 KDA 线性注意力原样保留,只是把另外 24 层换成了 Gated DSA 稀疏注意力。 昇腾这边,推理团队依托 Kimi K3 此前的适配经验,在权重公开前就提前进行模型分析,围绕新增的稀疏注意力与多模态需求协同推进算子开发与服务验证。 增量越小、功课越靠前,「0 Day」越接近例行操作。知乎知乎
第三个条件是适配发生在社区引擎里。昇腾的后端早在去年 12 月就合入了 SGLang 主仓,主流开源模型都在 Day-0 支持名单里,新模型可以一键拉起、无需改代码。 模型结构的变化先落到开源引擎上,硬件厂商跟进的成本才被压下来。微博
第四个条件分两半:规模够,且精度格式对得上。1.56TB 权重、百万级上下文,决定了官方点名的部署对象是 Atlas 800 A3、Atlas 900 A3 SuperPod 超节点以及昇腾 950 超节点这类集群产品,单机想跑「首日部署」并不现实。 另一个常被忽略的门槛是:官方权重直接按 MXFP4 权重、MXFP8 激活的量化感知训练格式放出,若目标硬件不原生支持这一系列低精度格式,部署前还得先过重新量化这一关。 昇腾 950 按 CANN 团队的说法,面向训练和推理已经支持 HiF8、FP8、MXFP8/MXFP4 等多种低精度数据格式,这是官方权重能被直接读进的前提之一。微博知乎知乎
第五个条件在用户自己这边。「能不能跑」不只是技术问题:按开发者转述的 Kimi K3.1-Pro 许可证条款,内部使用、走官方产品或认证伙伴不受限制;对外提供模型即服务且连续十二个月收入超 2000 万美元,要先和月之暗面单独签约;月活过 1 亿或月收入过 2000 万美元,界面必须标出模型名字。 对绝大多数个人开发者来说,1.56TB 存储、超节点级算力和运维成本并没有因为「0 Day」而消失——「0 Day」降低的是验证门槛,不是自建门槛。知乎
最后是边界。官方口径目前确认的是「完成推理部署与应用验证」,昇腾上 K3.1 Pro 的第三方推理性能实测数据尚未公开;Kimi 自己披露的榜单数字同样是厂商自测、还没有第三方复现。 首日跑通之后,昇腾上是「能用」还是「好用」,要看接下来第一波自建者的实际结果。知乎知乎