10 月 24 日,月之暗面发布 Kimi K3.1 Pro:3 万亿级参数、100 万词元上下文。 2026 年 11 月 4 日,完整权重公布。 之后,昇腾、摩尔线程、阿里巴巴平头哥先后宣布「Day-0 适配」。微博微博知乎
摩尔线程的公告写得很具体:基于 MTT S5000 和 MUSA,完成 Day-0 适配,打通模型加载、服务启动和文本、图片推理。 但公告里没有吞吐数字,也没有卡数。 Day-0 适配本来就是先把算子写通、把服务拉起来;从跑通到跑得划算,中间还隔着按月计的调优。微博知乎
先看模型本身。K3.1 Pro 是稀疏 MoE,总参数 2.8 万亿,每处理一个词只激活 1040 亿。 这个结构决定了,算力不是最紧的,显存和跨卡通信才是。知乎
权重 1.56TB,单台 M890 超节点的 1.15TB 显存连权重都装不下。 每进一个词,被激活的专家要被路由到不同的卡上,all-to-all 通信成了真正的考题。知乎专栏
三家里,只有昇腾给了具体的数字:950DT 平台、32 卡、10 万 token 的输入、Global Batch 32,平均 Decode 时延低于 10ms/token。 这个数字只说明 32 路并发下每个字的间隔够短,统计的还只是模型计算耗时;一张卡能挂多少路、跑一天要多少电、出一个字摊多少成本,都没说。知乎
所以,「日常用」要分两本账。对普通用户,它其实已经发生了:Kimi 的 App、API 都能调到这个模型,11 月 5 日起还上了微软 Foundry。 你不用关心背后是哪张卡。真正被「国产 GPU 首跑」改变的,是企业私有化部署的那本账。知乎
这本账不便宜:按公开报价估算,本地部署最低 800 万元起步,推荐配置约 3000 万元。 拆开看,两台 16 卡的入场券约 820 万到 850 万元,八台 64 卡约 3100 万到 3200 万元。这还只是硬件。知乎专栏
更值得看的是模型自己的账:它太能写了。K3.1 Pro 的 API 单价比 K3 便宜了约 33%,但 Artificial Analysis 实测,它完成一个任务平均花 1.98 美元,K3 是 2.00 美元;每个任务输出 55K token,比 K3 多 14%。 单价便宜,不代表一件活便宜。知乎
整套智能指数测试里,K3.1 Pro 累计输出约 1.5 亿 token,参测模型的中位数只有 8700 万,高出约 72%。 这就是为什么「token 降价」和「日常用得起」不是一回事。你买的不是 token,也不是卡,是「把一件事干完」。36氪
这套账在订阅上更直观。K3.1 Pro 上线不到 12 小时,争议就来了;两天后,Kimi 因为限流和额度消耗公开道歉,给所有套餐订阅者恢复了 25% 的月度额度。 有用户只发了一句「审查项目架构」,模型拉起 5 个子 Agent,十几分钟把 5 小时额度用满;高峰期,付了费的用户也会看到「请稍后再试」。这不是国产 GPU 的问题,但它说明「日常用」的瓶颈从来不只在芯片。36氪
回到最初的问题:3 万亿模型在国产 GPU 上首跑,离日常用还有多远?
如果「日常用」指打开 App 问一句话,那它已经到了,只是和你脚下这台机器是不是国产卡关系不大。
如果指企业把 2.8 万亿模型装进自己的机房、天天稳定地跑,那还差三个数:单卡每秒出多少 token,一张卡能同时挂几路,干完一件活要多少钱。这轮公告里,只有昇腾给了一个延迟数字。
首跑是发令枪,不是终点线。下一次值得转发的,不是又一家「Day-0 适配」,而是第一份敢让第三方复现的吞吐和成本报告。