告别高昂API!用Kimi开放权重模型免费搭建私人AI

源自211位全网作者

10-24 12:39

10月24日凌晨,月之暗面发布了 Kimi K3.1 Pro,官方称这是其迄今能力最强的3万亿级参数模型,支持100万token上下文。官方同时承诺,完整模型权重将在11月4日前发布。随之而来的热帖话术是"下载权重免费,告别昂贵API,在家跑一个私人AI"。但账要分开算:真正免费的只有下载权重这一步;把它跑起来的钱、商用的授权费是另外两本账,而且都不便宜——倒是API本身,这次率先降价了三分之一。36氪知乎

不是重训的新模型,成绩逼近顶级闭源,但成绩单目前多是官方自报

K3.1 Pro不是从零训的新模型,它是今年7月发布的K3的后训练版本,基座没换。官方称相比K3最明显的变化是进一步增加了后训练计算量,并把强化学习扩展到数百个下游领域。知乎36氪

按官方公布的成绩,它在Terminal-Bench 4.0上拿到65.7%,超过了GPT-6 Astra;与Claude Opus 5.5的66.4%只差0.7个百分点。第三方机构Artificial Analysis的独立智能指数给了它55分、全球第四,比上一代K3高出11分。知乎知乎知乎

但要注意这批数字的成色。发布当天的解读说得很直白:这句话现在只有官方自己的成绩单撑着,独立评测还没出来。AA那句"权重发布后它将成为得分最高的开放权重模型",用的也是将来时。在11月4日之前,"开放权重"还是一个带日期的承诺,不是已生效的状态。知乎知乎

"免费"要算三本账:下载不花钱,跑起来千万级,商用可能还要分成

第一本账是算力。完整权重文件约1.56TB,社区实测单张12GB显卡虽然能把权重跑通,但解码一步就要92.4秒。官方给出的部署参考规格是64张H200组成的超节点,有按过报价的用户估算这笔钱大概3000多万元。知乎小红书

社区量化方案能把权重压到594GB,那仍然是机房级的内存占用;至于小一号的K2,一张24GB的消费级显卡也还差着三十多倍——满血"私人"对个人来说并不存在。小红书小红书

第二本账是API价格——这是"告别高昂API"这句话最尴尬的地方。K3.1 Pro每百万token缓存命中输入1.3元、未命中输入13元、输出68元;美元价输入2美元、输出10美元,而K3是3美元和15美元,档位齐降三分之一;高速版则以翻倍的价格换取约2到3倍的输出速度。官方一边开放权重、一边主动降价,恰恰说明"自建省钱"对绝大多数用户并不成立。36氪知乎知乎

第三本账是许可证。“免费权重"从来不等于"商用免费”:K3的开源协议就要求托管模型的云平台向月之暗面分成,其此前与微软、亚马逊、谷歌洽谈托管时寻求的最高分成比例达到30%,AWS Bedrock上架K3则首次落地了这类收入分成安排。至于K3.1 Pro的权重将采用什么协议,目前的发布材料里还没有答案,要等11月4日一并揭晓。知乎知乎知乎

对个人用户,更现实的私人AI是把数据搬给模型,而不是把模型搬回家

现在可用的入口有四个:Kimi.ai、Kimi Work、Kimi Code和Kimi API,API中的模型名是kimi-k3.1-pro;普通用户也可以直接在kimi.com和Kimi App里用上这款模型,不用任何部署。想让工作内容不进别人的服务器,现阶段划算的做法是本地Agent工具链加API:模型在云端推理,代码、文档和工作流留在自己机器上。这达不到"权重在我手里"的字面意义,却是大多数场景下成本最低的私密方案。知乎

代价是这条路线受额度约束。有社区用户反馈,订阅每月99美元套餐后,仅运行一个会话、没有启动Agent群组,大约47分钟就触发了5小时额度限制,高强度编程场景下限额消耗比一代模型更快。至于真正的离线需求——数据不出内网的政企环境——目前证据支持的唯一路径仍是小尺寸模型或量化版本;满血的K3.1 Pro从11月4日放出的那一刻起,定位就是企业机房的产品。36氪

开源版会主动"削"掉一部分安全能力,拿到的不是广告意义上的满血版

下载到的11月版也不会是完全体。官方技术博客承认,后训练阶段发现网络攻防数据混入通用语料和强化学习任务会推高模型的漏洞研究能力,因此在准备开放权重版本时,从训练阶段识别并删除了相关数据。36氪

代价写在了官方测试里:在xdev-bench-hard上,不删数据的检查点pass@3为90.5%,最终发布版降到81.0%,主动砍掉9.5个百分点。官方把这一处理与现状判断连在一起:目前K3.1Pro的网络攻防能力仍落后于已经公开发布至少3个月的前沿闭源模型,其原则之一是不希望一个开放权重模型直接推进攻击性网络安全能力的最前沿。而API服务版与11月放出的权重版在能力上是否完全一致,官方材料尚未逐项说明,在权重落地前这是个悬置问题。知乎36氪

11月4日之后看三个信号

权重是否如期放出、许可证条款把"分成"限制在哪些商用场景、独立复现能否把"差0.7分"从承诺变成事实——这三件事要到11月4日才有完整答案,届时跑分也会迎来第一次真正的独立检验。回看"告别高昂API、免费搭建私人AI"这个命题:免费是真的,但只免到下载为止;API高昂也已经被降价三分之一的定价证伪;私人AI值不值,最终只取决于一个问题——你的月用量能否摊平一台工作站的钱。摊不平,最便宜的私人AI,恰恰就是那个刚降过价的API。知乎

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章