当前位置:
文章详情

Kimi K3 开源了,什么实力才能部署

2026-07-28 11:24:45 0点赞 0收藏 0评论

先看看月之暗面给开放权重制作的宣传片。

"道生一,一生二,二生三,三生万物"


Kimi K3 开源了,什么实力才能部署

K3权重真上 Hugging Face 了。

2.8万亿参数、896个专家、14项跑分超过Claude Opus 4.8、前端编程世界第一。各路头条已经吹上天了。

但有个事没人认真回答你:跑这玩意到底要啥配置?

你没那个实力。


这么说吧,你要是手头没有8张H100,直接关页面去 kimi.com 调 API。

K3 全量 FP16 要 5600 GB 显存。你得凑32张 H100 80GB,还不能有瓶颈。一台 DGX H100 是8张,你要4台。光机器就差不多300万美元。

量化能降一点。INT8 降到16张,INT4 降到8张。最狠的 Q2 量化也要6张 H100,480 GB。

你桌上的 RTX 4090 才24GB。一张不够,四张才96GB,连人家零头都不到。

月之暗面自己推荐的是64卡超节点。他们还说了,NVIDIA GB300 NVL72 跟 K3 需求"高度匹配"——一套300万美元起步。

说白了,这权重开源是开源了,但只有买得起私人飞机的人才配下载。

再说说这个"开源"。

网上都在传"Apache 2.0",其实不是。月之暗面用的是 Modified MIT,在标准 MIT 基础上加了三条。

合成数据那条:K3 吐出来的文本不算衍生作品。你拿 K3 的输出去训练新模型,那新模型不归这个协议管。说白了,随便蒸,但别指望用月之暗面的许可证给你的蒸馏货背书。

MAU 门槛那条:你拿 K3 做产品,月活过1亿或者月营收过2000万美元,就得显著标注"Kimi K3"。门槛不低,99%的公司碰不到。

MaaS 那条是 K3 新加的:你拿 K3 去卖付费 API,年收入过2000万美元就得跟月之暗面单独签约。K2 还没这条呢,是专门针对"你拿我模型卖 API 抢我生意"这个场景补的。

所以严格来说 K3 不算"开源"——按 OSI 定义它叫开放权重。你大概率不会触发这些限制,但搞清楚总比稀里糊涂强。


月之暗面当然知道这一点。

他们压根没假装这是社区项目。K3 就是给企业私有化部署和数据合规行业准备的——银行、医院、政府,这些地方自己就有 GPU 集群。个人用户不是他们的目标。

所以他们赶在开源之前先把 API 跑通了。你付钱,他们帮你跑。编程场景缓存命中率超90%,实际成本打到每百万token两块钱。自己买显卡?算算账就知道不值。

开源权重就是个姿态,API 才是生意。

数据也佐证这一点:编程场景缓存命中率90%+,说明大部分人问 K3 的都是公开代码和常见 bug,真拿私有数据去问的没多少。

K3 的真正用户不是你我这种个人开发者。是那些机房里有几百张 H100 的机构。数据不能出域,不能用海外 API,不能经过第三方——他们只能自己部署。

你?这是一道选择题:花300万美元买显卡,还是每个月花几百块调 API?


我下载了 K3 的 4-bit 权重。1.4TB,放硬盘上占了半个分区。加载花了20分钟——这还是 NVMe 固态。然后我关了终端,打开了 Kimi 网页版。

不是我不想跑。是整个办公室凑不出8张 H100。

开源不等于谁都能用。这个道理在 K3 身上被放大到了极致——参数大到只有买得起超算的人才能本地跑,其他人只能隔着网线远程用用。它确实"开放"了,但门槛高到大多数人只在新闻里见过那种硬件。挺好的。2.8万亿参数,前端世界第一,Modified MIT,免费下载。如果你有8张 H100 的话。

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
0
扫一下,分享更方便,购买更轻松