Kimi K3 开源了,什么实力才能部署
先看看月之暗面给开放权重制作的宣传片。
"道生一,一生二,二生三,三生万物"

K3权重真上 Hugging Face 了。
2.8万亿参数、896个专家、14项跑分超过Claude Opus 4.8、前端编程世界第一。各路头条已经吹上天了。
但有个事没人认真回答你:跑这玩意到底要啥配置?
你没那个实力。
这么说吧,你要是手头没有8张H100,直接关页面去 kimi.com 调 API。
K3 全量 FP16 要 5600 GB 显存。你得凑32张 H100 80GB,还不能有瓶颈。一台 DGX H100 是8张,你要4台。光机器就差不多300万美元。
量化能降一点。INT8 降到16张,INT4 降到8张。最狠的 Q2 量化也要6张 H100,480 GB。
你桌上的 RTX 4090 才24GB。一张不够,四张才96GB,连人家零头都不到。
月之暗面自己推荐的是64卡超节点。他们还说了,NVIDIA GB300 NVL72 跟 K3 需求"高度匹配"——一套300万美元起步。
说白了,这权重开源是开源了,但只有买得起私人飞机的人才配下载。
再说说这个"开源"。
网上都在传"Apache 2.0",其实不是。月之暗面用的是 Modified MIT,在标准 MIT 基础上加了三条。
合成数据那条:K3 吐出来的文本不算衍生作品。你拿 K3 的输出去训练新模型,那新模型不归这个协议管。说白了,随便蒸,但别指望用月之暗面的许可证给你的蒸馏货背书。
MAU 门槛那条:你拿 K3 做产品,月活过1亿或者月营收过2000万美元,就得显著标注"Kimi K3"。门槛不低,99%的公司碰不到。
MaaS 那条是 K3 新加的:你拿 K3 去卖付费 API,年收入过2000万美元就得跟月之暗面单独签约。K2 还没这条呢,是专门针对"你拿我模型卖 API 抢我生意"这个场景补的。
所以严格来说 K3 不算"开源"——按 OSI 定义它叫开放权重。你大概率不会触发这些限制,但搞清楚总比稀里糊涂强。
月之暗面当然知道这一点。
他们压根没假装这是社区项目。K3 就是给企业私有化部署和数据合规行业准备的——银行、医院、政府,这些地方自己就有 GPU 集群。个人用户不是他们的目标。
所以他们赶在开源之前先把 API 跑通了。你付钱,他们帮你跑。编程场景缓存命中率超90%,实际成本打到每百万token两块钱。自己买显卡?算算账就知道不值。
开源权重就是个姿态,API 才是生意。
数据也佐证这一点:编程场景缓存命中率90%+,说明大部分人问 K3 的都是公开代码和常见 bug,真拿私有数据去问的没多少。
K3 的真正用户不是你我这种个人开发者。是那些机房里有几百张 H100 的机构。数据不能出域,不能用海外 API,不能经过第三方——他们只能自己部署。
你?这是一道选择题:花300万美元买显卡,还是每个月花几百块调 API?
我下载了 K3 的 4-bit 权重。1.4TB,放硬盘上占了半个分区。加载花了20分钟——这还是 NVMe 固态。然后我关了终端,打开了 Kimi 网页版。
不是我不想跑。是整个办公室凑不出8张 H100。
开源不等于谁都能用。这个道理在 K3 身上被放大到了极致——参数大到只有买得起超算的人才能本地跑,其他人只能隔着网线远程用用。它确实"开放"了,但门槛高到大多数人只在新闻里见过那种硬件。挺好的。2.8万亿参数,前端世界第一,Modified MIT,免费下载。如果你有8张 H100 的话。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
