昨晚,美团龙猫把 LongCat-2.5 的权重挂上 ModelScope,MIT 协议。 模型卡上有个数字很抓人:1.6 万亿总参数,每 token 只激活约 480 亿。 听起来,一张 4090 就能跑。小红书ModelScope
下载页是另一幅景象:208 个主分片,合计 3.56TB。
1.6 万亿不是这次才有的数字。上一代 LongCat-2.0 就是 1.6T、48B 激活。 2.5 的新东西是原生多模态和长程智能体。 真正把老数字重新变成问题的,是这次开源——权重能下载了,“普通算力能不能跑”才第一次成了具体的问题。小红书微博
先看权重。一张 RTX 4090 是 24GB,只按显存容量算,装下 3.56TB 要约 150 张;换成美团同时放出的 W4A4 版本,1.34TB,也要约 56 张。一台 8 卡 H100 服务器有 640GB 显存,连 1.34TB 的 W4A4 权重都装不下;BF16 版本要 6 台这样的机器。这还只是权重,KV cache 和运行时激活没算。
所以,普通算力能跑吗?按本地部署的标准,不能。
48B 激活为什么听起来这么轻?因为激活参数是“每个 token 要算多少”,不是“要装多少”。LongCat-2.5 是 MoE,768 个路由专家,每个 token 只挑 12 个。把激活的 48B 按 4bit 粗算,大约 24GB,刚好是一张 4090 的显存——这就是它让人觉得“我也能跑”的原因。但下一个 token 的路由可能换一批专家,768 个专家都得在场,不能只留 12 个。参数总量决定内存,激活参数决定算力;前者是墙,后者是账单。
官方也没打算让你在家跑。模型卡的部署章节只给了 NPU 一条路。 官方指向 SGLang-FluentLLM 的 longcat-2.5-npu 分支。官方 W4A4 部署样例的配置是 194 张 Atlas A2:2 张做视觉编码,64 张预填充,128 张解码,三段分开部署。 这不是工作站的装机单,是机房的拓扑图。那套 4bit 量化,是为了在单卡不足 80GB 的国产卡上把万亿参数跑起来,不是为了把模型塞进消费级显卡。ModelScopeGitHubLongCat
所以,“普通算力”和这个模型之间,隔的不只是钱:1.34TB 起步的显存容量、超节点级的互联带宽、以及官方只给出昇腾这一条推理栈。前两样可以花钱堆,第三样决定了你堆的必须是昇腾。
普通人真正能用上的,是 API。官方开放平台目前的按量价:输入 2 元/百万 token,输出 8 元/百万,缓存命中 0.04 元/百万(原价 5/20/0.1,四折)。 你付的是 48B 激活的算力,服务商承担 1.6T 的显存。官网也能直接对话。LongCat 开放平台
这件事的意味不只是“又一个模型开源了”。权重公开、许可证宽松,但“能下载”和“能运行”之间的差距,被参数规模拉得更大。LongCat-2.5 把这道差距量化得很清楚:3.56TB、1.34TB、194 张卡。对大多数人,最近的那扇门仍然是浏览器里的输入框,或者一个 API key。开源的是权重,不是算力。