蚂蚁百灵开源 Ling-3.1-flash,1M 上下文还打 2.5 折
蚂蚁百灵昨天开源了一个新模型,Ling-3.1-flash。总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文,走的是大参数量但稀疏激活的路子,想在能力、速度和部署成本之间找一个平衡。
看几个公开数据。在 Artificial Analysis 的评测里,它的智能指数是 41,输出速度约每秒 210 Token。智能指数这个数不算顶流,但配合 210 Token 的秒速,定位明显偏向"快而够用"的 Flash 型模型,不是拿来跑最难的推理,是拿来处理量大、要快回的日常任务。

部署这块是它重点打的点。团队对 routed experts 用了 MXFP4 量化,dense 层保持 block-FP8,权重占用从约 534GB 降到了 292GB。在对应的 Hopper GPU 测试里,服务部署从 8 卡降到 4 卡。这对有服务器级 GPU 的团队意味着,能拿更少的卡跑起来。当然实际需求还是随上下文、并发和服务配置变化。
长文档是它的主战场。官方给了一组模拟生产请求的测试,平均输入约 25.47K Token、输出约 224 Token、缓存命中率 76% 的情况下,8 卡 Hopper 的平均首 Token 时间是 604 毫秒,相邻输出 Token 平均间隔 3.28 毫秒。企业知识问答、办公助手这种要先读一大段资料再回复的场景,这组数据有点参考价值。
价格上现在有限时 2.5 折。OpenRouter 美元计价,输入 0.075 美元,输出 0.225 美元,缓存读取 0.015 美元;Ling Studio 人民币计价,输入 0.5 元,输出 1.5 元,缓存读取 0.1 元。模型也放上了 Hugging Face 和 ModelScope,能自己部署。
对普通用户,这个模型不会直接走进你的手机。它面向的是要做企业知识库、办公助手、长文档处理的开发者团队,卖点是"长上下文 + 低部署门槛 + 便宜"。1M 上下文意味着能一次性塞进几十万字,这个在长资料场景是硬需求。
一句话总结,Ling-3.1-flash 不抢最强模型的位子,它抢的是"长上下文里又快又省"这个细分市场。开发者值不值得上,看你的业务是不是真需要长文档加高吞吐,光看参数没用,得拿自己的数据跑一跑。
作者提示含AI生成内容。
