蚂蚁百灵开源 Ling-3.1-flash,1M 上下文还打 2.5 折

蚂蚁百灵开源 Ling-3.1-flash,1M 上下文还打 2.5 折

2026-10-16 11:50:43 0点赞 0收藏 0评论

蚂蚁百灵昨天开源了一个新模型,Ling-3.1-flash。总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文,走的是大参数量但稀疏激活的路子,想在能力、速度和部署成本之间找一个平衡。

看几个公开数据。在 Artificial Analysis 的评测里,它的智能指数是 41,输出速度约每秒 210 Token。智能指数这个数不算顶流,但配合 210 Token 的秒速,定位明显偏向"快而够用"的 Flash 型模型,不是拿来跑最难的推理,是拿来处理量大、要快回的日常任务。

蚂蚁百灵开源 Ling-3.1-flash,1M 上下文还打 2.5 折

部署这块是它重点打的点。团队对 routed experts 用了 MXFP4 量化,dense 层保持 block-FP8,权重占用从约 534GB 降到了 292GB。在对应的 Hopper GPU 测试里,服务部署从 8 卡降到 4 卡。这对有服务器级 GPU 的团队意味着,能拿更少的卡跑起来。当然实际需求还是随上下文、并发和服务配置变化。

长文档是它的主战场。官方给了一组模拟生产请求的测试,平均输入约 25.47K Token、输出约 224 Token、缓存命中率 76% 的情况下,8 卡 Hopper 的平均首 Token 时间是 604 毫秒,相邻输出 Token 平均间隔 3.28 毫秒。企业知识问答、办公助手这种要先读一大段资料再回复的场景,这组数据有点参考价值。

价格上现在有限时 2.5 折。OpenRouter 美元计价,输入 0.075 美元,输出 0.225 美元,缓存读取 0.015 美元;Ling Studio 人民币计价,输入 0.5 元,输出 1.5 元,缓存读取 0.1 元。模型也放上了 Hugging Face 和 ModelScope,能自己部署。

对普通用户,这个模型不会直接走进你的手机。它面向的是要做企业知识库、办公助手、长文档处理的开发者团队,卖点是"长上下文 + 低部署门槛 + 便宜"。1M 上下文意味着能一次性塞进几十万字,这个在长资料场景是硬需求。

一句话总结,Ling-3.1-flash 不抢最强模型的位子,它抢的是"长上下文里又快又省"这个细分市场。开发者值不值得上,看你的业务是不是真需要长文档加高吞吐,光看参数没用,得拿自己的数据跑一跑。

作者提示含AI生成内容。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
京东京享红包
距结束::
领京东现金红包 天天领3次 最高26888元
红包按钮
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松