什么值得买App下载 App ›
连续签到专享现金活动

大语言模型或将被扩散模型替代:替代尚未发生,分工已经开始

这轮"大语言模型或将被扩散模型替代"的热榜词条,是一句口号和两份成绩单撞在一起的结果。10月下旬,一条小红书高赞帖断言"三年内,扩散模型将全面替代大语言模型",随后被搬进知乎形成热门提问。 对应的事件是:10月19日,主打扩散架构的Mercury 3上线提供API;10月28日,深圳公司扩散智能发布Clover-35B-A3B-Preview。但先把结论说清:"替代"目前还立不住。这两场发布坐实的,是扩散写文字第一次在智能体、代码这些真实任务上够到了主流自回归大模型的桌沿——而截至发布当天,所有跑分都是官方自报,没等到第三方复现。小红书知乎

这两份成绩单,比前辈敢报的分高

10月19日,由斯坦福大学教授Stefano Ermon联合创办的Inception Labs拿出成绩单:Mercury 3在官方公布的多项基准测试中超过GPT-6 Luna和Claude Haiku 5.5,输出速度达到每秒1068 Token,最高比GPT-6 Luna快约8倍;上下文窗口首次做到100万Token,首发期输出定价每百万Token 0.35美元。 过去"扩散模型只快但不聪明"的印象,头一回被发布方用能力分正面改写。36氪

九天后,扩散智能的Clover-35B-A3B-Preview把战场选在Agent主场:总参数350亿的MoE架构,每个token激活约30亿参数,支持思考模式。在网页Agent评测WindTunnel的49个任务中,每个任务尝试3次,它的中位执行时间为1.52秒,Jev+Mercury 2.5组合为3.21秒,尝试成功率98.6%对95.9%。 在考察真实代码仓库问题解决能力的SWE-bench Verified上,官方报出73.6分,连报道方都承认,这已经超出"玩具扩散模型"的水平。量子位知乎

快是怎么来的:从一次写一个字,到一次定一块

我们熟悉的所有主流大模型都是自回归的:给它前半句,它猜下一个字,每写一个字都要把整个模型从头跑一遍。扩散语言模型换了一种生成方式:允许多个位置同时更新,再经过几轮完善,逐步得到结果。 Clover的方案是块扩散:把要生成的文本切成一块一块,块与块按顺序推进,块内32个位置一起猜,但每轮只定下有把握的格子——它给自己划了条及格线,错一格就再也改不回来,这是"快"的代价。量子位知乎

这种加速在聊天场景里感知有限,在Agent任务里却是另一种量纲:打开网页、调用工具、读取返回要连续几十次,每一步省下的时间最终累加成整个任务的完成时间。Inception给的智能眼镜搜索案例里,换用Mercury 3后,模型生成耗时中位数降到了0.9秒,端到端响应中位数为2.2秒。36氪

"替代说"之前,三道绕不过去的坎

第一道坎是能力来源。Clover并不是从零训练出来的,它是从 Qwen3.6-35B-A3B 的权重出发改的,好处是省下天价预训练成本、直接继承一个成熟模型的语言能力,代价是能力上限相当程度上仍受原模型约束。 模型卡也承认,非常长的生成有时会变得重复,目前只能靠工程手段压制。知乎

第二道坎是行业判断。科普过热门LLM架构长文的Sebastian Raschka今年1月仍然表态,“我坚信在最先进(SOTA)的建模性能方面,Transformer 的地位依然稳固(至少在未来一到几年内)”。 而大厂和顶级实验室并没有离场:何恺明团队尝试在连续嵌入空间中生成语言,谷歌推出DiffusionGemma探索并行文本生成,国内大厂也在做面向代码任务的扩散模型——这条线是在升温,不是在收尾。微博量子位

第三道坎是账本。AI Infra圈子里有更苛刻的测算:扩散语言模型训练成本更高、同等算力的学习效率差于自回归,且去噪带来额外计算消耗——小批量下确实快,大批量并发下根本比不了自回归。 数据中心里大并发跑批的场景,自回归成熟的缓存与调度优化仍然省钱;扩散模型威胁到的,恰恰是它用不上"大锅饭"的场景。知乎

先被替代的不是大语言模型,是分工

Tri Dao的评论点出了这场变化更像什么:他一直想把足够聪明的"协调者"模型和速度极快的"执行者"模型组合起来,扩散LLM或许正好能担任后者。 扩散智能背后的团队也给出了同样的落点:这家公司由港大孔令鹏教授和两位博士生今年5月在深圳创立,10月初连续完成两轮融资、合计近5亿元人民币,经纬创投、顺为资本、君联资本领投,华为哈勃与地平线跟投——端侧算力有限又要求响应快的场景,正是并行生成最先兑现的地方。36氪知乎

接下来值得盯的是三个可验证的信号:未来一两周,社区对Mercury 3与Clover跑分的第三方复现结果;扩散模型在大并发在线部署中的真实成本曲线;以及华为哈勃、谷歌们会不会把这条路线从demo推向产品。"AI只能一个字一个字往外蹦"的时代在技术上已被绕过;扩散模型会不会替代大语言模型,取决于它能否在三年内把"更聪明"和"更便宜"这两件事同时做成。

评论 1

rainred用户头像挂件

又要挖矿了

湖北

没有更多了