最直观的变化是一个字：快。端侧大模型的短板从来不是"能不能做"，而是"能不能用"——主流大模型逐字往外蹦，算力一代代翻倍，本地 Agent 该卡的还是卡。2026 年 10 月 28 日，深圳公司扩散智能（DiffuSpace）开源了首个商用扩散语言模型 Clover-35B-A3B-Preview，官方口径下它做 Agent 任务的平均耗时是主流方案的一半。更早的 9 月初，扩散智能与端侧智能体计算平台 Acrab 公布的测试结果显示：在端侧场景中，扩散语言模型可将 Agent 的运行速度提升约 5 倍，双方计划推进其在 AI PC、智能汽车、机器人及智能家居等场景的落地。端侧 AI 用上扩散模型，拿到的不是能力跃升，而是本地 Agent 从"能跑"到"能用"的门槛。知乎机器之心
最先变快的为什么是端侧，不是云端
扩散并不是新面孔，它出身图像生成、已被用了多年，但这一轮被优先推到设备端，是因为端侧恰好是它速度红利吃得最满的场景。生成方式上，它不再是"一个字一个字往外敲"，而是把一段文字先蒙上再并行去噪、一次落定一整块，卖点是"快"和"能改"。并行生成省下的是等待时间，任意位置下笔则天然适合修改类任务。36氪
关键在并发上的取舍。自回归解码是访存受限的，GPU 算力大量闲置，云端可以靠加大 batch 让一次计算同时服务几十上百人；扩散模型每一步去噪都是对整个块做完整前向，本身就是计算受限，没有多余算力再接请求——今年一篇做硬件特征分析论文的结论就是"每个去噪步都是计算受限的，GPU 运行在 roofline 附近"。知乎
一位做线上推理的从业者分享了复现结果：块扩散补上缓存后，首包和整段生成延迟都比同尺寸的自回归模型低很多，论文宣称的吞吐提升最高 27.6 倍他们没复现到，但几倍的提升是有的；一旦把并发加上去，自回归的吞吐随并发一路往上涨，扩散模型的曲线很早就平了。一句话总结：扩散模型的速度优势主要体现在单用户延迟上——而端侧是最典型的单用户场景，云端用不满的优势，在设备上刚好用满；端侧芯片这些年堆出来的 NPU 算力，也正好喂得饱它的计算胃口。知乎
这已经不是一个小团队的独角戏。谷歌此前发布了扩散版 Gemini 并开源 DiffusionGemma，蚂蚁开源了千亿参数的 LLaDA2.0，扩散语言模型从学术演示变成了巨头的集体试探。扩散智能成立不久即完成数亿元融资，是这一方向迄今全球最大的一笔，投资方阵容包括经纬、顺为、君联、中科创星、华为哈勃和地平线。36氪
手机和电脑上，你能摸到的三件事
第一，速度直接换算成任务成功率。官方实测里，同样是找校园内最近的快餐店，Clover 用 28 步、169.9 秒查到 2 公里外正确的那家；对比模型用满 30 步上限、跑了 578.3 秒，最后停在 347 公里外的门店，任务失败。每一步更快意味着反馈回路更短，本地 Agent 能在同样的时间预算里干完原来"跑不完"的活。知乎
第二，本地生成从"只能往后写"变成"可以在原地改"。文档改一段、代码修一个 bug、网页局部重生成，这些端侧办公里反复出现的编辑动作，正是扩散路线相对自回归最不一样的地方。这条路线之争的合理终局大概率也不是谁吃掉谁，而是分工：“自回归管生成，扩散管修改”。36氪
第三，硬件顺序很清楚：电脑先行，手机候补。Clover 是总参数 350 亿、激活 30 亿的 MoE 结构，INT4 量化后 16GB 显存就能跑，RTX 5070 Ti 这一档的消费卡就能吃到完整速度——本地跑一个"有 Agent 能力"的模型，第一次进入普通电脑的射程。官方端侧评测中，它在知识推理、工具使用、智能体编程九项里六项第一，对手包括 MiniCPM-V、Gemma 4 等端侧开源模型。知乎
但手机还接不住这个体量：现有旗舰机的内存装不下这组权重，"推进量化与端侧适配"仍写在扩散智能的路线图上，手机真正受益要等更小尺寸的模型。知乎
替代论站不住，这些折扣要先认
"三年内，扩散模型将全面替代大语言模型"的说法 10 月 28 日前后在知乎冲上热榜，但目前的证据撑不起这句话。其一，Clover 的评测全部为官方自报，对照集与评测配置出自自家博客，第三方复现尚未跟上；模型本身也还是 Preview 版本，工程还在快速迭代。其二，从技术走势看，"扩散模型取代自回归模型"的结局不太可能出现，更可能是一个连续谱——纯自回归在一端，全序列扩散在另一端，中间是各种块大小的混合方案，不同负载各取所需。其三，需求端的疑问也没有被速度消解：“端侧 AI 是罕见需求"的判断在 9 月中旬的社区讨论里被反复引用、引发争论，用户端关心的始终是"好不好用”，快只是必要条件。知乎知乎小红书
接下来值得盯的信号有三个：第三方复现数据出炉、手机级（百亿参数以下）扩散模型发布、AI PC 或手机厂商把本地 Agent 功能真正预装上市。三选一落地，手机和电脑的变化才会从标题走进手里。
