什么值得买App下载 App ›
连续签到专享现金活动

马赫 M100 减少数据搬运

19:29

马赫 M100 减少数据搬运

一颗标称算力为 1280 TOPS 的芯片,为什么还要强调算力利用率超过 82%?两个数字回答的是不同问题:前者描述算力规模,后者关乎这些计算能力有多少真正被用起来。对于需要实时处理视觉信息、执行复杂推理的辅助驾驶系统,芯片等待数据的时间,同样值得关注。

爱范儿介绍,理想于 2022 年立项马赫 M100,选择了动态数据流架构。这颗已经量产上车的芯片,也让理想在 11 月 17 日登上台积电 OIP 开放创新平台生态系统论坛,进行特邀演讲。比起登台本身,更值得讨论的是它试图解决的问题:怎样减少数据搬运对计算的拖累,让大模型更有效地使用车端算力。

算力之外,还要看数据怎样流动

大模型运行时,计算单元需要不断取得数据,并把处理结果交给后续环节。如果这些中间结果频繁往返于计算单元与内存之间,数据传输就会成为制约执行效率的环节。计算能力再强,也不能消除等待数据的时间。这正是原文讨论的“内存墙”问题。

传统软件可以借助高速缓存缓解这一矛盾。但当模型参数规模扩大,又要持续处理实时视频流时,缓存难以容纳全部所需数据,频繁访问内存的压力随之显现。因此,单看 TOPS,并不能充分说明一颗芯片运行特定模型时的表现。

马赫 M100 的做法,是改变中间数据的流转方式:处理结果不必每次都送回远处的内存,而可以沿片内互联直接进入后续计算环节,或通过环形与网格双互联总线分派给下游环节协同处理。它试图减少的,是计算过程中的反复搬运,而不只是增加计算单元。

这种安排也需要适应算法变化。马赫 M100 保留了软件可编程性,能够通过重新编译调整计算流程。理想的算法团队与芯片团队从设计之初就协同工作,目标是在数据流转效率与模型演进空间之间取得兼顾。自研在这里的具体意义,是让硬件架构与算法需求一起设计。

模型跑得更快,不等于道路反应按比例加快

爱范儿给出的数据是,采用 5nm 车规级工艺的马赫 M100,单颗算力达 1280 TOPS,算力利用率超过 82%。运行 Qwen3.5-35B-A3B 模型时,其预填充速度为英伟达 DGX Spark 的 2.7 倍,解码速度为 1.5 倍。

这些结果支持的结论有明确范围:在原文列出的模型任务中,马赫 M100 展现了相应的执行速度优势。预填充和解码属于模型运行环节,这两组倍数不能直接换算成车辆识别风险、作出决策或通过路口的速度,也不足以证明整套辅助驾驶系统按相同比例提升。

它们与辅助驾驶的联系,在于复杂推理需要硬件提供执行条件。原文介绍,理想已在 OTA 9.2 中上线马赫 VLA 2.5,并将原生三维视觉编码器 3D ViT 部署到车端。后者在视觉编码阶段融合三维空间几何与语义信息,这类连续的数据处理需求,与马赫 M100 减少中间数据搬运的设计方向相契合。

本文的判断是,马赫 M100 值得关注之处,是它把辅助驾驶的算力问题进一步落到了计算流程上:模型需要的运算,能否少一些传输等待,在车端及时完成。原文将这种效率改善解释为减少行驶犹豫、提高流畅性的技术路径,但没有提供道路对照测试。因而,更稳妥的结论是:这套架构为复杂推理提供了硬件条件,至于它在实际道路上带来多大改善,现有材料还不能量化。

评论

评论区空态插画

当前文章无评论,是时候发表评论了