100 TOPS 稠密等于 200 TOPS 稀疏？智驾芯片的算力通胀

现在的车企发布会，如果不喊出个千T算力，似乎都不好意思跟人打招呼。

你可能经常见到这样的参数：某款芯片算力高达 2000 TOPS 稀疏算力，或者标注着 100 TOPS 稠密 / 200 TOPS 稀疏。销售话术通常很直接：这芯片性能强劲，翻倍提升。

然而物理世界不存在买一送一。这多出来的 1000 TOPS，不是芯片厂的馈赠，而是为了性能走的捷径。

稀疏化的本质是合法的偷工减料

简单解释一下稠密和稀疏的区别。

稠密算力是老实人模式。工人的任务是要把 100 块砖全部搬完，他做到一块不落。 稀疏算力则是聪明人模式。看了一眼判定其中 50 块砖是坏的，搬了也没用，于是直接扔掉。

于是，工人只搬了 50 块砖。在同样的时间里，对外宣称处理了 100 块砖的任务量。

这就是 NVIDIA Orin 和 Thor 等芯片标榜的 2:4 结构化稀疏技术。硬件强制规定每 4 个数据里必须有 2 个是 0，计算单元直接跳过不计算。理论上计算量减半，速度自然翻倍。1000 TOPS 的物理算力，就这样变成了 2000 TOPS 的等效算力。

听起来效率提升显著，但工程落地的坑是绕不过去的。

坑一：不是所有的砖都能偷懒

智驾深度学习模型中，虽然卷积和矩阵乘法占据大头，可以被稀疏化加速，但还有一个关键瓶颈是内存读写。

像激活函数、归一化、池化这些操作，主要瓶颈在于带宽。稀疏化救不了带宽，甚至因为索引开销，有时候反而更慢。如果模型里有 30% 的时间花在这些不能稀疏化的操作上，即便把剩下的 70% 加速到无限快，整体性能提升也极其有限。

实际测试中，理论上的 2 倍加速，在很多复杂的骨干网络里，能跑出 1.5 倍就已经是逆天优化了。

坑二：脑部手术的代价

把模型的一半权重强行置为 0，相当于给大脑做了一次手术。

厂商宣称精度几乎无损，其实只能在 ResNet-50 这种上古模型上用简单数据集实现。但在智驾这种关乎性命的场景，远处的一个红绿灯、路边的一个刹车灯，很可能就藏在那些被当作冗余剪掉的权重里。

为了弥补稀疏化带来的精度下降，算法团队需要针对模型继续训练，花费巨大的算力去微调模型，试图让剩下的 50% 参数学会原来 100% 参数的逻辑。如果不做这一步直接开启稀疏模式，感知的准确率会大打折扣。就算做了这一步，由于本身模型的参数丢失了一半，尽管是（作用小的那一半）。模型性能永远无法优化回到原来的100%水平。

坑三：硬件问题

现稀疏算力对数据格式要求极高。

例如英伟达这个要求权重必须严格符合每 4 个数里有 2 个 0 的排列规律。如果模型稍微有一点不符合格式，或者某些层的权重实在太重要实在剪不下去，硬件加速单元就会立刻罢工，退回到稠密模式，这时候就又回到了算力/2的水平。

而为了凑这个格式，工程师往往要写大量胶水代码，有时为了稀疏而稀疏，反而增加了系统的复杂度和延迟。

真实的算力账本

下次看到 2000 TOPS 稀疏算力的宣传，心里打个六七折比较稳妥。

随着端到端大模型上车，参数量爆炸，稀疏化确实是未来的必经之路。但在当下，我觉得它更像是一个理想环境下的理论极值。

对于智驾来说，我们需要的不是 PPT 上的数字堆砌，而是在真实复杂的路况下，系统能跑出什么水平，做出多么准确的决策。真正的技术护城河，是用车上那点紧张的算力，榨出最极致的性能。