200Tops 也敢吹端到端?谁在用云端算力掩盖减配?
上一篇文章有人在评论区提出了非常荒谬的论调:某品牌的车端算力只有 200 TOPS,却宣称因为他们有强大的云端算力集群,所以智驾能力依然处于第一梯队。
这就好比在说:“虽然我脑容量只有核桃大,但我爸是爱因斯坦,所以我考试肯定能拿满分。
我必须说,云端算力再强,那是云端的事;车端算力不够,智慧就装不进智驾芯片那个小脑瓜里。

首先要厘清智驾模型的两个阶段:训练 和 推理
云端是训练的地方。车企确实需要成千上万张卡来训练模型,学习海量的驾驶数据。这里的算力当然是越大越好,它决定了你的模型理论上限有多高。
车端这是推理的地方。当模型训练好之后,必须被压缩并下发到你的车上。你在路上遇到的每一个红绿灯、每一次鬼探头,都是一场即时考试。
关键点来了考试是闭卷的, 无论云端的模型有多聪明,真正控制刹车和方向盘的,只能是车里那块小小的芯片。

首先是物理上的限制。在高速公路上,车辆每秒移动超过30米。当遇到鬼探头或前车急刹时,留给系统的反应窗口往往只有几百毫秒。如果依赖云端,数据要经历上传-云端推理-下发指令的漫长链路,哪怕Ping值稍微高了一点,车子已经盲开出去好几米了。
其次是通信盲区,如果智驾系统的逻辑在云端,意味着只要信号一断,你的车就会瞬间脑死亡或者原地急刹。谁会把两吨重的钢铁巨兽的控制权,交给看不见摸不着的手机信号?

蒸馏与量化:云端的博士生,上车被迫变小学生
有人会问:我在云端训练一个超级牛的大模型,直接塞进车里不行吗?
不行。物理定律不允许。
云端的端到端大模型,参数量可能是几百亿甚至上千亿级别,它需要几千瓦的功率和巨大的显存来运行。而车端的芯片,功耗限制极其严格,算力资源极其有限。
为了让模型跑在车端的芯片上,工程师必须进行剪枝/量化等操作降低算力需求。
算力就是容器。 200 TOPS 的杯子,绝对装不下 1000 TOPS 的水。 当算力捉襟见肘时,模型规模被迫大幅缩水。云端那个能理解万物、逻辑缜密的博士生,在被塞进车端芯片的那一刻,就被切除了前额叶,变成了一个只能在大人的指导下模仿动作的小学生。

算力贫穷的代价:要么笨,要么野蛮
低算力模型最典型的特征就是没有博弈能力,只会横冲直撞。
在复杂的路口博弈(比如无保护左转,或者汇入拥堵车流)时,高算力支持的大模型可以运行复杂的交互预测网络。简单说,它能在大脑里预演未来几秒钟的几百种可能性:“如果我加速,那辆出租车会减速吗?如果我让行,后面的车会加塞吗?”

这需要巨大的实时算力支撑。
当车端只有 200 TOPS 时,它算不动了。 为了不让系统卡死,工程师只能阉割掉这些复杂的思考过程,退回到简单的逻辑:
要么极度保守:遇到不确定的就刹停,哪怕后面堵了一公里。然而这样的问题是,用户的体感很差,不得不一直介入。
要么极度激进:不管三七二十一,按着预定轨迹冲过去,赌别人会让你。这也是某些领先的车的智驾逻辑。
此外对于只有200 TOPS左右的平台,目前的通用做法通常还是规则兜底: 端到端模型可能只是个皮肤,骨子里还是一堆 if-else 的规则代码。打个比方就是在一锅传统的规则代码清汤寡水里,滴了一滴神经网络的香油,然后就敢挂着招牌卖端到端浓汤。
虽然闻着有点味儿,但喝下去本质上还是那碗解渴但没营养的白开水。
或许这才是横冲直撞的根本技术原因——它本质上根本就没在思考。

结论
云端算力决定了智驾系统的迭代速度; 但车端算力决定了智驾系统的智商。
随着端到端和世界模型上车的趋势,模型参数量正在爆炸式增长。200 TOPS 在前两年可能还凑合,但在大模型时代,这就是功能机和智能机的区别。
