先把时间线捋直。
11月16日晚上,蔚来ES9车主、数码博主"全的全"给女儿过十岁生日,专门找了面墙,用车上的灯光秀功能投一句祝福语。女儿写下"爸爸我爱你",车机直接提示"违规"。他以为闺女字写潦草了,自己工整重写好几遍,还是违规。老婆换成"妈妈我爱你",一次通过。微博

这条视频一夜拿下4.9万赞,"灯光秀写爸爸我爱你提示违规"冲上热搜。17日下午,蔚来的专属顾问主动打来电话,承认关键词识别有bug,当天修复。晚上九点,车主发帖收尾:蔚来没让删帖,“到此为止”。微博微博
事情不大,一次误伤,一天修完。但它背后的两步机制,值得拆开看看。

灯光秀的流程大致是:手写输入→文字识别→词库匹配→通过才投影。多位博主推测,手写的"爱"字如果不够工整,可能被识别成形近的"受",而"爸爸"加"受"恰好命中敏感词组合;"妈妈"加"受"没命中,所以同一句话换个称呼就放行。这个说法有个旁证:有车主复测时"爸爸我爱你"投影成功——说明词库没有把这句话整词拉黑,翻车的是识别环节。当然,具体技术细节蔚来没公布,官方只认了"关键词识别有问题"这一句,推测只能到这里。微博微博微博

真正值得吵的点在别处。灯光秀是把字投给自己家人看的私密场景,没有任何公开传播,却挂了一道内容审核。审核依赖文字识别,而手写识别天然有错误率,错误率撞上敏感词库,误伤就是必然。审核可以有,但不该设在不出门的场景里——管得越宽,等于给用户留了一颗"好话随时被拦"的雷。评论里被顶到前面的一个冷静提问就是:既然不联网外发,凭什么审用户写什么?微博
另外澄清两件事。第一,同一天热搜里还有个"蔚来向公安机关报案",那是法务针对"蔚来实质性爆雷"谣言截图的处理,跟灯光秀不是一回事,别混着传。第二,事件里大量的性别对立玩梗和"有人带节奏"的猜测,目前只有截图推测,蔚来没回应,目前钉死的只有一件事:这是一个已修复的识别bug,再多一个字都是脑补。微博
对真用户什么意思?已提ES9的,修复后重试即可,给孩子过生日、表白这种场合,建议提前试投一次确认效果。在等购车的,这事不沾三电、不沾换电体系,车还是那台车,但多知道一件事:智能车的场景玩法带着线上审核策略,它偶尔会扫你的兴。

bug一天能修。“车机该不该在私密场景里替用户审核一句话”,蔚来这次没答,整个行业也都没答。
当前文章无评论,是时候发表评论了