写"妈妈我爱你"能过,写"爸爸我爱你"违规:蔚来车机拦住了什么
女儿十岁生日,想用蔚来ES9的灯光秀给孩子投个祝福——这功能支持车机手写自定义文字,通过大灯投到墙上,本来是妥妥的情绪价值拉满。结果小女孩一笔一画写下"爸爸我爱你",提交,系统弹出提示:含敏感词,无法投影。知乎微博

车主以为是孩子字写得潦草,自己重新手写了一遍,还是违规。旁边的妻子提议:换成"妈妈我爱你"试试?一次通过。知乎
一段"温情变闹剧"的对比视频,11月18日直接冲上热搜。#蔚来高管回应爸爸我爱你违规#这个话题下,评论区彻底热闹了。
官方回应:识别错了,已修复
蔚来副总裁马麟公开回应:系统把"爱"字错识别成了别的字,由此触发了内容限制;他也承认,这种直接限制内容的处理策略不合理,策略已调整、问题已修复。知乎微博
车主这边也补了两个细节:11月17日下午,蔚来专属顾问就来电确认问题出在关键词识别,修复已完成;并且官方没有要求他删帖。多名车主随后实测,手写"爸爸我爱你"已经能正常投影。知乎
灯光秀吃的是手写体,不是印刷体——笔画连断、倾斜、大小因人而异,而车机端跑的是轻量识别模型,算力还得给驾驶功能让路,认错字并不稀奇。网友扒出了细节:同样是"爱"字,"爸爸"后面那版的秃宝盖弧度大、包住了下面,识别相似度最高的说法是认成了"受"——“爸爸我X你”,落进敏感词库,直接拼出一个系统认为不能出现的组合。微博

但用户的追问,其实没被回答完
翻热搜评论,大家较真的不是"修没修",而是三点:
认成了什么字,官方始终没明说。“识别成别的字"是个无法验证的解释,评论区最多的一句追问就是"这到底认成啥了?”
两个字,为什么命运不同。有用户逐帧看了视频:孩子写三次,"爱"字长得都差不多,"妈妈"那版能过、"爸爸"那版不过——说明真正起作用的不是那个字本身,而是"称呼+某字"的组合词拦截。字认错只是第一道关,词库硬拦才是第二道关,而第二道关没有任何缓冲:误识别,直接等于误拦截。
误判了找谁说理。被拦之后没有复核入口,用户只能反复试、换个写法试,试到放弃。一条亲情祝福被卡住,连个"这不是违规,请人工看"的按钮都没有。
这件事真正值得记住的,不止蔚来
现在的车机早就不是一块导航屏了:手写投影、语音助手、应用商店、车内摄像头,每一项都在收集和处理内容,也就每一项背后都跟着审核和词库。很多团队做内容安全的默认思路是"宁可错杀,不可放过"——这套强监管场景下成立的逻辑落到家庭场景,代价非常具体:识别模型给的是概率,不是事实,概率被当成事实硬拦,误伤只是早晚的事。知乎

对准备买车、或者已经在用车机花哨功能的朋友,这事件至少留两句实用提醒:车机上"这个不行、那个违规",很多时候不是硬件坏了,是内容风控在起作用;遇到说不清的拦截,官方社交账号和App反馈通道的响应速度,普遍比你自己折腾快。
识别错误可以靠OTA慢慢修,拦截策略是否给用户留了申诉的余地,才见产品观。孩子的祝福没有错,错的是冷冰冰的词库拦下它时,连句解释都懒得给。
当前文章无评论,是时候发表评论了