11月3日,南京大学智慧教室系统统计抬头率一事引发热议。学生收到的通知和流出的系统截图显示,这套系统要统计到课率、迟到人数和抬头率。这套系统能实时抓取课堂画面,自动统计这些数据。第二天,学校回应:未经授权,教学应用不采集人脸等生物特征,不进行人脸识别;抬头率已不再统计。网传画面是苏州校区今年5月的个人截屏。至少说明,课堂画面可以被个人截屏并传上网。澎湃新闻人民网
但招标文件里,这个覆盖113间公共教室、中标3152余万元的项目,技术要求写着“人脸检测、人脸识别、AI人数统计、AI抬头率计算”。学校可以说“现在不用”,但能力已经装进了教室。极目新闻
南大不是孤例。今年5月,山东威海市城里中学的学生对着摄像头静坐30秒,系统就给出压力、焦虑、抑郁等14项核心情绪指标。更早的“智能头环”直接采集脑电波,把注意力打成分数,同步给家长和老师。中国教育报的一篇法律评论主张,脑电波应归入敏感个人信息。文章还主张,基础教育阶段原则上应禁止用它做专注度分析。36氪中国教育报
这些场景的共同点,不是AI知道了你在想什么,而是它把你看成了什么。摄像头看到的是抬头、皱眉、坐姿;麦克风听到的是语速、音高、停顿。算法把这些信号换算成注意力、焦虑、愤怒,再交给学校、家长、客服主管。数据一旦生成,就会进入评价、预警、转接、考核。
这套读数远没有看上去那么准。《大西洋月刊》的一篇报道提到,在美国,人们愤怒时大约只有35%的时间会皱眉;反过来,皱眉的人有一半并不是在生气。学生低头可能在记笔记,客户语气急促可能只是着急退款;系统却可能标成“不专注”或“高投诉风险”。微博
客服是另一条成熟赛道。公开的客服SaaS介绍里,情绪监控已是标准功能:判断客户是愤怒、焦虑还是失望,打高危标签,自动转人工。情绪事件会被记录,用于质检和复盘。客户只是在售后对话框里打了一行字,情绪已经被打了分;下一次进线,可能先被贴一个“高投诉风险”的标签。特斯拉的AI客服也被报道能监测对话情绪并自动上报管理层。呼叫中心还用音调、语速判断坐席压力,情绪疲劳时向团队主管发静默警报。服务成了一场双向的情绪考试,顾客和客服都在被打分。知乎IT之家知乎专栏
最直接的风险是采集:人脸、不满十四周岁未成年人的信息本来就在敏感个人信息清单里;脑电波也被学者主张按敏感个人信息保护。处理敏感个人信息要取得单独同意;但在教室和客服入口,“同意”往往不是选择,而是继续上课、继续售后的一部分。被读走的不是秘密,是拒绝的权利。中国教育报
更隐蔽的是用途漂移:今天统计抬头率,明天可以做专注度排名,后天可以接心理预警、评奖评优;招标时写的是教学管理,使用时未必守得住边界。最难纠正的是误读后的处分:错误标签可能影响成绩、心理档案、服务优先级,甚至员工考核。数据泄露只是后果之一,更日常的是,你被一个不准的判断悄悄分了类。光明网
南大停止统计抬头率,不等于问题结束。招标文件里的能力还在,产品还在迭代,换个指标名称就能重新上线。欧盟去年已把工作场所的情绪识别列为禁止用途。中国还没有一条专门针对情绪识别的禁令,相关规定散落在个人信息保护、未成年人保护、数据安全等法律里。真正该被约束的,不是某一个“抬头率”,而是“先采了再说”的惯性。微博
下次如果系统改叫“课堂参与度”或“心理关注度”,我们还能不能及时发现?AI读心最值得警惕的,不是它有一天会看穿我们,而是它已经在用一套并不可靠的读数,替学校和企业做判断。课堂需要更好的教学,客服需要更快解决问题;这两件事都不需要把表情和语气变成一张随时可调取的成绩单。真正该被读懂的,不是学生的脸,也不是客户的声音,而是那条边界:什么可以采,什么不能采,采了之后谁负责。