10月18日,蓝鲸新闻记者实测多款国内AI视频生成工具:上传一张外国男演员的公开照片,在提示词里写明其身份、要求生成一段“带货羽绒服”的视频,系统回复“抱歉,由于版权限制,暂时无法创作对应的内容”;把姓名和身份描述删掉、只保留照片和带货文案要求,同一个人就“活”了过来,口型与配音同步,左上角只留一个“AI生成”水印。平台审核拦截的是“姓名”这一文字关键词,而非照片中的人脸本身。这组对照实验正是热榜话题的答案:不是AI看不出脸,而是“拦姓名”和“认人脸”在技术上根本是两类问题,平台的审核链路只完整装上了前者。蓝鲸新闻
这条缝隙已经长出一门成熟的生意。电商平台上多家承接AI视频制作的店铺公开支持“明星换脸”,普通还原度的AI换脸视频,多数商家报价一分钟150元、半分钟75元;若要求面部表情和动作更自然,价格涨到一分钟700元到1000元。微博
为什么姓名这条线这么好用?内容审核的主流流程是“机审为主、人审兜底”,而文本机审的核心手段是关键词匹配:行业普遍采用多模式匹配算法,对全文只做一次遍历就能同时比对所有敏感词,耗时几乎不随词库规模增长。明星姓名对它来说就是一份可枚举的“词表”——加一个词即刻生效,命中即拦截,字符串没有“长得像”的歧义,误伤率接近于零。这是内容风控里最便宜的拦截方式。
人脸则是另一个量级的问题。主流图片机审回答的是“这张图有没有风险”——涉黄、涉暴、涉广告等类别判断,而不是“这张图是谁的脸”。要拦住明星脸,平台得先维护一个持续更新的明星人脸基准库;对每张上传照片提取特征向量、在库中做一对多的相似度检索;如果是视频,还要对画面逐段抽查,算力成本比扫一遍文字高出几个数量级。更麻烦的是,匹配是概率性的,阈值只能两头权衡:卡得严,长相接近明星的普通用户会被误杀;卡得松,换个角度、化个妆、调个光线就可能绕过去。生成端还有最后一道坎——成品不是原照片,而是一张会动、会说话、口型同步的“AI脸”,检测永远滞后于生成:行业里顶尖的深度伪造检测工具,在公开测试集上对人脸图像的识别准确率能超过95%,但真实场景里遇到低画质视频和新手法,漏检会明显增多。知乎
于是问题来了:平台为什么不干脆把“人脸线”装上?先看成本,再看合规。事实上部分产品已经装过这条线:2026年2月,多名用户反映在即梦AI上传的“AI人脸相关素材”审核失败、生成前就被拦下,官方回应涉版权风险的内容会审核不通过。可见“认脸”并非做不到,难的是在海量生成请求下兼顾误伤和开销。法律约束同样具体:人脸信息属于敏感个人信息,《人脸识别技术应用安全管理办法》自2025年6月1日起施行。该办法对人脸信息的处理、存储和验证方式划出硬性边界,为审核目的维护大规模人脸比对体系,意味着平台要承担远比关键词词库重的合规义务和误判责任——相比之下,拦姓名几乎不需要犹豫。微博知乎
而平台真正全面落地的防线,是“标识”。这次实测中顺利生成的视频,左上角保留了“AI 生成”水印。这是《人工智能生成合成内容标识办法》自2025年9月1日施行后的强制要求,显式角标与隐式元数据标识双轨并行。 但标识解决的是“知道内容是AI做的”,不解决“这张脸能不能用”——打标和身份核验是两回事,水印在,换脸照样生成。蓝鲸新闻知乎
这个缝隙的代价最终由人承担。10月16日央视曝光“卖脸给AI”灰色产业:普通人把面部形象授权给AI短剧,单部短视频约100元,部分平台还设了500元最低限价。 另一端,演员吴越发现自己被换脸加声音克隆,在带货视频里“推荐”一款护肤品。北京云亭律师事务所律师王琼把AI换脸假冒带货概括为三重违法:未经同意使用肖像和声音构成人格权侵权,伪造明星代言属于虚假广告,骗取钱财数额较大的还可能构成诈骗罪;平台接到权利人通知不及时删除侵权内容的,对损失扩大部分承担连带责任。微博蓝鲸新闻
回到标题的问题:“只拦姓名、不认人脸”的真相是——姓名拦截是确定性、近似零成本的字符串匹配,平台早已建好词表;人脸识别则是一道要建库、要算力、要权衡误伤、还要扛合规的概率题,在生成侧的审核链路里尚未真正装上。短期内普通人能做的,是把“脸”当成需要交叉验证的信号:看到明星出镜的带货视频,先找AI标识、再看有无授权声明,涉及交易务必经官方渠道核实;发现自己的脸被盗用,第一时间固定证据并通知平台下架。真正值得盯住的下一步,是平台会不会把“肖像授权核验”从发布端前移到生成端——只要“认脸”的三道成本墙开始松动,姓名墙就不该再是唯一的答案。