一条“问界汽车行驶中车身突然塌陷”的视频,播放量不到3000,却给发布者带来了一桩百万元索赔的官司:发布该视频的抖音账号被指用AI生成这段虚假画面,在播放量接近3000时收到重庆两江法院的传票,赛力斯以侵权纠纷为由提起诉讼,要求赔礼道歉并赔偿100万元。10月14日一早,相关话题登上微博热搜,多名博主展示了同一份传票截图和涉事者的群聊记录。微博
先说清一条信息边界:100万元是赛力斯的索赔主张,不是判决结果。粉丝数、播放量等细节目前主要来自博主转述和聊天记录流出,尚无赛力斯官方公告或法院公开信息佐证,诉讼理由被表述为侵害名誉权。微博
57个粉丝、3000播放,为什么也扛不住一张传票
被讨论最多的反差是体量:涉事账号粉丝只有57个,视频播放约3000,对上的却是百万级索赔。有博主的转述代表了这种质疑,虽说这人只有57个粉,3000播放,说是被索赔100万,实际上肯定赔不了这么多。另有博主提醒,法院最终未必判赔100万元,还点出“毕竟视频播放3000多”这条数字线。微博微博
这里的关键是分清两条法律轨道。播放量低只影响刑事追诉,挡不住民事诉讼:按照“两高”关于利用信息网络实施诽谤的司法解释,诽谤信息实际被点击、浏览次数达到5000次以上或被转发500次以上,才可能构成诽谤罪入罪标准;而名誉权、商誉侵权走的是民事程序,起诉没有播放量门槛,赔偿金额由法院依据侵权情节和实际损失裁量,与诉请数额并不等同。所以“几千播放也被告了”并不矛盾:低传播量削弱的是赔偿基数,不是侵权定性。有博主把案子的意义概括得很直白:才几千播放、几十个粉丝,一样被起诉索赔一百万,AI不是造谣的保护伞,造假的代价只会越来越大。微博
起诉时点也值得关注。9月鸿蒙智行官宣调整与赛力斯的合作模式后,问界的产品、营销与售后主导权交回赛力斯,针对问界的舆情反制同样转由赛力斯自己出手:问界的营销、服务以后都由赛力斯负责了,那以后处理针对问界的攻击、造谣,也是赛力斯来了?这不是赛力斯第一次对AI造假出手:9月初问界M6被指“预制车”,官方回应称相关铭牌图片系P图或AI修改生成,已就谣言报案。微博知乎
造假链条:几秒钟生成一条“车评”,肉眼越来越看不穿
以前造谣要自己拍、自己剪,有成本门槛。现在AI输入几个关键词,几秒钟生成以假乱真的视频,成本几乎为零。文本生成视频模型只需要“品牌名+车型+故障场景”级别的提示词,就能输出行驶中塌陷、起火、智驾失灵这类画面,发布者无需拥有车辆,甚至无需懂剪辑。生成缺陷也常被忽略:有用户比对早前问界M6谣言图时就发现,画面左侧的赛力斯水印被AI幻觉直接抹除,成了判断造假的直接破绽。微博微博
更麻烦的是,靠肉眼找穿帮正在失效。热搜视频的评论区里,网友逐帧找破绽,有人说那个出门镜头里,她手里本来是空的,走到门口忽然多出一个包,还有人盯着手指动作,说跟走路速度对不上。这类眼力对抗并不占优:新一代生成模型会主动加入轻微抖动、环境杂音等真实瑕疵,逆向工程人类鉴别直觉,让传统经验接近随机猜测。微博微博
于是“能不能被识别”被从看画面转向查文件。2025年9月1日起施行的《人工智能生成合成内容标识办法》要求AI生成内容带标识:显式标识落在画面或声音里,隐式标识写进文件元数据,后者记录了内容来源,肉眼看不见但机器可读。平台端也在跟进,抖音、快手上线功能,把元数据接入溯源链路;仅微博一家的日均AI生成内容识别量就达约8万条。微博微博
技术检测层面则已形成多道闸门:模型出厂时写入元数据“出生证明”,谷歌SynthID一类隐形水印把信号直接写进像素,裁剪、滤镜、压缩后仍较难抹干净,累计覆盖的AI图片和视频已超过千亿件;频域分析上,生成过程的“上采样”操作会留下周期性痕迹,学界据此设计了检测器。中国科普博览
但闸门并非万无一失。实验表明,向图像中掺入人眼不可见的对抗扰动,就能让最先进检测器的准确率显著下降,识别工具始终处于追赶状态,难免有漏网之鱼;在国内,恶意删除标识本身就在明令禁止之列。中国科普博览
这不是一起孤例,普通用户该盯住什么
把时间线拉长,这起案件并非孤例。今年5月,网传“8家车企被约谈”名单被质疑系AI造谣,涉事车企集体辟谣。有人用AI生成“车展不雅视频”博眼球,被警方行政拘留10日。8月,公安部网安局公布了14起涉企网络谣言案例。微博微博知乎
而责任并不只落在生成者头上。明知是虚假信息仍转发、造成严重后果的,传播者同样可能被追责;尚不构成犯罪的散布谣言行为,也可按《治安管理处罚法》第二十五条处五日以上十日以下拘留。知乎
对普通用户,这起还没开庭的案件给出的观察信号其实很朴素:刷到“惊人车况”视频,先看画面角落有没有“AI生成”显式标识,再核对发布者是否有实车、来源能否对上官方信息;没有标识不等于真实,标识本身可以被裁剪抹除。车企是否胜诉、最终判赔多少,以法院生效判决为准——但无论结果如何,一条几十秒的AI假视频已经让素人付出应诉成本,这本身就是对“AI造谣没人管”最直观的反驳。