张大妈

AI视频伪造“问界车身塌陷”被赛力斯起诉索赔百万:AI造假车评的生产、识别与法律账

源自150位全网作者

09:01

一条“问界汽车行驶中车身突然塌陷”的视频,播放量不到3000,却给发布者带来了一桩百万元索赔的官司:发布该视频的抖音账号被指用AI生成这段虚假画面,在播放量接近3000时收到重庆两江法院的传票,赛力斯以侵权纠纷为由提起诉讼,要求赔礼道歉并赔偿100万元。10月14日一早,相关话题登上微博热搜,多名博主展示了同一份传票截图和涉事者的群聊记录。微博

先说清一条信息边界:100万元是赛力斯的索赔主张,不是判决结果。粉丝数、播放量等细节目前主要来自博主转述和聊天记录流出,尚无赛力斯官方公告或法院公开信息佐证,诉讼理由被表述为侵害名誉权。微博

57个粉丝、3000播放,为什么也扛不住一张传票

被讨论最多的反差是体量:涉事账号粉丝只有57个,视频播放约3000,对上的却是百万级索赔。有博主的转述代表了这种质疑,虽说这人只有57个粉,3000播放,说是被索赔100万,实际上肯定赔不了这么多。另有博主提醒,法院最终未必判赔100万元,还点出“毕竟视频播放3000多”这条数字线。微博微博

这里的关键是分清两条法律轨道。播放量低只影响刑事追诉,挡不住民事诉讼:按照“两高”关于利用信息网络实施诽谤的司法解释,诽谤信息实际被点击、浏览次数达到5000次以上或被转发500次以上,才可能构成诽谤罪入罪标准;而名誉权、商誉侵权走的是民事程序,起诉没有播放量门槛,赔偿金额由法院依据侵权情节和实际损失裁量,与诉请数额并不等同。所以“几千播放也被告了”并不矛盾:低传播量削弱的是赔偿基数,不是侵权定性。有博主把案子的意义概括得很直白:才几千播放、几十个粉丝,一样被起诉索赔一百万,AI不是造谣的保护伞,造假的代价只会越来越大。微博

起诉时点也值得关注。9月鸿蒙智行官宣调整与赛力斯的合作模式后,问界的产品、营销与售后主导权交回赛力斯,针对问界的舆情反制同样转由赛力斯自己出手:问界的营销、服务以后都由赛力斯负责了,那以后处理针对问界的攻击、造谣,也是赛力斯来了?这不是赛力斯第一次对AI造假出手:9月初问界M6被指“预制车”,官方回应称相关铭牌图片系P图或AI修改生成,已就谣言报案。微博知乎

造假链条:几秒钟生成一条“车评”,肉眼越来越看不穿

以前造谣要自己拍、自己剪,有成本门槛。现在AI输入几个关键词,几秒钟生成以假乱真的视频,成本几乎为零。文本生成视频模型只需要“品牌名+车型+故障场景”级别的提示词,就能输出行驶中塌陷、起火、智驾失灵这类画面,发布者无需拥有车辆,甚至无需懂剪辑。生成缺陷也常被忽略:有用户比对早前问界M6谣言图时就发现,画面左侧的赛力斯水印被AI幻觉直接抹除,成了判断造假的直接破绽。微博微博

更麻烦的是,靠肉眼找穿帮正在失效。热搜视频的评论区里,网友逐帧找破绽,有人说那个出门镜头里,她手里本来是空的,走到门口忽然多出一个包,还有人盯着手指动作,说跟走路速度对不上。这类眼力对抗并不占优:新一代生成模型会主动加入轻微抖动、环境杂音等真实瑕疵,逆向工程人类鉴别直觉,让传统经验接近随机猜测。微博微博

于是“能不能被识别”被从看画面转向查文件。2025年9月1日起施行的《人工智能生成合成内容标识办法》要求AI生成内容带标识:显式标识落在画面或声音里,隐式标识写进文件元数据,后者记录了内容来源,肉眼看不见但机器可读。平台端也在跟进,抖音、快手上线功能,把元数据接入溯源链路;仅微博一家的日均AI生成内容识别量就达约8万条。微博微博

技术检测层面则已形成多道闸门:模型出厂时写入元数据“出生证明”,谷歌SynthID一类隐形水印把信号直接写进像素,裁剪、滤镜、压缩后仍较难抹干净,累计覆盖的AI图片和视频已超过千亿件;频域分析上,生成过程的“上采样”操作会留下周期性痕迹,学界据此设计了检测器。中国科普博览

但闸门并非万无一失。实验表明,向图像中掺入人眼不可见的对抗扰动,就能让最先进检测器的准确率显著下降,识别工具始终处于追赶状态,难免有漏网之鱼;在国内,恶意删除标识本身就在明令禁止之列。中国科普博览

这不是一起孤例,普通用户该盯住什么

把时间线拉长,这起案件并非孤例。今年5月,网传“8家车企被约谈”名单被质疑系AI造谣,涉事车企集体辟谣。有人用AI生成“车展不雅视频”博眼球,被警方行政拘留10日。8月,公安部网安局公布了14起涉企网络谣言案例。微博微博知乎

而责任并不只落在生成者头上。明知是虚假信息仍转发、造成严重后果的,传播者同样可能被追责;尚不构成犯罪的散布谣言行为,也可按《治安管理处罚法》第二十五条处五日以上十日以下拘留。知乎

对普通用户,这起还没开庭的案件给出的观察信号其实很朴素:刷到“惊人车况”视频,先看画面角落有没有“AI生成”显式标识,再核对发布者是否有实车、来源能否对上官方信息;没有标识不等于真实,标识本身可以被裁剪抹除。车企是否胜诉、最终判赔多少,以法院生效判决为准——但无论结果如何,一条几十秒的AI假视频已经让素人付出应诉成本,这本身就是对“AI造谣没人管”最直观的反驳。

内容由AI生成

精选参考来源

1. 赛力斯这波也是硬气了一把!有个人用AI制作了一个视频,造谣问界汽车在行驶过程中车身突然塌陷,并发布到抖音上去

2. #赛力斯起诉AI造谣问界者索赔百万#播放量不到3000,就被起诉索赔100万?这事确实值得讨论

3. #赛力斯起诉AI造谣问界者索赔百万#昨天群里看到了。虽说这人只有57个粉,3000播放

4. 真是又怂又蠢,造谣问界被告了,现在知道害怕疑似AI抹黑问界博主微信群聊天泄露

5. #赛力斯起诉AI造谣问界者索赔百万#别再觉得“随便做个AI假视频、没多少人看就没事了”

6. #华为赛力斯问界归属变动#问界的营销、服务以后都由赛力斯负责了

7. 问界回应M6车型被指为「预制车」,称铭牌系P图/AI修改生成,已就谣言报案,你怎么看?

8. 丧心病狂地P图造谣抹黑,而且很明显是AI改的图,左侧的赛力斯水印都被AI幻觉抹除了

9. #赛力斯起诉AI造谣问界者索赔百万#有人用AI生成假视频,说问界车身塌陷

10. 今天这条热搜底下,评论区在找穿帮:有人说那个出门镜头里,她手里本来是空的

11. 刷短视频时,看到一个视频生成得太像了,不禁到处找AI提示

12. #检小莱普法#什么是人工智能生成合成内容标识?

13. #微博日均识别AI生成内容约8万条#AI正在改变内容生产的方式

14. 【#AI生成图片能骗过平台的AI标签吗?#】我们用各种AI软件生成的图片,会被各平台打上AI的标签

15. #8家车企被约谈名单或为ai造谣#老杜说事【8家车企集体辟谣被偷续航谁的错?】

16. #AI视频已经以假乱真了#最近这个话题又火了,因为AI生成的谣言视频真的越来越能骗过眼睛

17. 公安部网安局公布 14 起涉企网络谣言案例,对企业会造成哪些影响,又该如何防范?

18. AI造谣为什么能判6个月?从寻衅滋事罪到编造虚假信息罪,法律适用全解析

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章