当前位置:
AIGC文章详情

字节Seedance2.0火爆全球,为啥却紧急禁用真人素材?

源自公众号:TechWeb

02-11 08:25

字节Seedance 2.0模型以其强大的视频生成能力震撼全球,被誉为“地表最强”。然而,随之而来的深度伪造和数据隐私争议,迫使其在发布后不久便紧急调整策略,禁用真人素材。这揭示了技术飞跃背后复杂的伦理挑战。

字节Seedance2.0火爆全球,为啥却紧急禁用真人素材?智能速览

  • Seedance 2.0能生成电影级视频,被誉为“地表最强”。

  • 模型引发了对逼真假视频泛滥的普遍担忧。

  • 知名博主怀疑个人数据被用于模型训练。

  • 字节跳动紧急叫停真人素材输入功能。

  • AI强大能力与潜在风险之间的平衡问题凸显。

字节Seedance2.0火爆全球,为啥却紧急禁用真人素材?精华内容

从万众瞩目到紧急刹车,Seedance 2.0在短短几天内经历了舆论的冰与火。这背后是技术革命与伦理风险的激烈碰撞。

技术封神

字节跳动的Seedance 2.0模型,仅凭一句文字描述即可生成包含多镜头切换、连贯叙事和同步音效的视频,效果堪比院线短片。

游戏科学CEO冯骥评价其为“当前地表最强的视频生成模型,没有之一”,并预测其将引发内容领域的“通货膨胀”,彻底重构传统制作流程。

知名科技博主影视飓风Tim实测后发现,模型在运镜、人物动作和分镜连续性上表现惊人,认为传统影视流程“已彻底进入倒计时”。

伦理隐忧

技术的强大也带来了普遍的社会忧虑。冯骥指出,“逼真的假视频将变得毫无门槛”,这将对现有的知识产权与审查体系构成空前冲击。

普通用户将越来越难以分辨视频内容的真伪,从而增加了受骗风险。

这种技术一旦被滥用,可能被用于制造虚假信息或进行恶意诽谤,其社会危害性不容小觑。

数据争议

隐私安全问题成为争议焦点。影视飓风Tim在测试时发现,仅上传一张人脸照片,AI便能生成与本人声音、语气完全一致的语音,这让他怀疑自己的视频数据在未经授权的情况下被用于模型训练。

他提出疑问:“如果一个人的数据全部进入了AI的数据集,会发生什么?”

虽然业内人士分析,这可能是模型学习了其公开的素材,但对个人数据被滥用的担忧已经引发了广泛讨论。

紧急刹车

面对日益激烈的舆论讨论,字节跳动迅速做出反应。根据网传信息,即梦运营团队宣布“暂不支持输入真人素材作为主体参考”,称正在进行“紧急优化”。

此举旨在“保障创作环境的健康可持续”,并强调“创意的边界是尊重”。

另有消息称,字节已暂停对Seedance 2.0的宣传。这一系列操作被视为在技术快速迭代中,对潜在风险进行审慎管控的明确信号。

Seedance 2.0的出现展示了AI视频生成的惊人潜力,但其紧急刹车也证明了技术发展与伦理规范必须同步。如何在拥抱变革的同时,有效规避风险,将是整个行业需要持续思考的命题。

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章