字节Seedance 2.0紧急叫停真人人脸上传

源自公众号:财联社AI daily

02-11 08:22

字节跳动的 Seedance 2.0 视频生成模型以其惊人效果引爆全球,被誉为“地表最强”。然而,伴随技术震撼而来的是对滥用风险的担忧。平台在短时间内做出反应,紧急叫停真人人像素材输入,这背后是技术狂奔与伦理责任的一次深刻博弈。

字节Seedance 2.0紧急叫停真人人脸上传

字节Seedance 2.0紧急叫停真人人脸上传智能速览

  • Seedance 2.0 视频生成效果惊人,获赞“地表最强”

  • 该模型引爆海外科技圈,并带动 A 股相关概念股涨停

  • 模型逼真度引发对虚拟与现实边界模糊的担忧

  • 字节跳动紧急优化,暂不支持真人图片或视频作为参考

  • 专家认为这是企业在技术发展中守住责任底线的体现

字节Seedance 2.0紧急叫停真人人脸上传精华内容

技术的突破带来了颠覆性可能,但也伴生着前所未有的伦理挑战。Seedance 2.0 的这次“急刹车”,恰恰揭示了这场博弈的核心。

炸裂的模型力

字节跳动最新一代视频生成模型 Seedance 2.0,凭借多模态输入、极强的参考一致性与高度逼真的生成效果,迅速引爆了创作者圈层。游戏科学CEO冯骥公开评价其为“当前地表最强的视频生成模型”,并直言其出现标志着“AIGC的童年时代结束”。

这股热潮迅速蔓延至海外,海外用户陷入一码难求的狂热状态,社交平台求码帖刷屏,甚至出现高价倒卖邀请码的现象。其强大的能力预期,也直接引爆了A股市场,中文在线、光线传媒等影视传媒板块掀起涨停潮。

紧急的责任刹车

然而,模型的高度逼真也迅速引发争议,被担忧可能模糊虚拟与现实的边界,带来身份冒用、内容滥用等风险。面对汹涌的用户反馈,字节跳动迅速做出调整。

2月9日,即梦创作者社群发布通知,宣布在内测期间进行紧急优化,暂不支持输入真人图片或视频作为主体参考。平台运营方同时强调,平台始终认为“创意的边界是尊重”,相关功能将在进一步完善后再与用户见面。

技术上的防火墙

这一限制并非一刀切,而是设立了更高的准入门槛。在即梦App与豆包App中,用户若想在AI视频中使用真人形象出镜,则需要通过录制本人形象与声音完成真人校验后,方可制作数字分身。

这种活体认证机制意味着,Seedance 2.0在当前阶段对真人内容的生成采取了严格的身份核验与控制,从技术层面筑起了一道防止滥用的防火墙。

行业的共识与挑战

一位参与内测的AI创作者坦言,尽管限制让部分创作构想无法实现,但从行业长期发展看,这是负责任的选择。北京航空航天大学教授沙磊也指出,这是企业在技术快速演进中需要坚守的责任底线。

AI的进步不会因争议而停下脚步,但如何在技术创新、数据合规与版权保护之间找到平衡,让技术突破的红利真正惠及行业与用户,已成为全球AI产业需要共同面对的长期课题。

Seedance 2.0 的这次风波,是尖端 AI 技术与伦理规范碰撞的缩影。它展示了技术的巨大潜力,也凸显了主动设限的必要性。未来,如何在释放技术红利的同时构建可靠的信任体系,将是决定 AI 能否健康发展的关键命题。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章