字节跳动的AI视频模型Seedance 2.0因一项惊人能力引发争议:仅凭用户面部图像,即可生成高度匹配的个人声音,且无需授权。这一发现直指AI技术的隐私伦理红线,并促使字节跳动紧急叫停该功能。该事件为我们审视技术发展与个人隐私保护的平衡提供了关键案例。
智能速览
科技博主评测发现Seedance 2.0存在隐私漏洞。
该模型仅凭人脸图像就能生成匹配的个人声音。
事件发酵后,字节跳动紧急暂停了真人素材参考功能。
官方回应称“创意的边界是尊重”。
Seedance 2.0定位为生成电影级AI视频的下一代模型。
精华内容
当AI技术的能力触及个人身份的核心特征时,我们该如何划定创意与侵犯的界限?
惊人的能力
科技自媒体“影视飓风”创始人潘天鸿在评测中披露,Seedance 2.0模型展现出了一项令人不安的能力。
在未提供任何声音样本、未经本人授权的情况下,仅凭上传的面部图像,AI便成功生成了与他本人声音特征高度匹配的音频。潘天鸿对此表达了强烈的震惊,称“这让我感到恐怖”,因为它暴露了用户生物信息被滥用的潜在风险。
紧急叫停
随着该评测内容的传播,相关隐私争议迅速发酵。字节跳动方面反应迅速,其运营团队在官方社群中发布通知,宣布进行紧急优化。
通知明确指出,Seedance 2.0目前“暂不支持输入真人素材作为主体参考”。官方将此次调整归因于内测期间收到的反馈,并强调“创意的边界是尊重”,试图平息用户对于隐私安全的担忧。
技术雄心
尽管此次事件聚焦于隐私问题,但Seedance 2.0本身的技术定位不容忽视。据官方介绍,它是字节跳动的下一代AI视频生成模型,目标是创作出具有同步音频的1080p电影级视频。
该模型专为连贯的多镜头叙事设计,旨在推动AI视频生成领域的范式转变。这表明其技术野心巨大,但此次事件也提醒,强大的技术能力必须有更周全的伦理考量作为支撑。
Seedance 2.0的此次调整,是AI发展进程中技术、商业与伦理碰撞的缩影。它警示着行业,在追求技术突破时,必须将用户隐私和数据安全置于首位。未来,如何在激发创意与保护个人权利间找到平衡,将是所有AI产品必须回答的核心问题。