近日，实力派演员王劲松的一次公开发声，将人工智能（AI）技术滥用所带来的潜在风险，再次推向了公众视野的中心。
2月26日，王劲松在社交平台发文，称自己的形象和声音被AI技术恶意盗用，生成了一段高度仿真的视频。他用“太可怕了”来形容自己的震惊，并指出视频中的声音、口型已达到“完全看不出来真假”的程度，甚至连自己的家人都无法分辨。
据了解，这段侵权视频在微信视频号上传播，其内容是推广所谓的理财项目和“数字货币产品”。制作者截取了王劲松在电视剧《冰雨火》中的片段，通过AI技术修改了口型并重新合成了声音，将原本宣传禁毒的正面内容，篡改为带有欺骗性质的商业推广。王劲松本人发现后立即向平台投诉，相关视频随后被删除。
然而，视频的下架并未平息王劲松的忧虑。他指出，侵权者的违法成本“可以忽略不计”，简单的删除无法形成有效震慑。他更深层次的担忧在于，当这种足以乱真的技术被用于性质更恶劣的诈骗等犯罪行为时，后果将不堪设想。他发出了“AI的到来，法律准备好了吗？人类准备好了吗？”的疑问，引发了社会的广泛共鸣。
事实上，王劲松的遭遇并非孤例，AI深度伪造技术已成为侵权和诈骗的重灾区。此前，演员靳东的形象就曾被不法分子盗用，制造虚假视频与中老年女性进行“情感互动”，险些导致受害者遭受巨额财产损失。此次曝光的侵权事件中，除了王劲松，还有不法账号利用同样的手法，伪造了李连杰、姚明、于和伟、唐国强等多位名人的视频，用于推广虚假的“数字金融企业”，形成了一条成熟的黑灰产业链。
随着技术门槛的降低，制作此类虚假视频的成本变得极为低廉。有调查发现，网络上存在大量提供“AI魔改明星视频”服务的商家，仅需花费数百元，就能在短时间内定制出一段以假乱真的名人视频。侵权者可以轻易地“花钱办事”，而被侵权者维权却面临着取证难、追责难、赔偿低等现实困境。
这一系列事件凸显了当前技术发展与法律监管之间的失衡。尽管我国《民法典》、《生成式人工智能服务管理暂行办法》等法律法规已对肖像权、声音权以及AI生成内容的标识作出了明确规定，但在实际执行中，平台方往往仅对被举报内容作删除处理，难以对侵权者进行有效追溯和惩罚。这种“一删了之”的处理方式，使得违法行为难以被根除。
面对日益泛滥的AI滥用现象，从普通网民到明星粉丝群体，都表现出了高度警惕。许多明星的粉丝后援会已自发倡议，禁止在社区内制作和传播任何未经授权的AI生成内容，以保护艺人的合法权益。
王劲松事件再次敲响了警钟：技术本身无罪，但必须被置于法律和伦理的框架之内。当“眼见”不再“为实”，我们每个人都可能成为下一个受害者。这不仅需要平台方切实履行主体责任，加强AI生成内容的审核与溯源机制，也亟待法律层面进一步完善细则，提高侵权违法成本，让法律真正“长出牙齿”，从而守护每一个人的基本权益，维护社会信任的基石。
