Pokimane花数千美元清除AI伪造不雅照,受害者维权成本高到离谱,平台责任却还在扯皮
- 06月18日
- 05月27日
- 05月08日
- 查看全部进展
【资讯情报】知名游戏主播Pokimane花费数千美元清除AI伪造不雅照事件持续发酵,引发公众对社交平台在AI技术滥用中应承担责任的热议。2026年以来,AI生成不雅图像侵权案件在全球范围内呈现高发态势,从普通女性到政界人士均未能幸免。相关司法判例显示,平台在内容审核环节存在明显漏洞,而现行法律框架下,平台责任边界的界定仍存争议。
2026年3月,Pokimane通过社交媒体披露,有人利用AI技术将她发布的日常照片合成不雅图像并在网络传播。她不得不支付数千美元聘请专业团队清除相关内容。据她公开表示,涉事图片疑似借助X平台内置的Grok工具生成。Pokimane在声明中指出,AI换脸技术的滥用门槛极低,但受害者的维权成本却高得惊人,平台对此负有不可推卸的责任。
X平台随后回应称,Grok工具的图像生成功能已针对性暴露内容设置限制,平台也在测试AI生成内容标识功能,对未标注的AI合成内容可能采取限流、封号等措施。不过,Pokimane的遭遇并非个案。2026年1月,法国巴黎检方证实,已对美国企业家马斯克旗下人工智能企业xAI的聊天机器人Grok涉嫌生成非法色情内容启动调查。调查文件显示,部分用户利用Grok编辑图片和视频,生成内容涉及数百名女性和未成年人,其中包括未经授权的性暴露图像。印度信息技术部也于同期要求X平台针对Grok采取纠正措施,限制生成涉及裸体、性化描述等敏感内容。
将视野转向国内,AI伪造不雅照侵权案件同样频繁见诸报端。2026年5月22日,湖南株洲刘女士向多家媒体反映,她与至少8名女生的日常生活照片被同一账号盗用,通过AI技术生成不雅图片并配以侮辱性文案发布至视频平台。刘女士随即前往辖区派出所报案,但警方答复令她感到无力:对方发布的图片不构成涉黄,且无技术手段追查账号主体,只能建议当事人自行向平台举报。目前,该账号已被平台封禁,但刘女士认为这只是封禁了一个马甲,躲在背后的人随时可以重新注册继续作案。
湖南株洲案件的取证困境并非孤例。2026年4月,广西北海男子郭某在商场附近路段未经允许拍摄陌生女性背影,随后将照片导入AI软件生成虚假裸照并发送至微信工作群炫耀。北海市公安局海城分局调查后,依据《治安管理处罚法》对郭某作出行政罚款1000元的处罚,责令其删除相关图片。有法律界人士指出,从违法行为的恶劣程度与处罚结果对比来看,现行法律对AI生成不雅照行为的惩戒力度明显不足。
2026年3月13日,江苏某高校女生小花在社交平台分享的生活照被不法分子利用AI一键脱衣技术生成虚假裸照,上传至境外色情平台传播。短短几天,她的同学、朋友甚至家人都收到了匿名发送的截图。小花在接受媒体采访时表示,她从未拍摄过此类照片,但伪造内容的逼真程度令她百口莫辩。据非营利组织科技透明度项目2026年1月发布的报告,仅在谷歌Play商店和苹果App Store上就发现了55款和48款AI脱衣应用,全球下载量超过7.05亿次,创收1.17亿美元。
国际层面,多个国家和地区已出台针对性立法。2026年5月7日,欧盟各方针对人工智能管控条例达成统一意见,明令禁止借助智能技术炮制不雅伪造内容,相关企业须于2027年12月2日前完成系统整改。美国于2025年5月落地生效的新规将无授权私密影像传播划定为联邦重罪,网络平台收到侵权举报必须在48小时内清理全部违规内容,违规主体单次行为最高面临5.33万美元经济处罚。韩国已通过《深度伪造性犯罪防治法》,明确将AI生成的虚假性影像入刑,最高可判7年监禁。
在中国,《互联网信息服务深度合成管理规定》已明确禁止利用AI制作传播违法信息。2025年9月1日施行的《人工智能生成合成内容标识办法》进一步要求,AI生成内容须加载专属AI水印标识,包括显式可视化水印和隐式数字水印双重追溯体系。2026年,包括抖音、今日头条等平台已同步上线AI内容智能审核管理系统,实现发布前预检、传播中巡检、历史存量回溯三重管控。
然而,在司法实践中,平台应承担主要审核责任还是仅作为技术提供方应免责,仍存在争议。部分法律界人士认为,平台作为服务的提供者和运营者,对AI生成工具输出的内容负有管理义务。若平台明知或应知大量违法内容正通过其系统生成,却不采取有效措施制止,可能被认定为放任违法内容传播,构成共同侵权。但也有观点指出,AI技术本身具有中立性,平台难以对所有用户生成内容进行事前审查,应侧重于事后处置机制的完善。
北京市盈科(深圳)律师事务所顾宁律师分析认为,根据《生成式人工智能服务管理暂行办法》,AI公司应采取必要措施防范违法内容生成。若因算法缺陷、审核不力或默认设置允许生成色情对话,导致未成年人接触有害信息,平台难辞其咎。在司法判例中,已出现法院认定平台因未尽合理审查义务而承担连带责任的案例。北京法院近期宣判的首例涉AI犯罪案件中,被告人因利用AI技术实施犯罪被判处相应刑罚,案件审理过程对平台责任边界的界定具有参考意义。
针对AI伪造不雅照的维权难点,法律界建议受害者采取以下路径:第一时间保存证据,对侵权页面进行截图、录屏,必要时通过公证处公证;向平台提交举报,申请断开链接或删除内容;向公安机关报案,若警方认定不构成刑事案件,可主张侵犯肖像权、名誉权等民事责任;对多次转发、造成严重影响的,可追究传播者的治安违法责任。
值得关注的是,山东省近期起草的《山东省妇女权益保障条例(草案)》中,首次出现专门针对AI性骚扰、深度伪造的省级法规条文,明确禁止利用AI制作、传播涉及女性的低俗画面、伪造影像。不过,有创作者担忧相关界定标准不够细化,可能误伤正常艺术创作。如何在严惩恶行与保护合法创作之间划定边界,仍有待立法和司法实践进一步明确。
截至目前,Pokimane事件的后续处理进展尚未公布。业内人士分析,随着全球范围内AI内容治理趋严,平台在内容审核、技术限制、用户教育等方面需承担更多责任。对于普通用户而言,社交平台分享照片时应注意隐私保护,避免上传高清正脸原图,合理设置可见范围,必要时添加水印,从源头降低被盗用风险。
(综合整理自IT之家、新华社、羊城晚报、极目新闻、南方周末等媒体公开报道)
2026年3月,Pokimane通过社交媒体披露,有人利用AI技术将她发布的日常照片合成不雅图像并在网络传播。她不得不支付数千美元聘请专业团队清除相关内容。据她公开表示,涉事图片疑似借助X平台内置的Grok工具生成。Pokimane在声明中指出,AI换脸技术的滥用门槛极低,但受害者的维权成本却高得惊人,平台对此负有不可推卸的责任。
X平台随后回应称,Grok工具的图像生成功能已针对性暴露内容设置限制,平台也在测试AI生成内容标识功能,对未标注的AI合成内容可能采取限流、封号等措施。不过,Pokimane的遭遇并非个案。2026年1月,法国巴黎检方证实,已对美国企业家马斯克旗下人工智能企业xAI的聊天机器人Grok涉嫌生成非法色情内容启动调查。调查文件显示,部分用户利用Grok编辑图片和视频,生成内容涉及数百名女性和未成年人,其中包括未经授权的性暴露图像。印度信息技术部也于同期要求X平台针对Grok采取纠正措施,限制生成涉及裸体、性化描述等敏感内容。
将视野转向国内,AI伪造不雅照侵权案件同样频繁见诸报端。2026年5月22日,湖南株洲刘女士向多家媒体反映,她与至少8名女生的日常生活照片被同一账号盗用,通过AI技术生成不雅图片并配以侮辱性文案发布至视频平台。刘女士随即前往辖区派出所报案,但警方答复令她感到无力:对方发布的图片不构成涉黄,且无技术手段追查账号主体,只能建议当事人自行向平台举报。目前,该账号已被平台封禁,但刘女士认为这只是封禁了一个马甲,躲在背后的人随时可以重新注册继续作案。
湖南株洲案件的取证困境并非孤例。2026年4月,广西北海男子郭某在商场附近路段未经允许拍摄陌生女性背影,随后将照片导入AI软件生成虚假裸照并发送至微信工作群炫耀。北海市公安局海城分局调查后,依据《治安管理处罚法》对郭某作出行政罚款1000元的处罚,责令其删除相关图片。有法律界人士指出,从违法行为的恶劣程度与处罚结果对比来看,现行法律对AI生成不雅照行为的惩戒力度明显不足。
2026年3月13日,江苏某高校女生小花在社交平台分享的生活照被不法分子利用AI一键脱衣技术生成虚假裸照,上传至境外色情平台传播。短短几天,她的同学、朋友甚至家人都收到了匿名发送的截图。小花在接受媒体采访时表示,她从未拍摄过此类照片,但伪造内容的逼真程度令她百口莫辩。据非营利组织科技透明度项目2026年1月发布的报告,仅在谷歌Play商店和苹果App Store上就发现了55款和48款AI脱衣应用,全球下载量超过7.05亿次,创收1.17亿美元。
国际层面,多个国家和地区已出台针对性立法。2026年5月7日,欧盟各方针对人工智能管控条例达成统一意见,明令禁止借助智能技术炮制不雅伪造内容,相关企业须于2027年12月2日前完成系统整改。美国于2025年5月落地生效的新规将无授权私密影像传播划定为联邦重罪,网络平台收到侵权举报必须在48小时内清理全部违规内容,违规主体单次行为最高面临5.33万美元经济处罚。韩国已通过《深度伪造性犯罪防治法》,明确将AI生成的虚假性影像入刑,最高可判7年监禁。
在中国,《互联网信息服务深度合成管理规定》已明确禁止利用AI制作传播违法信息。2025年9月1日施行的《人工智能生成合成内容标识办法》进一步要求,AI生成内容须加载专属AI水印标识,包括显式可视化水印和隐式数字水印双重追溯体系。2026年,包括抖音、今日头条等平台已同步上线AI内容智能审核管理系统,实现发布前预检、传播中巡检、历史存量回溯三重管控。
然而,在司法实践中,平台应承担主要审核责任还是仅作为技术提供方应免责,仍存在争议。部分法律界人士认为,平台作为服务的提供者和运营者,对AI生成工具输出的内容负有管理义务。若平台明知或应知大量违法内容正通过其系统生成,却不采取有效措施制止,可能被认定为放任违法内容传播,构成共同侵权。但也有观点指出,AI技术本身具有中立性,平台难以对所有用户生成内容进行事前审查,应侧重于事后处置机制的完善。
北京市盈科(深圳)律师事务所顾宁律师分析认为,根据《生成式人工智能服务管理暂行办法》,AI公司应采取必要措施防范违法内容生成。若因算法缺陷、审核不力或默认设置允许生成色情对话,导致未成年人接触有害信息,平台难辞其咎。在司法判例中,已出现法院认定平台因未尽合理审查义务而承担连带责任的案例。北京法院近期宣判的首例涉AI犯罪案件中,被告人因利用AI技术实施犯罪被判处相应刑罚,案件审理过程对平台责任边界的界定具有参考意义。
针对AI伪造不雅照的维权难点,法律界建议受害者采取以下路径:第一时间保存证据,对侵权页面进行截图、录屏,必要时通过公证处公证;向平台提交举报,申请断开链接或删除内容;向公安机关报案,若警方认定不构成刑事案件,可主张侵犯肖像权、名誉权等民事责任;对多次转发、造成严重影响的,可追究传播者的治安违法责任。
值得关注的是,山东省近期起草的《山东省妇女权益保障条例(草案)》中,首次出现专门针对AI性骚扰、深度伪造的省级法规条文,明确禁止利用AI制作、传播涉及女性的低俗画面、伪造影像。不过,有创作者担忧相关界定标准不够细化,可能误伤正常艺术创作。如何在严惩恶行与保护合法创作之间划定边界,仍有待立法和司法实践进一步明确。
截至目前,Pokimane事件的后续处理进展尚未公布。业内人士分析,随着全球范围内AI内容治理趋严,平台在内容审核、技术限制、用户教育等方面需承担更多责任。对于普通用户而言,社交平台分享照片时应注意隐私保护,避免上传高清正脸原图,合理设置可见范围,必要时添加水印,从源头降低被盗用风险。
(综合整理自IT之家、新华社、羊城晚报、极目新闻、南方周末等媒体公开报道)
当前文章无评论,是时候发表评论了