7. 旧金山检方出手!苹果、谷歌两大应用商店13款AI脱衣App遭下架勒令
随着AI图像工具快速普及,深度伪造、AI脱衣类违规软件泛滥,隐私侵害、色情伪造问题愈发严重。近日美国旧金山检察官办公室正式向苹果、谷歌两大巨头发函,要求App Store与Google Play立即下架总计13款伪装成修图工具的违规AI应用,平台监管漏洞再度引发全网热议。
根据媒体9To5Mac披露的调查结果,执法部门经过排查统计,iOS应用商店藏有8款违规软件,安卓Google Play商店存在5款,合计13款问题App。这类应用极具迷惑性,上架页面全部伪装成普通人像换脸、照片美化工具,介绍文案刻意规避敏感功能,可用户下载安装后,就能解锁隐藏的AI脱衣、无底线色情图像生成能力。
这些违规软件早已积累大量用户,其中一款应用全网下载量突破百万级别,官网公然展示十多种擦边AI生成效果图;还有软件直白宣传可以产出“无审查限制”视频,完全无视内容监管法规,极易被不法分子用于恶意伪造他人不雅图片,严重侵害普通人肖像权、隐私权,甚至衍生网络骚扰、恶意报复等违法乱象。
旧金山检察官David Chiu正式发出停止侵权函,勒令苹果与谷歌第一时间下架全部13款应用。检方重点指出,两大应用商店依靠平台抽成机制,从违规App的充值、会员付费中持续获利,保守估算分成收益高达数百万美元,平台未尽到严格审核、动态监管责任,放任有害技术肆意传播。
面对官方调查与整改要求,谷歌率先作出回应。平台发言人明确表态,Google Play将严格落实平台规则,所有违反内容政策、存在AI伪造色情功能的应用,都会执行下架、封禁开发者账号等严厉处罚。
苹果也同步发布完整官方声明,重申App Store的安全定位,平台规则明确禁止任何生成、传播色情内容的软件上架。官方表示长期主动拦截同类违规应用审核上架,针对本次曝光的8款问题软件,已有3款完成下架处理,对应的开发者账号同步终止权限;剩余4款应用开发者已被平台约谈,要求限期完成全面整改,若未能清除违规AI功能,将会被强制下架。
此次整治事件暴露出当下AI工具监管的普遍难题。很多不良开发者利用平台初审漏洞,上架时隐藏核心违规功能,上线后通过后台更新解锁擦边、伪造能力,常规人工审核很难提前甄别,给平台风控带来巨大挑战。一旦AI脱衣软件流入市场,普通人的照片、社交自拍都可能被恶意篡改,维权取证流程繁琐,受害者往往难以追责。
如今全球各地都在收紧AI生成内容相关法规,强化平台主体责任已成大趋势。苹果、谷歌作为全球两大移动应用分发渠道,海量用户基数决定了其必须升级动态检测、AI识别风控系统,不能只依靠上架一次性审核。
此次旧金山检方强力施压,是对各大应用平台的一次警示。后续各大商店势必会加大AI图像类App巡检力度,从严整治隐藏违规功能的伪装软件。对于普通用户而言,也应当提高警惕,不要随意上传个人清晰人像照片至不知名小众修图AI软件,避免肖像信息被恶意滥用。#AI遭多国封杀# #ai自动上架# #谷歌清退# #AI情色黑产# #ai涉黄案# #AI下架#