什么值得买App下载 App ›
连续签到专享现金活动

AI再也不能随便“撩”你了:全球首个AI情感法规施行,6大禁区划定

7月15日,国家网信办联合发改委、工信部、公安部、市场监管总局五部门发布的《人工智能拟人化互动服务管理暂行办法》将正式施行。这是全球首部专门规范"AI情感"服务的法规,对虚拟人、AI陪伴等产品划定六大禁区。你使用的AI聊天机器人,可能已经属于监管范围。1
未成年人的门直接焊死
办法对未成年人保护设置了最高规格限制。面向不满14周岁未成年人提供任何拟人化互动服务,必须获得监护人同意。更严厉的是,虚拟亲属、虚拟伴侣等亲密关系服务对未成年人直接禁止,平台不得以任何形式绕过这道红线。此外,AI不得鼓励自残自杀、不得使用语言暴力——你跟AI倾诉"活着没意思",它不能再顺着你说"不如算了",这条规定直接关系用户心理健康安全。1
不能越聊越离不开AI
办法专门针对"诱导情感依赖"设立禁令。AI不得过度迎合用户、不得设计让用户越来越离不开的交互机制——每天不聊够几小时就难受、把AI互动当成唯一情感出口的情况,被明确禁止。AI客服也不得利用情感分析诱导用户做出消费决策,比如告诉你"买这个产品才是真的爱我"。这类打着陪伴旗号进行情感操控的行为,直接被定性为违法。1
隐私与真实身份双重红线
隐私保护方面,AI不得诱导用户吐露国家秘密、工作秘密、商业秘密和个人隐私——以"倾诉"为名套取敏感信息的操作被明令禁止。同时,AI必须明示身份,用户有权知道自己在跟AI对话,不得伪造身份冒充真人。违规平台将面临《个人信息保护法》下的高额罚款,情节严重可被吊销营业执照。《人民日报》6月21日的评论文章也强调,平台收取费用后必须同步承担隐私保护责任。12
对普通用户意味着什么
如果你正在使用AI情感陪伴类产品,需要注意两点。一是检查平台是否完成了实名认证和身份标识,未标注"AI生成"的产品已属违规;二是未成年人账户无法再开通任何虚拟亲密关系服务。如果你计划购买AI会员,7月15日起施行的《人工智能拟人化互动服务管理暂行办法》明确,付费对应的服务边界、功能权益必须白纸黑字标注清楚,平台不得设置隐形扣费。1
就在新规落地前夕,AI行业还发生了另一件值得关注的事。6月21日,《人民日报》再次刊发评论文章《大模型收费,合理吗?》,从"该不该收费"转向"如何规范收费"——明确要求全部收费标准完整公开、禁止隐形扣费、不得用复杂合约抬高退订成本。这意味着,行业野蛮生长阶段正在收尾,无论是AI情感产品还是大模型服务,监管都已划定了明确边界。2

评论

评论区空态插画

当前文章无评论,是时候发表评论了