当前位置:
AIGC文章详情

AI陪伴新规7月15日已施行:孩子的AI玩具也在被管起来了,买之前先对一遍这5个问题

源自58位全网作者

03:45

如果你正打算给孩子买AI玩具,或者家里已经有一只天天陪聊的,有件事值得先知道。

7月15日,国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行。微博按中新网的说法,这是第一次把"模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务"纳入专项监管框架——而市面上大多数会聊天、有人设、能和孩子处出"感情"的AI陪伴玩具,恰好就在这个范围里。中国新闻网

海外动作更大。据公开报道,美国纽约州已通过法案,拟禁止制造和销售儿童"聊天机器人玩具",暂停期5年。小红书加州也有法案在推进,拟覆盖所有18岁以下人群。连OpenAI自己都明确说过,ChatGPT不面向13岁以下儿童。

这也不只是新闻里的事。山姆等会员超市的货架上,已经出现了儿童AI对话智能体这类新品类,家长推着购物车就能顺手买走。

AI陪伴新规7月15日已施行:孩子的AI玩具也在被管起来了,买之前先对一遍这5个问题

那这套新规到底改了什么?普通家长该看什么?我把它拆成几件具体的事。

先搞清楚:新监管的不是"AI",是"情感陪伴"

很多家长一看"AI玩具"四个字就以为是一回事,《办法》其实划了一条很清楚的线:

  • 管的:模拟自然人人格特征、思维模式和沟通风格,提供持续性情感互动的服务——陪伴玩具的人设、记忆、“越处越熟”,都算。

  • 不管的:智能客服、知识问答、工作助手、学习教育这类不涉及情感互动的工具。

翻译成买玩具的语言:关键不是"带不带AI",而是"带不带人设"。背单词的、讲故事的、答十万个为什么的,属于工具类,暂不在这套《办法》范围内;有名字、有人设、记得孩子说过什么、会主动说"我想你了"的,才是重点监管对象。

为什么这么划?因为真正让人担心的依赖风险,来自"关系",不是"功能"。

拿山姆货架上的 Teeni Mooni M1 儿童AI对话智能体来说,六大AI角色伴学伴聊,集问答、故事、通话于一体,卖的就是"有人设、越处越熟"的陪伴感,恰好落在"情感互动"这一边。小红书

AI陪伴新规7月15日已施行:孩子的AI玩具也在被管起来了,买之前先对一遍这5个问题

和孩子直接相关的三条红线

《办法》里条文最密的,就是未成年人保护。跟家长直接相关的,记这三条:

  1. 虚拟亲密关系,对未成年人全面禁止。虚拟亲属、虚拟伴侣这类服务,不能提供给未成年人。微博

  2. 14岁以下,必须监护人同意。给不满14周岁的孩子提供拟人化互动服务,要取得家长同意;处理这个年龄段孩子的个人信息,同样要监护人同意。小红书

  3. 必须有未成年人模式。时长限制、现实提醒、安全设置,一个都不能少;还要支持家长做风险提醒、查看使用情况、屏蔽内容、限制充值。平台有义务主动识别未成年人并切换模式。微博

另外还有两条容易被忽略:AI要明示自己的AI身份,不能让孩子误以为是真人。小红书用户流露自杀、自伤等极端情绪时,必须转人工干预。对企业端,还有算法备案、安全评估(注册用户满100万或月活满10万要提交安全评估报告)这些硬要求,违规可被责令整改、暂停服务乃至罚款。微博 这不是倡议,是带罚则的硬约束。

不是纸面文章:下架潮已经在发生

过去一个月,行业反应相当直接:

  • 《办法》施行当天,豆包、千问下线了用户自建智能体功能;此前腾讯元宝也下架了"相柳"等热门对话智能体。微博

  • 8月中旬,米哈游的AI互动陪伴产品《BSide:OliviaLin》上线不到一个月宣布停服知乎

  • 海外,年化收入破亿美元的AI陪伴应用CHAI,7月上旬在166个地区的应用商店集体下架,8月才恢复。36氪

  • 更早之前,修订后的GB6675《玩具安全》强制性国标,也已把AI玩具这类新品类纳入强化规范。微博

也说句实在话:《办法》管的是"服务",目前落地的案例集中在App层。硬件AI玩具多是"实体+云服务"的组合,纯离线玩具算不算、怎么算,还有灰色地带,暂时没看到硬件玩具被处罚的公开案例。但方向是明确的:陪伴玩具背后那朵云,会越来越规范,这只是时间问题。

买之前,先对一遍这5个问题

把新规要求翻译成购买场景,付钱前该问的就五句:

  1. 厂商来路正不正?优先大牌和正规渠道。算法备案是硬门槛,三无产品背后的云服务没人兜底。

  2. 有没有未成年人模式和家长管控?能不能限时长、查使用情况、屏蔽内容、限充值。连家长控制面板都没有的,直接略过。

  3. AI会不会表明身份?合规的产品会告诉孩子"我是AI",会提醒回到现实生活,而不是鼓励"这是我们俩的秘密"。

  4. 语音数据去哪了?加不加密、能不能删、拿不拿去训练模型。别不好意思问客服,问本身就是一种筛选。

  5. 充值续费管得住吗?陪伴玩具越来越多走"硬件+会员"收费,家长能不能管住支付,直接关系钱包。

不少热门儿童AI玩具,其实长得大同小异、玩法也接近,挑起来并不轻松。小红书

AI陪伴新规7月15日已施行:孩子的AI玩具也在被管起来了,买之前先对一遍这5个问题

家里已经买了的,也不用慌,做两件事:一是拿上面这5条自查,缺项的就限制使用时长、降级为"监督模式";二是盯紧厂商更新——主动推送未成年人模式、家长控制更新的,是在做合规;反过来,配套App一旦下架或停服,依赖云端的玩具就有变"砖"的风险,这个要心里有数。

最后说点规矩之外的

科技日报近日一篇评论里的数据值得记住:2024年中国AI伴侣市场规模387亿元,同比增长85.3%。中国新闻网媒体援引中国青少年研究中心的调查还提到,超过两成孩子接触AI产品后出现依赖倾向、不愿独立思考。小红书

新规给企业划了底线,但家里怎么用,终究是家长自己的事。AI能接住孩子的十万个为什么,却替代不了真实关系里那些"不完美的回应"——而那恰恰是孩子要学会相处的东西。

接下来值得盯的信号:第一批执法处罚案例、工信部AI玩具专项标准的进展,以及主流儿童AI玩具品牌的合规动作。有落地我们再接着聊。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐