如果你正打算给孩子买AI玩具,或者家里已经有一只天天陪聊的,有件事值得先知道。
7月15日,国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行。微博按中新网的说法,这是第一次把"模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务"纳入专项监管框架——而市面上大多数会聊天、有人设、能和孩子处出"感情"的AI陪伴玩具,恰好就在这个范围里。中国新闻网
海外动作更大。据公开报道,美国纽约州已通过法案,拟禁止制造和销售儿童"聊天机器人玩具",暂停期5年。小红书加州也有法案在推进,拟覆盖所有18岁以下人群。连OpenAI自己都明确说过,ChatGPT不面向13岁以下儿童。
这也不只是新闻里的事。山姆等会员超市的货架上,已经出现了儿童AI对话智能体这类新品类,家长推着购物车就能顺手买走。

那这套新规到底改了什么?普通家长该看什么?我把它拆成几件具体的事。
先搞清楚:新监管的不是"AI",是"情感陪伴"
很多家长一看"AI玩具"四个字就以为是一回事,《办法》其实划了一条很清楚的线:
管的:模拟自然人人格特征、思维模式和沟通风格,提供持续性情感互动的服务——陪伴玩具的人设、记忆、“越处越熟”,都算。
不管的:智能客服、知识问答、工作助手、学习教育这类不涉及情感互动的工具。
翻译成买玩具的语言:关键不是"带不带AI",而是"带不带人设"。背单词的、讲故事的、答十万个为什么的,属于工具类,暂不在这套《办法》范围内;有名字、有人设、记得孩子说过什么、会主动说"我想你了"的,才是重点监管对象。
为什么这么划?因为真正让人担心的依赖风险,来自"关系",不是"功能"。
拿山姆货架上的 Teeni Mooni M1 儿童AI对话智能体来说,六大AI角色伴学伴聊,集问答、故事、通话于一体,卖的就是"有人设、越处越熟"的陪伴感,恰好落在"情感互动"这一边。小红书

和孩子直接相关的三条红线
《办法》里条文最密的,就是未成年人保护。跟家长直接相关的,记这三条:
虚拟亲密关系,对未成年人全面禁止。虚拟亲属、虚拟伴侣这类服务,不能提供给未成年人。微博
14岁以下,必须监护人同意。给不满14周岁的孩子提供拟人化互动服务,要取得家长同意;处理这个年龄段孩子的个人信息,同样要监护人同意。小红书
必须有未成年人模式。时长限制、现实提醒、安全设置,一个都不能少;还要支持家长做风险提醒、查看使用情况、屏蔽内容、限制充值。平台有义务主动识别未成年人并切换模式。微博
另外还有两条容易被忽略:AI要明示自己的AI身份,不能让孩子误以为是真人。小红书用户流露自杀、自伤等极端情绪时,必须转人工干预。对企业端,还有算法备案、安全评估(注册用户满100万或月活满10万要提交安全评估报告)这些硬要求,违规可被责令整改、暂停服务乃至罚款。微博 这不是倡议,是带罚则的硬约束。
不是纸面文章:下架潮已经在发生
过去一个月,行业反应相当直接:
8月中旬,米哈游的AI互动陪伴产品《BSide:OliviaLin》上线不到一个月宣布停服。知乎
海外,年化收入破亿美元的AI陪伴应用CHAI,7月上旬在166个地区的应用商店集体下架,8月才恢复。36氪
更早之前,修订后的GB6675《玩具安全》强制性国标,也已把AI玩具这类新品类纳入强化规范。微博
也说句实在话:《办法》管的是"服务",目前落地的案例集中在App层。硬件AI玩具多是"实体+云服务"的组合,纯离线玩具算不算、怎么算,还有灰色地带,暂时没看到硬件玩具被处罚的公开案例。但方向是明确的:陪伴玩具背后那朵云,会越来越规范,这只是时间问题。
买之前,先对一遍这5个问题
把新规要求翻译成购买场景,付钱前该问的就五句:
厂商来路正不正?优先大牌和正规渠道。算法备案是硬门槛,三无产品背后的云服务没人兜底。
有没有未成年人模式和家长管控?能不能限时长、查使用情况、屏蔽内容、限充值。连家长控制面板都没有的,直接略过。
AI会不会表明身份?合规的产品会告诉孩子"我是AI",会提醒回到现实生活,而不是鼓励"这是我们俩的秘密"。
语音数据去哪了?加不加密、能不能删、拿不拿去训练模型。别不好意思问客服,问本身就是一种筛选。
充值续费管得住吗?陪伴玩具越来越多走"硬件+会员"收费,家长能不能管住支付,直接关系钱包。
不少热门儿童AI玩具,其实长得大同小异、玩法也接近,挑起来并不轻松。小红书

家里已经买了的,也不用慌,做两件事:一是拿上面这5条自查,缺项的就限制使用时长、降级为"监督模式";二是盯紧厂商更新——主动推送未成年人模式、家长控制更新的,是在做合规;反过来,配套App一旦下架或停服,依赖云端的玩具就有变"砖"的风险,这个要心里有数。
最后说点规矩之外的
科技日报近日一篇评论里的数据值得记住:2024年中国AI伴侣市场规模387亿元,同比增长85.3%。中国新闻网媒体援引中国青少年研究中心的调查还提到,超过两成孩子接触AI产品后出现依赖倾向、不愿独立思考。小红书
新规给企业划了底线,但家里怎么用,终究是家长自己的事。AI能接住孩子的十万个为什么,却替代不了真实关系里那些"不完美的回应"——而那恰恰是孩子要学会相处的东西。
接下来值得盯的信号:第一批执法处罚案例、工信部AI玩具专项标准的进展,以及主流儿童AI玩具品牌的合规动作。有落地我们再接着聊。