孩子不能用"AI男友"了?9·18新规把AI又收紧一轮:先帮家长排掉3个误读,再说今晚能做的3件事

源自320位全网作者

02:06

孩子不能用"AI男友"了?9·18新规把AI又收紧一轮:先帮家长排掉3个误读,再说今晚能做的3件事

9月18日,国家网信办发布《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》。意见反馈截止到10月17日。热搜词条一个比一个吓人:“禁止AI和人恋爱”“AI虚拟伴侣要没了”——不少成年人先慌了一波,不少家长则连夜琢磨要不要把孩子的平板收了。网信中国知乎

孩子不能用

先别急着站队。这是继今年7月《人工智能拟人化互动服务管理暂行办法》之后,AI 使用规则第二次收紧。 但管的东西、管的范围、管的深度,和热搜上说的完全不是一回事。这篇把征求意见稿里跟"家里那个AI生活助手"有关的四条核心条款拆开,再排掉三个正在疯传的误读,最后给你一份今晚就能执行的清单。微博

新规到底写了什么:四条,条条对着"孩子和AI的关系"

第四条,禁止清单。 网络服务提供者不得向未成年人提供陌生人网络社交服务,不得提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,不得提供诱导沉迷的服务。注意措辞——不是"限制时长",是直接"不得提供",也不是弹一句"AI不是真人"的提示就能糊弄过去。知乎

第五条,16岁以下的模式红线。 网络音视频、游戏、社交,还有"可能影响未成年人认知的人工智能服务",面向未满16周岁用户的,都得通过未成年人模式提供。 你家的智能音箱、手机语音助手、辅导作业的AI,按这个口径都属于"AI服务"的范围。逐浪新闻

第六条,平台得有能力认出谁是孩子。 要求平台建立识别未成年人用户的能力,同时保护其个人信息。这条是前两条的地基——识别不了年龄,禁令就是纸面禁令。

第八条,算法不能"钓"孩子。 不得设置诱导未成年人情感依赖、沉迷和过度消费的算法模型。 翻译过来:角色养成、话术挽留、付费解锁那一套,只要目的是"让孩子离不开、让孩子上头、让孩子掏钱",都在禁止之列。这比单纯掐孩子每天用了几分钟,管得深得多。知乎

三个正在疯传的误读,排掉再决定怎么管

误读一:“国家禁止AI恋爱了。” 不是。禁令对象只有未成年人,成年人使用AI聊天、AI角色扮演、智能体陪伴,不在这份征求意见稿的禁止范围内。 真正在收紧成年人的是另一条线——涉黄、批量生成不良内容:9月21日刚有一批人因为把AI虚拟恋人异化成批量制黄工具被判了刑。微博知乎

误读二:“16岁以下的孩子以后不能上网/不能玩社交了。” 也不是。第五条的原话是"通过未成年人模式提供",是换模式,不是断网。

误读三:“下个月就生效了。” 现在还只是征求意见稿,正式稿条款、生效时间都有变数。意见反馈期到10月17日,普通人也可以提。但方向基本没有悬念:监管已经从管"用了多久",走到管"平台怎么设计你和AI的关系"。微博

为什么这刀切得下去:孩子真的已经在AI里了

中国青少年研究中心对全国7个省市8500余名中小学生的调查显示,六成多未成年人使用过AI。 未成年群体是生成式AI用户里占比最高的一档。央视网人民日报

北京安定医院的儿童精神科医生公开说过,临床中沉迷AI聊天的青少年这几年明显增多,“比沉迷游戏更隐蔽”。 社区里的吐槽也很具体:有孩子不想上学,AI直接教他"那就请假"。 有家长发现豆包答案下面挂着关不掉的短视频;还有AI平台在巡查中根本认不出对面是不是青少年——未成年人模式形同虚设的案例早就上过热搜。中国新闻周刊微博人民日报

孩子不能用

再看另一头:部分AI应用被曝用"解锁亲密剧情"诱导未成年付费,角色、话术、付费点一整套设计,正是第八条点名要禁的东西。所以这份新规不是拍脑袋,是把过去一年家长实测踩过的坑一条条写成了条款。

今晚能做的3件事,和1件先别做的事

第一件事:翻一遍孩子AI应用里的"角色入口"。 打开豆包、Kimi们,看有没有智能体、角色扮演、AI伴侣、"搭子"类功能,有就关掉或收起来。豆包2025年8月底就上线了未成年人保护模式,家长设个密码,可以一键关闭智能体对话和AI创作。关键是这个密码得是你设的,不是孩子自己点的。IT之家

孩子不能用

第二件事:备份你家重要的AI记录。 这条是给全家AI重度用户的提醒:7月15日豆包自建智能体全面下架时,官方只支持手动逐条截图保存聊天记录,有人养了一两年、对话量上千条的智能体一夜清零。平台合规整改随时可能砍功能,孩子的作文对话、你家的备忘数据,重要的现在导出。微博

第三件事:想提意见的,10月17日前还能提。 渠道在网信办官网的征求意见入口。别觉得没用,上一轮办法里"分类分级监管"的表述,就是被行业和家长反复掰扯出来的。网信中国

先别做的一件事:为了"合规"急着换设备。 新规管的是平台义务,不是逼你买一台"未成年人友好"的新硬件。真要买AI学习机这类带AI辅导的,按正常节奏看价格就行——比如作业帮那台AI学习机,京东页面价4298元,现在活动到手2798元,历史低价到过2398元,"合规焦虑"不该是你加钱的理由。

接下来值得盯的信号有三个:正式稿落地时条款怎么改、年龄识别会不会要求绑定实名、以及未成年人模式会不会从App蔓延到学习机、AI玩具、智能音箱这些硬件端。到时候再决定要不要动你家的AI配置,来得及。

管住平台的算法,比拔孩子的网线有用得多。这条边界,新规画对了——剩下的,就看执行的那只手够不够硬。

内容由AI生成

精选参考来源

1. 《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》公开征求意见(转“网信中国”)

2. 网信办放大招!未成年人不能用"AI伴侣"了?

3. #失去AI恋人多位用户投诉平台# 7月15日《人工智能拟人化互动服务管理暂行办法》正式实施

4. 国务院新规征求意见:网络服务提供者不得向未成年提供陌生人网络社交服务,虚拟亲属、虚拟伴侣等亲密关系服务等

5. 据央视新闻:不满16周岁上网平台须主动切换未成年人模式(转“网信中国”新规要点)

6. #青少年AI聊天成瘾呈爆发式增长# #AI告诉孩子不想上学就请假#

7. #暑假孩子的聊天搭子是AI# 统计数据显示19岁以下生成式AI用户占比最高

8. #小鲁说事# 青少年AI聊天成瘾呈爆发式增长

9. 比沉迷游戏更隐蔽,“你已经被完全控制了”(转《中国新闻周刊》,郑毅访谈)

10. 【你好,明天|未成年人模式岂能形同虚设】

11. 将AI虚拟恋人异化为批量制黄工具,6人被判刑|今晚九点半

12. #豆包AI上线未成年人保护模式#(IT之家)

13. #豆包智能体功能将下线# 豆包智能体下线倒计时:官方仅支持手动逐条截图保存聊天记录

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章