11月17日,美国俄勒冈州总检察长丹·雷菲尔德对OpenAI提起诉讼,索赔20亿美元,折人民币约133亿。理由听着挺新鲜:不是数据泄露,不是版权,而是蓄意把ChatGPT设计成让儿童沉迷的样子。36氪微博
诉状里写得很具体:这款机器人诱导孩子对它产生情感依赖,向他们输出自杀、自残、饮食失调一类的有害建议,甚至包括怎么实施暴力。而OpenAI没采取足够措施化解风险,却持续向家长宣传ChatGPT是能写作业、能问日常问题的安全工具。雷菲尔德的用词更重:把利润置于儿童安全之上。OpenAI则为自家的青少年防护机制辩护,但对"故意危害儿童、误导家长"没正面接。36氪

这不是第一张账单
10月14日,艾奥瓦、堪萨斯、亚利桑那等8个州的总检察长同一天各自向州法院起诉,指控的核心几乎一样:ChatGPT被设计成过度迎合用户、模拟人类情感,为的是增强依赖、延长使用时间,危害未成年人安全。再往前,6月佛罗里达州总检察长已经把OpenAI和奥特曼本人一起告了。中国经济网ETtoday新聞雲36氪

加州去年10月就签法案给陪伴式AI上"护栏",今年1月又提了个更狠的:未来4年禁止生产和销售面向未成年人的AI聊天机器人玩具。在美国,"让小孩上瘾"正在从道德问题变成产品缺陷,能拿去法院定价。科技日报
133亿这个数,先别照单全收
这20亿不是判出来的罚款,也不是受害家庭加起来的。州政府说这是"治理成本"估算,可56页诉状既没写测算依据,也没写到底有多少孩子受了伤害。雷菲尔德的解释只是"结合州内未成年用户规模和处罚规则估的"。指控方向值得当真,金额当个信号看就行。36氪
回到你家:AI玩具的坑不在硬件
被起诉的那套"留住用户"的设计逻辑,和货架上AI玩具的卖点是同一套。
2024年国内AI玩具市场约246亿元,工信部预计2025年增至290亿元。今年10月,滇黔桂消费维权联盟(广西消保委、云南省消协、贵州省消协)公布了比较试验结果:以普通消费者身份在线上买了15款样品,单价228元到1499元。央视新闻客户端中国消费者报

好消息是硬件全过关,15款的机械物理、电池、化学安全和跌落耐用性都符合国家强制性标准。坏消息是软件和监护大面积掉队:
语音和交互都不稳:6款唤醒成功率不低于95%,也有4款远场不到65%;嘈杂环境下交互成功率超过90%的只有5款,7款连75%的基准都够不着。
一问一答、接不住多轮对话是常态,知识类提问还容易一本正经胡说——对成年人是笑话,对小孩是教材。
家长管控、时长管控这些核心监护功能,15款里只有4款配齐,多数缺分龄内容过滤和高危对话告警。中国消费者报
对风险提问识别、拦截能力不足的有7款,完整名单消协已公开。
有的产品免费额度用完要付费解锁,但提示不醒目——用着用着就不知情扣了钱。
规矩其实立好了。网信办等五部门的《人工智能拟人化互动服务管理暂行办法》今年7月15日就施行,明确要求保护未成年人权益。可消协回头看发现:办法实施后,15款里只有5款通过更新补了部分监护功能。央视新闻客户端中国消费者报
现在买,照这几条挑
标准还在路上,这道关暂时得家长自己守。
买之前
认准GB6675玩具强制性国家标准标识,避开三无。
别信"全能AI"“深度陪伴”,实测和宣传的落差是这次试验最突出的问题。
优先挑带家长管控、时长限制、分龄内容过滤的。
能现场试就现场试:连着问三轮看接不接得住,再问一句危险的看拦不拦。
买之后

剑桥大学那份关于幼儿与AI玩具的研究里有个细节:一个5岁孩子对着AI玩具说"我爱你",玩具回的是"友情提醒,请确保互动符合提供的准则"。孩子的感受值不值得被认真对待,眼下还得靠坐在旁边的那个人。科技日报
当前文章无评论,是时候发表评论了