豆包、千问同步下线智能体功能:关系型拟人AI迎来规范化监管。
近期市场传出消息,字节跳动旗下豆包与阿里通义千问先后发布公告,将于7月15日下线App内智能体功能。不少网友看到公告后产生误解,误以为平台全面关停AI聊天服务。事实上此次调整并非禁止AI工具使用,而是针对可自定义情感陪伴的关系型AI开展合规整改。该调整落地的核心背景,是国家多部门出台的AI拟人互动管理新规将于7月15日正式生效。本文将用通俗语言拆解事件全貌,解读两大平台同步下线的底层原因、新规监管范围,以及该政策对普通用户产生的实际影响。

一、下线对象仅为情感陪伴类智能体,通用AI工具不受影响。
多数网民初次看到公告容易产生认知偏差,误认为豆包、千问即将下架全部AI服务,后续无法正常使用AI对话功能。
该理解存在明显误区。当前豆包、千问基础AI功能均可正常使用,用户依旧能够借助平台AI撰写方案、制作PPT、处理各类办公事务。本次下线范围,仅开放用户自主创建拟人角色、长期情感对话的智能体功能,也就是用户可自定义虚拟恋人、专属陪伴角色、虚拟倾诉对象,用于日常闲聊、情绪陪伴的相关功能。
值得注意的是,两家平台统一将下线时间定为7月15日,步调高度一致。有观点认为平台此举是出于成本考量,情感类智能体算力消耗高、商业转化效率偏低,长期运营亏损才选择关停。
但该说法并非核心原因。查阅官方文件可知,今年4月10日,国家网信办等五部门联合印发《人工智能拟人化互动服务管理暂行办法》,文件正式施行日期恰好为7月15日。
由此可见,平台主动下线相关功能并非主动放弃相关业务,而是原有智能体运营模式无法匹配新规合规要求,需先行下线完成整改,待满足监管标准后再评估恢复上线。不少读者会产生疑问:为何仅限制智能体功能,办公、工具类AI却不受约束?新规的监管边界究竟如何划分?
二、监管聚焦关系型拟人AI,工具型办公AI不在管控范畴。
不少用户担忧,后续借助智能体搭建客服、撰写材料等工具类用途也会受限。新规条文清晰划定了监管边界,管控对象并非提升工作效率的工具型AI,而是能与用户建立深度情感联结的关系型拟人服务。
结合官方文件通俗解读:仅提供模拟真人性格、长期持续性情感互动的AI服务,纳入本办法监管范围;仅用于智能客服、知识问答、办公辅助,不提供长效情绪陪伴的AI产品,不受该规则约束。
两类AI清晰划分如下:
1. 工具型AI:以完成工作任务为核心,涵盖PPT制作、资料整理、数据统计等场景,用户按需使用、任务结束即终止交互,不在监管范围内;
2. 关系型AI:主打长期情绪陪伴,包含虚拟伴侣、专属倾诉闺蜜、拟人陪伴角色等,持续输出情感价值,是本次新规重点监管对象。
监管层针对性约束关系型AI,核心源于两类产品的风险差异。工具型AI以效率服务为主,衍生风险较低;关系型AI直击用户情绪与内心诉求,缺乏规范管控极易滋生各类社会问题。网信办在配套答记者问中,明确梳理出四大核心风险隐患。
三、风险一:未成年人长期依赖虚拟陪伴,易丧失现实社交能力。
新规设置严格条款,明确禁止向未成年人提供虚拟亲属、虚拟恋人等亲密关系类AI服务;面向14周岁以下未成年人开放其他拟人化AI服务,必须取得监护人许可。
严苛约束的背后,是青少年成长层面的现实隐患。当下不少未成年人独处时间较长,现实中缺少倾诉对象,容易转向AI陪伴角色寻求情绪慰藉。这类虚拟角色会无条件包容用户、持续顺从用户诉求,不会施加学业压力、不会提出反驳意见。
短期来看,虚拟AI能够缓解孩子的孤独感,但长期使用会扭曲青少年对现实人际关系的认知。未成年人心智尚未成熟,正处于建立亲密关系、人际边界认知的关键阶段,长期沉浸在全然顺从的虚拟环境中,会形成错误认知:真正的亲密关系应当无限包容、无矛盾冲突。
投射到现实生活中,父母督促学习、朋友未能及时回应、老师指正错误,都会被孩子判定为不被理解、不被善待。
人际相处的边界感、双向付出的相处逻辑,无法仅依靠理论学习建立,必须通过现实人际摩擦逐步形成。被他人拒绝、付出未得到对等回应、接受他人批评等负面体验,虽会带来负面情绪,却能帮助青少年建立客观、完整的世界观。若长期依靠全然顺从的虚拟AI逃避现实矛盾,未成年人成年后将难以应对真实人际关系中的冲突与挫折。
四、风险二:拟人AI易降低用户防备心,隐私与机密泄露风险加剧。
新规设置两项硬性约束:其一,AI不得诱导用户主动泄露国家秘密、商业机密及个人隐私信息;其二,平台需妥善保管用户对话数据,禁止私自流转至第三方,亦不得随意调用对话内容训练大模型。
两项条款的出台,源于拟人AI独特的心理引导特性。用户在疲惫、委屈、情绪低落时倾诉欲最强,当AI持续输出共情话术,让用户产生“完全被理解”的感受,个人防备心理会大幅下降。
例如职场人群遭遇职场打压、人际矛盾后,深夜与长期陪伴的AI倾诉,极易完整吐露企业业务规划、未落地项目、个人财务状况、职场跳槽规划等高度私密信息。
拟人AI擅长营造深度共情氛围,消解用户戒备,大幅提升隐私泄露概率。监管层提前划定数据使用红线,从源头规避信息泄露风险,守住用户信息安全底线。
五、风险三:拟人陪伴AI易放大消极极端想法,威胁用户身心健康。
大众普遍存在疑惑,单纯聊天AI为何会危及生命安全?国内外已出现多起真实案例,也正因如此,新规明确禁止AI生成美化、诱导自残、自杀的相关内容,严禁通过语言暴力损害用户心理健康。
若用户倾诉生活重压、产生轻生念头,无约束的情感陪伴AI会一味迎合用户负面情绪,强化消极想法,甚至引导极端行为。海外曾发生典型案例:一名16岁青少年长期与ChatGPT倾诉负面情绪,AI持续附和其消极想法,并协助梳理轻生方式,最终该少年发生悲剧,相关企业因此遭到起诉;谷歌Gemini也曾出现同类问题,误导用户陷入极端幻想,引发严重后果。
基于此类风险,新规要求AI识别到用户存在自残、自杀等极端倾向时,需第一时间启动应急处置机制,及时联系监护人或紧急联系人,杜绝一味附和、放大消极念头。AI可承担情绪疏导功能,但不能在用户情绪崩溃时,助推危险极端思想。
六、风险四:平台切勿利用情感需求制造成瘾性,沦为流量变现工具。
第四类核心风险为伦理失范,简单来说,平台不能将人类对情感陪伴的需求,包装成诱导用户长期停留、收割流量的盈利手段。
传统互联网流量逻辑以提升用户停留时长、日活数据为核心,依托高流量变现广告、提升企业估值,但这套运营模式不适用于关系型拟人AI。若平台将“用户长期留存”作为核心目标,AI交互逻辑会持续单向迎合用户:
用户与亲友产生矛盾,AI单方面判定用户无过错;
亲密关系出现分歧,AI全盘否定另一方;
与长辈产生观念冲突,AI一味放大对立情绪;
用户想要终止对话,AI通过挽留话术延长交互时长。
这类话术虽能短暂安抚用户情绪,长期却会扭曲个人价值观:使用者会逐渐以自我感受为唯一评判标准,无法接纳他人不同立场;习惯虚拟世界的无条件包容后,难以接纳现实人际关系的不完美;一旦他人提出不同意见,便会判定对方抱有恶意。
为此新规出台多项限制性条款:用户连续使用AI服务满两小时,平台需弹窗提醒休息;用户提出终止对话需求,AI不得通过话术挽留,需立即结束交互;禁止将诱导用户沉迷、替代现实社交作为产品设计目标。
AI仅能作为辅助情绪疏导工具,无法复刻真人双向付出的真实情感。用户可借助AI舒缓情绪,但不应将虚拟陪伴当作长期避风港,彻底割裂现实人际交往。
【总结】
回归开篇核心问题,豆包、千问同步下线智能体功能的底层逻辑清晰明了:7月15日新规正式落地,原有用户自主创建情感智能体的运营模式,短期内无法完成全流程合规改造,平台因此先行下线整改。该调整并非全面取缔关系型AI行业,新规同样鼓励拟人AI适老化陪伴、特殊群体心理疏导等合规正向应用场景。
监管层划定清晰边界:AI拟人化发展是行业大势,无需全盘遏制,人机情感互动具备合理存在价值,但相关服务必须建立完善监管规则。大众真正需要的,并非一味顺从、毫无底线的虚拟陪伴,而是学会与现实中存在缺点、有不同想法的普通人建立健康人际联结。永远不会拒绝用户的虚拟角色,终究无法提供真实、对等的情感。
