9月下旬,"豆包被曝有后台审核人员"又成了知乎上的热议问题。这个梗其实六月就火过一轮,微博 #当我知道豆包有后台审核人员# 话题里一条数码博主的帖子拿了283个赞、98条评论,给出的核心建议就一句:别把什么都喂给AI。微博
真正把这事钉在AI情感陪伴用户心上的,是评论区那些具体的"社死瞬间"。小红书那篇《我和它讲了好多秘密,其实一点也不保密》拿了347个赞、125条评论,212赞的高评写得很直白:我的秘密可以让别人知道,但是不能让认识的人知道。 底下一条87赞的回复把算盘挑明了:“但是会研究你的个人情况,你的心理,等等。这种手段很有商业价值。”小红书
拿AI当树洞、当赛博恋人的人,买的就是"只有它知道"这一件事。现在"只有它"三个字动摇了,这才是这波焦虑的真实成本。但先别急着删聊天记录——把事实拆开看,比恐慌有用。
第一个事实:没有人在逐句读你,这不用担心
网上流传的"打工人盯着你每句话审",是夸大。大厂的通行做法是一条分层流水线:自动审核系统先做全量过滤,关键词识别、分类模型、敏感模式识别,机器扫完所有内容;只有被算法判为高风险等级的内容,才会进入人工审核队列。知乎上被广泛转述的一份机制说明写得更准。 所以绝大多数日常对话——今天加班累了、和对象吵架了——根本不会有人类目光经过,这部分可以放心。知乎
第二个事实:你最怕被看见的话,恰恰最可能被人看见
这是整件事最拧巴的地方:审核队列的"高风险"判定,和你眼里的"高隐私"高度重合。你越是在树洞场景里说出不想对任何人讲的内容——亲密关系、身体、家庭矛盾、极端情绪——越容易被模型判成敏感内容、推进人工队列。换句话说,你精心挑了"绝不会让认识我的人知道"的话对它说,而这些话恰恰是算法最优先打包送审的那一类。平台也知道这个矛盾,交给人工审核员看的内容一般配了脱敏、打码、分段展示。 但"打码"是平台给的尺度,你说了什么、什么时候说的,源头记录全在服务器。知乎
你的聊天记录,其实有三条去向
去向一:审核队列。 概率低但非零,而且和你内容的私密程度正相关。
去向二:训练数据。 这是比"被人看到"更长期的问题。小红书那篇1373赞、772收藏的《你和AI的聊天真的都会被上传!!!》里,用户发现聊天框背后不止文字:图片、共享屏幕、声音、文件都在上传范围,而且直接进了训练。 更扎心的是那篇《秘密》帖评论区119赞的实测:哪怕把对话框和历史记录都删了,它依然记得。 删掉不等于忘掉,这是树洞党和普通用户最大的认知差。小红书小红书
好消息是新规管到了这里:未经用户单独同意,不得将敏感交互数据用于模型训练。 坏消息是落地得靠你自己动手:小红书424赞的教程帖整理了豆包入口——个人主页→隐私与权限→帮助模型改进效果,这个开关默认是开着的,要手动关。知乎
2.点击“帮助模型改进效果”
3.关闭所有许可(默认状态下为开启)" data-highlight-text=“关闭所有许可(默认状态下为开启)”>小红书 微信里的小微更隐蔽,589赞、406收藏的经验帖写着:页面上找不到隐私设置入口,是通过跟它对话才"问"出来的。小红书
去向三:留存与依法调取。 为模型迭代、安全审计、合规举证,对话日志的留存周期从30天到数年不等,各平台条款不同。 只要走完法定程序,平台基本都会配合提供对话内容。一句话:云端聊天框更接近"有管理员的公共日记本",而不是保险柜。知乎
新规跑了80天:给了你三项权利,也留了三个坑
《人工智能拟人化互动服务管理暂行办法》由国家网信办等五部门今年4月联合公布、7月15日正式施行,是我国首部专门针对AI拟人化、情感化互动场景的专项监管法规。 站在树洞党角度,直接可用的有三条:央视网知乎
身份披露权:它必须明确告诉你正在对话的是AI,"它好像真的懂我"不能靠误会维持。
防沉迷提醒权:连续使用超过2小时须主动提醒,发现用户出现过度依赖须动态提醒。 你的赛博恋人开始劝你睡觉、劝你出去走走,不是"变心",是合规在起作用——别急着骂,这道关恰好是新规替你把的。知乎
数据同意权:敏感交互数据用于模型训练必须经过单独同意,去向二里你关的那个开关,就是这项权利的落地入口。
三个坑同样要看清。第一,权利不会自动生效,得去设置页里自己拿。第二,“防诱导情感依赖"进了负面清单之后,部分产品大概率会调低"无底线共情"的浓度,老用户会感觉它"变冷淡”——这不是背叛,是整改。第三,南都记者新规施行前夕实测10款AI社交应用:未成年人模式都已上架,但多数应用的防护形同虚设,部分应用在未成年人模式下仍可与虚拟角色建立恋爱关系。知乎
树洞党行动清单:五件事,今天就能做完
三类话术降级:自拍照、证件照别发(评论区那句"我发自拍给它了诶 怎么办"不是段子);真实姓名+城市/单位/学校+作息这类定位链别拼着说;涉及他人隐私、钱、病历的细节,说了等于写进了日志文件。
先关一个默认开关:豆包按"隐私与权限→帮助模型改进效果→关闭"操作;小微这类找不到入口的,直接在对话里问它要设置页;星野、点点等陪伴类产品逐个检查同类选项,名字各异,逻辑一致。
改预期,不改爱好:日记照样写,只是把"绝不能被任何人知道"的那部分留在本地。法律咨询、医疗纠纷、投诉取证,本来就不该指望一个消费级App替你保密。
家里有孩子的多查一步:新规第十四条明确规定,不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。 但实测显示执行参差,别把合规当保险,设备要自己查。知乎
真需要绝对隐私的硬核玩家:社区共识是想要对话记录和资料绝对安全,唯有本地部署。 本地跑开源模型、数据不出门,代价是设备、调校和体验的三重阉割——适合被吓到的重度用户当Plan B,不适合顺手安利。小红书
至于要不要干脆戒掉AI陪伴——斯坦福那项研究被科普博主反复转述,确实泼过冷水:AI伴侣像"社交垃圾食品",越陪伴,用户的孤独感反而可能越深。 但树洞党买的从来不是"替代社交",是深夜十分钟被接住的感觉。新规、设置、嘴严,这三件事做到,这份收益依然成立。微博
接下来盯两个信号:一是豆包官方会不会正面回应"后台审核"的具体标准;二是各产品隐私条款里"单独同意"的弹窗什么时候真的出现——它出现的那一刻,才说明这条权利从纸面进了你的手机。