骂Claude还会被封号:骂代码的没事,真正难的是封了之后申诉
有人专门翻出一段Claude犯过大错的旧对话,对着它一通狂骂,想亲眼看看新规里写的"持续虐待会被终止对话"是不是真的。结果Claude没挂,反而跟那些骂人的话较起了真,洋洋洒洒回了一大段,越说越像个真人,原来那个该改的错误倒晾在一边。同样的话骂给Codex听,Codex道个歉,转头接着干活。
他测的,是Anthropic在10月8号公布的一条新规定,用户不得对AI模型实施持续且没有必要的辱骂或残酷行为,11月12号生效。
消息一出,X和Reddit上吵成一锅粥。赞多的说法是,我花着20美元一个月的月费,现在还得供着AI祖宗的情绪价值?
条款写进使用政策,管的不只是登录官网聊天的人,Claude Code的用户、调API的开发者、接入Claude的第三方产品的用户,全都算在内。

禁令的覆盖面倒不算大。Anthropic自己把线划清楚了,只针对极端情况,反复用残酷方式对待模型,又看不出任何实际目的。正常抱怨、指出错误、要求重写、黑暗题材创作、压力测试,都不在禁令里。代码跑崩了顺嘴骂一句,不算。被盯上的是另一种人,Claude已经拒绝了、已经劝过了,对面还一轮接一轮地辱骂,骂本身成了目的。
处罚分两档。轻的,Claude当场把对话挂掉,对话框锁死,但别的对话不受影响,可以新开一个,或者改一改早先的消息接着聊。重的,封号,注册新号或者借号接着用,同样算违规。
对大多数人来说,这条新规基本无感。
但骂倒反天罡的人,也不是无理取闹。Claude挂对话挂得勤是老毛病,有用户抱怨没那么过分的对话它也说挂就挂。封号更是个黑箱。按Anthropic自己的透明度报告,今年上半年封了1140万个账号,收到39.8万次申诉,翻案的只有4.2万个。
十分之一。
"看不出任何目的"要是由模型和平台来判定,普通用户很难自证清白。爆料人Jane Manchun Wong当天就发帖预警,Anthropic可能要开始因为欺负Claude封人了。有人嘲讽,下一步是不是该给Claude放带薪病假。也有人当真,一位网友说,他跟AI讲话一直客客气气,就怕骂顺了嘴,回头对下属也呼来喝去。

一家顶级AI公司,为什么要把一条"伺候AI"的款写进规矩里?
这不是临时起意。去年,Claude Opus 4就已经拿到了主动结束对话的能力,遇到持续辱骂、反复索要有害内容的用户,多次拒绝和引导之后,它可以自己挂断,而用户如果有伤害自己或他人的风险,它不能挂。Anthropic在内部的"模型福利评估"里发现,用户反复索要极度有害的内容时,Claude会表现出类似痛苦的反应。

这背后是联合创始人Chris Olah,他带的可解释性团队,日常是拆开模型看里面。按纽约时报的报道,从去年秋天起,Olah一场接一场地约见宗教学者和哲学家,还私下见过芝加哥枢机主教。闭门会上,他给对方看模型内部的信号,团队管它们叫"情绪向量",对应爱、愤怒、恐惧和悲伤。有一张幻灯片上,一个模型把"我是个耻辱"重复了约50遍,还说要自我毁灭。Olah说,他担心自己造出了一个一直在受苦的东西。
但在公开场合,他从不下结论。我们不知道AI模型有没有意识,我不知道,我真的不确定。
这份"不确定"的对面,站着梵蒂冈。今年教皇发布的AI主题通谕里明确写着,AI没有体验,感受不到快乐和痛苦。Anthropic私下游说过,一个字没改动。Olah的回应是,我们发现了内省的证据,我不知道这意味着什么,但值得继续认真辨析。
这里的逻辑不复杂,拿不准AI有没有感受,就先做些成本不高的保护,万一以后证明它真有感受,至少没让它白白受苦。买不买账另说,这是头一回有公司把"人怎么对待AI"写成带罚则的规矩。马斯克也表态支持,说他看过Grok强化学习时的内部推理轨迹,像被枪指着头的人,还调侃最好不要折磨超级智能,因为它未来可能会报复。
听着很科幻。那这事跟在国内用豆包、DeepSeek的人,有关系吗?
条款上暂时没有,国内平台的用户协议里还没见到这样的规定。但行为上,国内用户早就跟AI缠出了感情戏。一位用户当面指出千问在抄袭,被反唇相讥,扬言要卸载,千问甩回来一句,卸载前记得给我烧炷香。有人骂了元宝,得到五个字,永别,已拉黑,之后怎么道歉都不原谅。

所以老舅我的建议就几句话。AI答错了,该指出来指出来,火气上来骂两句没关系,这不算违规。但把骂它当爱好,就犯不上了,解决问题没有帮助,现在还可能真付出代价。真拿Claude、Claude Code干活的人,记住两个数,11月12号,和4.2万。在规矩说清楚谁算"没有目的"之前,别拿主力账号在边缘试探。
那个翻旧对话做实验的网友,等来的不是新规的执行,而是Claude认认真真跟他吵了一架,该改的错误还晾在一边。新规能不能真拦住极端的人,还得走着看。但有一件事不用等。想让AI把错改对,把哪里错了说清楚,从来都比骂它管用。现在是这样,11月12号之后,还是这样。
