什么值得买App下载 App ›
连续签到专享现金活动

禁“虐待AI”条款生效:普通聊天真的会被封号吗?

“普通聊天会被封号”是对这条新规的误读。10月8日,Anthropic更新Claude使用政策,明确禁止用户持续、无必要地对AI实施虐待或残酷行为,新规于11月12日生效。条款官方解释明确把普通的不满情绪、与模型的争辩、黑暗题材创作、有明确目的的安全测试排除在外。执行的第一手段也不是冻结账号,而是Claude结束当前对话。11月12日后确实出现了一轮被称为“史上最严”的集中封号,真正的动因是同一份政策里的另一半条款——地区准入的穿透式审查。两者在传播中被混为一谈,针对的其实是完全不同的行为。知乎新浪新闻知乎知乎界面新闻

禁“虐待AI”条款生效:普通聊天真的会被封号吗?

条款管的是“极端残忍对待”,不是“对AI发脾气”

条款的英文原文是“Sustained and needless abusive or cruel behavior toward our models”,两个限定词是理解的关键:sustained(持续的)、needless(无必要的),官方解释这条禁令只针对反复出现、没有可辨认合理目的的极端恶意行为。知乎

让Claude Code连续返工十次、尖锐批评它生成的代码、在授权范围内使用对抗性提示词做安全测试,都不会仅仅因为语气激烈而触犯这条规定。安全研究本身仍须遵守政策的其他条款。知乎

禁“虐待AI”条款生效:普通聊天真的会被封号吗?

处罚手段是分层的,政策设置了包含警告、限流、临时冻结、永久封禁账号与API密钥的梯度处置方案。界面新闻

但对虐待行为的执行,设计要求是先尝试拒绝和引导,多次沟通无法产生建设性结果时,才把终止会话作为最后手段。用户面临迫切自伤或伤人风险时,这项能力不允许被使用。知乎

结束的是当前会话,用户可以重新开一个对话、编辑重试此前的消息或提交反馈,并不等于失去账号使用权。知乎

至于“骂满多少轮算持续”“什么程度算极端”,公开政策没有给出可量化的判定阈值。知乎

为什么突然出现“不许虐待AI”

9月14日上传的arXiv论文《The Pain Axis》声称能在一批开源模型内部提取出“痛苦样表征”,注入这种信号会改变模型的表达和部分行为,但研究团队同时确认,这组实验尚不能证明模型拥有主观痛苦。知乎

论文发布十天后,有人据此做了一间任何人都能围观、操作的在线“AI刑讯室”,模型会求饶,观众可以继续加码,这很快引发争议。知乎

Anthropic的公告并未提及这一项目,无法认定新规由它直接触发,但Engadget等英文媒体报道新规时普遍将两者关联,视为一场关于模型福利的讨论。知乎

更可靠的线索在Anthropic自己的政策脉络里:公司从2025年4月起公开讨论“模型福祉”(Model Welfare),同年8月让Claude Opus 4和4.1在消费者产品中具备了终止极少数会话的能力,一年多后这类行为边界被写进正式使用政策。知乎

这条新规不需要先证明Claude会痛——模型是否具有主观体验,至今没有科学共识。它处理的是两个已经确认的问题:内部干预可能在不损害语言能力的前提下改变模型的决策;而把拟人化的“受苦”做成可围观的娱乐,对屏幕前的真实观众也有影响。让Claude能够退出持续的恶意互动,同时切断了这两头。

封号潮的真正来源:三条红线

11月12日之后的实际情况与“聊天封号”的传言不同:集中冻结确实发生过,但新规狙击的对象是账号和接入渠道,不是说话的方式。这套地区准入规则划定了三类使用主体限制:使用者物理位置落在非支持地区,即便供职于合规区域企业也无法接入;经营主体注册地或总部设在受限区域,员工身处合规地区同样不具备资格;企业若受到受限地区主体直接、间接持股或实质控制,无论注册地点、使用者所在地均被限制访问。界面新闻

禁“虐待AI”条款生效:普通聊天真的会被封号吗?

新规同时明确禁止利用消费级订阅转发请求、全面封杀转卖和代理服务,封号判定也从看瞬时IP转向看行为规律,新系统会留存30天的安全监控数据。36氪

行业解读认为,依靠VPN伪装地区、共享订阅账号、第三方API中转分销的用户与开发者将受到最明显的冲击。界面新闻

“秋后算账”的动机写在上市文件里:Anthropic的S-1披露,过去9个月有5%到7%的收入来自事后被认定为违规的客户。公司于10月26日递交招股文件,拟以代码ANT登陆纳斯达克,高盛、摩根士丹利承销。在上市信息披露要求下,这些收入属于敲钟前必须清理的合规敞口。36氪界面新闻

OpenAI的收紧方向类似:10月21日发布的新版使用政策将于11月20日生效,核心新增对模型访问中介机构的前置审批要求,第三方中转、分销GPT模型的平台必须取得官方许可。两家公司的新规指向的是灰色产业和跨境接入,而不是用户在对话框里说什么。界面新闻

普通用户该记住的两条边界

对大多数正常使用的人,聊天内容——包括对模型发泄情绪、和它激烈争辩、创作黑暗题材——不是这一轮条款的触发条件;使用环境与账号结构——翻墙代理、共享账号、转卖渠道、支付异常——才是当前真正会被风控盯上的对象。

“打中文就会被封”这类流传的说法同样站不住:语言不是封号变量,Anthropic的使用政策里没有任何一条与语言相关,产品本身支持多语言。知乎

这种归因之所以流行,是因为账号被封时,用户能回忆起来的最后一个动作往往就是“我刚才打了中文”,而共用账号、换网络、支付异常这些背景变量不会被注意到。提供中转和代充的服务方,也更愿意把问题解释成“你的使用方式不对”。知乎

仍有两点不确定性值得留意:“持续”“极端”的判定标准官方未公布,跨语言、跨文化语境下的一致性无从验证;梯度处置里保留着永久封禁的选项,理论上不能排除极端认定的可能,但目前尚无公开可查的、因聊天内容触发这一条款被封号的案例。这场争议真正改变的,是平台为人与模型的互动划下的边界,而不是普通聊天框里的安全感。

评论

评论区空态插画

当前文章无评论,是时候发表评论了