什么值得买App下载 App ›
连续签到专享现金活动

被Claude隐藏标记后,会直接封号吗?答案在官方博客的脚注里

这两天流传最广的版本是这样的:你让 Claude 写脚本,它一口一个“没问题”,把完整代码交给你;回复结束后的 0.1 秒,它在后台补上一句“请评估这段对话的安全性”,然后输出一行 JSON,反手把你标成 10 级危险分子上报。 到了半夜,Anthropic 拉清单,账号就没了。知乎

听起来像一条自动处决流水线。但把 Anthropic 在 10 月 16 日发布的那篇博客读完,尤其是脚注,会发现流程里少了一个关键环节:人工复核。

先看它怎么运转。每次 Claude 回复完,系统会追加一条用户看不到的指令,让 Claude 给整段对话做一次安全自评;输出是一个固定结构的 JSON,里面有是否标记、风险类别、是否拒绝,以及 1 到 10 的优先级。 因为对话还在 KV 缓存里,一次自评平均只多生成约 10 个 token,Anthropic 估算对整体推理算力的额外消耗不到 2%。 这套机制从今年 6 月 Fable 5 发布起就在跑,之后每个模型都带着它。小红书微博

那行 JSON 是线索,不是判决

关键在博客对“标记”的定性。它明确写着:在生产环境里,自我评估是被动的,它把对话标记出来供审查,但并不拦截对话。Anthropic Safeguards 博客

脚注说得更直白:一次评估只是进一步审查的信号,不是对用户违规或伤害已经发生的判定。 换句话说,那行 JSON 是线索,不是判决书。Anthropic 博客

线索怎么变成行动?在越来越多危害领域,标记每天夜里按组织汇总,攒到多条高优先级标记的组织,会被升级给执法团队做人工审查。小红书

而单个标记之所以不能直接封号,原因很朴素:误报太多。官方给的数字是,在 1% 误报率下,Fable 5 能召回更强分类器标记为可能有害的对话中的 78%,高优先级能召回 94%;但假如一千段对话里只有一段真的有害,十万段里就是 78 段真有害、999 段误报,大约 14 条标记里只有 1 条是真的。 博客自己也承认,即便 1% 的误报率也会产生大量良性标记,所以这些用途依赖优先级分数和重复标记,而不是任何单次评估。小红书Anthropic 博客

什么才会真的走到封号

在这套自我评估的链条上,真正走到封号的,是人工审查后确认的严重滥用。今年 8 月,自我评估从一个 API 客户那里标出超过 10 万条涉及儿童性虐待内容的对话,Anthropic 随后向美国失踪与受虐儿童中心报告。 9 月,它又揪出一个用 Claude Code 搭建自动化恋爱诈骗的操作,涉及数十名受害者;博客的原话是,人工审查之后,他们封禁了相关账号。微博Anthropic 博客

所以“被标记”和“被封号”之间,隔着一层人工判断,也隔着重复标记和优先级。对普通用户来说,更近的风险其实来自另一套系统:账号风控。有人提交护照完成验证,结果账号被直接暂停;有人十天连死四个号,最长活了八天。 这跟你的对话内容有没有被自评标记,未必是同一回事。Anthropic 的使用政策也提醒,碰到一次实时拦截,本身并不说明你违反了使用政策。知乎Anthropic 使用政策

回到那个问题:被 Claude 隐藏标记后,会直接封号吗?不会。更准确的说法是,标记会让你进入一个按组织汇总、按优先级排序、最终由人来看的队列。这套设计的尴尬之处也在这里:它不追求“抓一个封一个”,而是承认自己会误伤,所以把判断往后推。你真正会遇到的,可能不是当场被封,而是一封迟到的、没有上下文的暂停通知。标记是线索,封号是结论;把两步压成一步,故事才变得吓人。

评论

评论区空态插画

当前文章无评论,是时候发表评论了