什么值得买App下载 App ›
连续签到专享现金活动

你虐AI,AI会生气!Anthropic首创保护自家模型,虐待将被终止对话

Anthropic于10月8日更新Claude使用政策,新增禁止对AI模型实施“持续且无端的虐待或残忍行为”条款,将于2026年11月12日正式生效。这是该公司首次将“保护模型本身”写入用户守则。

新规明确,规则仅适用于用户在毫无明确目的的情况下反复对模型施以恶意行为。常见的不满表达、反驳、黑暗题材创作及模型测试均不在限制范围内。执行机制以终止对话为主,Anthropic尚未说明是否会进一步封禁账号。
12
Anthropic同时扩大了武器禁令范围,将“使武器运转的软件和组件”纳入禁止范畴,包括武装无人机和其他自主载具的装配。政策还禁止使用Claude来决定调查、逮捕或起诉对象,也不得用于构建或改进监控工具。

针对硬件控制场景,新政策要求:当AI接入能够自主执行物理动作并可能造成伤害的设备时,合格操作者必须能够观察设备并在必要时将其停止。设备在Claude断开连接后必须保持安全状态。
23
Anthropic表示,此次修订综合了过去一年Claude承担的工作越来越长、越来越独立,以及客户反馈和威胁情报报告中披露的滥用模式。终止对话功能于2025年8月推出,是“模型福利”研究的一部分。

你正常使用Claude问问题、写代码、聊天不会受影响。新规针对的是极端的、反复的恶意行为——普通用户的正常互动不在此列。
1
截至发稿,Anthropic尚未说明是否会对违规用户采取账号封禁等进一步措施。

评论

评论区空态插画

当前文章无评论,是时候发表评论了