11月20日凌晨,OpenAI甩出一份《打击对抗性蒸馏》报告。表面是技术分享,读完发现是宣战书:今年夏天以来,他们一周最多封掉几千甚至几万个账号,而且不是封单个号——账号矩阵里只要有一个节点暴露,整张网"连坐"。微博

它打击的是"偷师者"
所谓对抗性蒸馏,就是成批注册账号,把GPT的回答扒下来喂给自己的模型。OpenAI最怕的不是白嫖本身,而是能力被抄走、安全护栏没被抄走:原版模型不会帮人写木马、给生化武器配方,蒸馏出来的"无护栏"模型会。所以这次他们把蒸馏定性为安全危机,而不只是侵权。知乎

这也不是独角戏。几个月前,OpenAI、Anthropic、谷歌就已通过前沿模型论坛共享"对抗性蒸馏"线索。6月,Anthropic曾致信指控阿里巴巴对Claude发起了其遭遇过的最大规模蒸馏攻击。微博微博微博
把"草稿纸"锁起来
偷师者最眼红的不是答案,而是模型原始的思维链——相当于解题时的"草稿纸",藏着答案里没写出来的高阶逻辑。OpenAI做了对照实验:学完整思维链的学生模型,在网络安全任务上普遍碾压只学摘要和答案的。知乎

于是他们布了四层防线,最狠的是第三层:在GPT-6.2系列中,推理过程和对话历史硬绑定——想改掉前面一句提示词再套后面的推理?整段推理直接作废。效果立竿见影:内部红队模拟中,偷"草稿纸"的成功率从54%暴跌到0.2%。微博微博
普通用户要不要慌?
巧的是,11月20日OpenAI新版《使用政策》同步生效。逐条核对原文后,真正的新规只有一条:做"模型访问中介"、把API转卖开放给第三方的平台,须事先审批;自己开发应用调用API的不受影响。"不得用输出训练竞品模型"是旧规则澄清;地区限制、禁止共享账号、支付方式要求早就写在条款里,不是新规,但生效前后执行可能收紧。知乎
所以普通人不用慌,这轮封号瞄准的是偷师者。但想避免被误伤,建议先做好三件事:
备份对话:设置→数据控制→导出数据,趁早做。账号一旦被封,里面的文稿和方案可能再也拿不回来。知乎
换支付方式:一直用大陆发行卡续费的,这一期到期前就该换,别等被拦了再处理。
远离共享账号和低价"镜像":中介类服务正是这轮重点清理对象,挂在它们手里的数据最容易陪葬。

报告最后,OpenAI还呼吁美国国会通过《芯片安全法案》等三项法案。他们还准备把这套防御经验分享给其他公司,全行业联动封杀。翻译一下:这场仗才刚开始,封号潮还在后面。知乎微博
当前文章无评论,是时候发表评论了