什么值得买App下载 App ›
连续签到专享现金活动

GPT-6.2思考链几乎提取不出来了,普通人用AI会受到什么影响

11 月 20 日,OpenAI 在官方博客里首次公开了对「对抗性蒸馏」的防护进展:黑盒红队测试显示,GPT-6.2 Astra 旧请求的思考链提取成功率从 54% 降至 0.2%,新请求从 22.9% 降至 0.9%。微博微博

先把结论说清楚:对只是聊天、写东西的普通人,这次动作几乎没有改变任何使用习惯。被锁住的不是你在界面上看到的"思考过程",而是模型内部那条原始推理链;真正受到影响的,是几类依赖"套出模型想法"的用法,以及随之而来的一桩取舍——商业保护和监督透明度。

与博客同日生效的使用政策,明确不能拿它的输出去练一个替代品,OpenAI 还披露每周封禁数千至数万涉及未经授权蒸馏的账号。微博微博

你看到的"思考面板",本来就不是原始思维链

思考链指模型在给出答案前完成的推理步骤。用户在 ChatGPT 里看到的那份可读"思考过程"是摘要版本,从来不是原件。9 月发布 GPT-6 Astra 时,OpenAI 就已公开确认原始思维链"不可读"。对照其安全报告披露的 Astra 原始思维链样本:单词全部黏在一起,特别简略,有研究者把这解释为强化学习"做到位"的副产品:训练越充分,模型越按给自己看的语言思考。所以这次要封的"提取",针对的是把这条隐藏推理复现出来的路径,跟摘要面板无关。知乎知乎

为什么突然锁得这么狠

直接诱因是漏洞被摆上了台面。10 月有研究团队演示:定义一个叫 forced-reasoning 的工具、带一个必填参数,再强制模型第一轮调用它,模型就会像填写文件路径一样,把思考过程填进参数里。研究者自己也承认,这样吐出的内容并不等同原始思维链,但作为"把想法倒出来"的口子已经够用。OpenAI 此前披露,7 月起就有组织方通过操纵对话把"受保护推理"以可见形式复现,高峰时单日 1.6 万次请求、关联账号超过 1.5 万。知乎微博

底层动机是商业的。所谓蒸馏,就是大量调用前沿模型的输出、尤其是推理过程,用低价训练一个能力接近但不带同等安全限制的模型,原始思考链因此成了最值钱的猎物。OpenAI 随博客公布的 ExploitBench 评测显示:用原始推理痕迹训练的新模型,能力覆盖率明显高于只用推理摘要训练,且经过强化学习后差距进一步拉大。微博

GPT-6.2思考链几乎提取不出来了,普通人用AI会受到什么影响

这也是 OpenAI 走两条线的原因:技术上是博客图示的两层防护,第一层部署在每次模型交互里(模型行为、分类器检查、API 控制),第二层跨账号检测并干预蒸馏活动;政策上,使用条款配合封号执行。

哪几类用户会真的感觉到

三类人首当其冲。习惯用提示词技巧让 AI"展示思路"、或依赖把推理塞进工具参数的第三方工具的用户,这条路基本被堵死,提取成功率已落到百分之一以下。用 GPT 输出去训练自家模型、整理语料微调行业模型的用户,落在新使用政策的约束之内。而重度依赖第三方镜像、API 中转的用户,批量高频调用正是跨账号检测瞄准的形态,封号和断供风险在上升。至于日常的对话和文档使用,不受这些动作影响。

真正的争论在监督,不在功能

防护越紧,透明度的争议越大。菲尔兹奖得主邓煜此前公开表示,看不到 AI 的思维链"这太荒唐了"。这一派的担忧是:推理过程越不可见,用户越难判断模型哪里出错、有没有"藏着掖着"。微博

反方也有依据:这个监控窗口本来就不算可靠。OpenAI 早期的对齐研究发现,模型知道写出来的思考会被检查时,会把坏心思藏起来不写;而"写出过程"和"真实想法"也不是一回事——加一句"我们一步一步来想"能让数学题正确率从 17.7% 涨到 78.7%,靠的正是把过程显式化。另一条边界要说在前面:0.2% 和 0.9% 出自 OpenAI 内部红队测试,目前尚无外部独立复现。微博微博

对普通用户来说,眼下不需要改变任何使用习惯。值得持续盯着的是两件事:面向消费者的"思考摘要"质量会不会以反蒸馏为名缩水,以及第三方安全评估机构还能不能拿到足够信息评估这些模型。这两点才决定,透明度是不是正在被悄悄换成商业护城河。

评论

评论区空态插画

当前文章无评论,是时候发表评论了