你的Claude可能被掉包了:新工具能验权重,验不了招牌

源自183位全网作者

09:21

花 Opus 的钱,回你的可能是个便宜模型。

这个怀疑吵了好几年。同样挂着 Claude Opus 的招牌,有的站答得像博士,有的站答得像刚学会说话。你去问客服,对方说负载高、采样温度调过,或者干脆说是你 prompt 写得烂。你没法反驳,因为整条链路上没有任何一个环节,留给你可以验证的东西。知乎

11 月 2 日,Anthropic 开源了一个叫 FlashProve 的研究原型,第一次让这件事有了可以验的格式。机器之心知乎

你的Claude可能被掉包了:新工具能验权重,验不了招牌

它是怎么验的

三步,说人话。

第一步按手印。模型上线前,厂商给这套权重算出一个密码学指纹,公开发布出去,权重动一点点,指纹就对不上。知乎

第二步出证明。每生成一条回答,GPU 额外算一份证明文件,说明这段输出确实是被按过手印的那套权重算出来的。

第三步你来验。拿到回答和证明文件,在自己电脑上跑个验证程序,不需要权重也不需要显卡,24 线程 CPU 约 17 秒,单线程约 21 秒。36氪

靠的是 zkSNARK:我向你证明我做了这件事,同时不告诉你我是怎么做的。所以验的人看不到权重,也伪造不出证明。知乎

你的Claude可能被掉包了:新工具能验权重,验不了招牌

数字也够硬。测试对象是 Meta 的 Llama 4 Maverick,4000 亿参数 MoE,每 token 只激活约 170 亿;一张 H100 上,证明生成吞吐约 110 Token/s,每份证明文件约 18.78 MB。同样的模型,之前的开源方案 VerInf 每秒只能出 0.02 个 token,一千个 token 要算 14.3 小时,证明文件 93.6 GB,比模型本身还大。机器之心知乎

但你先别高兴

代价写得也很直白:生成证明所需的 GPU 时间,约为普通 vLLM 推理的 70—95 倍。机器之心

快 5500 倍是跟上一代零知识方案比,慢 95 倍是跟正常推理比,两个数字都对,说的是两件事。知乎

再加上:上下文只支持 1024 Token 的窗口,只认整数模型和 Greedy Decoding,还不能直接覆盖所有模型和推理方式。而现在一个 agent 跑几轮工具调用,上下文轻松就是几万 token。仓库首页还写着「不维护、不接受贡献」,它是研究原型,不是产品。机器之心知乎

更要命的是定位:事后追责,不是实时拦截。报告里写得很明白,事后证明不能阻止用户收到错误回复,它只能保证篡改会被发现。回答先到,证明后到,单请求还要等约 5 分钟,因为证明是按批出的。你看到那份被篡改的内容时,警报还没响。知乎

最容易被忽略的那道坎

FlashProve 证明的命题是:那组被承诺的权重,在这个输入上,产出了这些 token。注意主语,它认的是权重,不是招牌。知乎

服务商完全可以承诺另一组便宜权重,再老老实实为它生成有效证明,你验过了、通过了,验的也只是「输出确实来自它承诺的那套权重」。至于那套权重是不是你花钱买的型号,证明本身不回答。36氪

所以谁把承诺 ID 递到你手上,决定了你到底在信谁——Anthropic 至今没公布 Claude 的承诺 ID,也有报道称它暂时没打算把这套东西用到 Claude 上。知乎知乎

还有一层:权重没变,不等于服务没变。系统提示词、安全策略、上下文截断、量化方式和解码参数,随便动一个都能改体验。这类「降智」,FlashProve 一个字都解释不了。36氪

那它凭什么值得关注

因为痛点是真的。斯坦福的 ModelEqualityTesting 项目测过 2024 年 4 款 Llama 模型的 31 个商业 API 端点,其中 11 个的输出分布,与 Meta 发布权重的参考分布存在统计差异。36氪

同一个模型名字,从来就不保证同一种表现。

以前你只能问「你跑的是哪个模型」,对方靠嘴说;以后至少能问「你那组权重的指纹在哪,谁背书」,这句话可以写成式子。

你的Claude可能被掉包了:新工具能验权重,验不了招牌

对普通人来说,眼下能做的是两件小事:关键活儿别全押在一个便宜渠道上;验收时拿官方渠道跑同一道题做对照。至于 FlashProve,它现在帮不上你的日常开发,但它把「掺水」这件事从罗生门,变成了一道对方必须回答的题。

铁路刚修好时跑得比马车慢,TLS 证书刚推出来也被嫌损耗性能。基础设施类的东西,第一步都不好看。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章