Anthropic开源了“模型防伪”,但你现在还验不了Claude

源自158位全网作者

11-04 19:32

你在某个第三方接口上调用“Claude Opus”。某天回答突然变短、变笨。你问它是不是Opus,它说是。可这句话本来就是它生成的。你没有任何办法证明,后台跑的是不是你付钱的那个模型。

11月2日,Anthropic发布并开源了FlashProve,想解决的就是这件事。服务商先对模型权重做一次密码学承诺,之后每回答一次,就附上一份zkSNARK证明;用户拿到证明,在自己的CPU上就能核对这段输出是不是来自那组权重,全程不用看到权重。按官方数据,一份1024 token请求的证明约19MB,生成端用一张H100,速度约110 token/秒;验证端在普通CPU上十几秒内完成。 进步是真的。AnthropicGitHub

不过,这两天的中文标题里,“17秒”出现得最多。 17秒是验证的时间,不是生成证明的时间;而且前提是,有人先把证明送到你手上。说白了,轻的是“查”,不是“做”。36氪

先看这次到底验了谁。官方演示的模型是Meta的Llama 4 Maverick,400B参数的MoE模型。博客里提到Claude,是说Claude参与了写代码、写协议文档,不是说Claude被验证了。仓库也写明,程序只支持Llama 4 Maverick这一种完整模型形状,上下文1024 token。 截至发稿,Anthropic没有公布Claude的权重承诺ID;至少Claude的API文档和发布说明里,没有“附上证明”这个选项。GitHub

就算验的是Claude,证明也不是你想要就能有。生成端要一张H100,GPU时间约为普通推理的70到95倍;客户端才轻。 服务商不给证明,验证器再快也没用。README还提醒,承诺ID必须从你信任的渠道拿,不能来自被检查的服务器,也不能来自随证明一起发来的文件。 换句话说,防伪标签得由品牌方发。现在Anthropic还没发Claude的标签。AnthropicGitHub

更隐蔽的一层在证明本身。项目的known-limits文档第一条就写:一个“Yes”并不说明这组权重是谁的,也不说明承诺是谁做的。GitHub

这份文档还承认,在它的测试里,严格模式下96条真实回答没有一条能通过;而在拟合出的宽松限额下,32条被偷换一个token的回答里,有28条仍能通过。 严格模式几乎用不了,宽松模式又拦不住小改动。所谓“验真”,实际能做到的是“验一致”。GitHub

覆盖范围也有限。目前一次验证只针对1024个token以内的窗口,每份证明只核对一个位置的输出token;真实服务的浮点和采样解码可能对不上,而且证明是事后生成的,你读到回答时,保证还没到。它适合抽查,不适合给每一次聊天盖章。

那普通用户今天能做什么?仓库开头就写明,这是研究原型,不再维护、不接受贡献。 你可以在一台Linux电脑上编译验证器,一两分钟,几秒钟验完仓库里那份示例证明,得到一个YES。但那份证明来自合成的小模型,它证明的是“验证器能跑”,不是“你用的Claude是真的”。GitHub

这项技术真正改变的,是谁能要求谁举证。有合同的企业客户可以在采购条款里要求出具证明;评测机构可以核对所测版本和线上版本;监管可以要求服务商提交一段时间的推理证明。普通用户和这些场景之间,差的不只是技术,还有一个愿意向你出示证明的服务商。

Anthropic在博客里也承认,日常使用中,用户主要关心输出,不太关心具体是哪个模型,这是“less pressing concern”。 所以它先服务的是审计和采购,不是聊天框。Anthropic

下次有人告诉你“我们接的是真Claude”,你可以问他要两样东西:Anthropic官方渠道发布的承诺ID,和这次请求的证明。对方给不出来,这本身就是答案。FlashProve更像一张刚印好的防伪标签,还不是贴在你那瓶酒上的那一张。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章