什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

AI写代码比人多一步:2.5小时跑出18.7倍性能,64%时间竟在测量

2026年7月,KernelBench-Mega的榜单悄悄更新了。排名第一的位置,写着一个从未出现过的数字:18.71x。这不是某个人类工程师的战绩,而是一个AI模型,花了2.5小时写出来的。1
出题的人叫Elliot Arledge,独立内核工程师,也是KernelBench的维护者。他给这道题设了一道“真实性门禁”:模型必须用一次cudaLaunchCooperativeKernel把所有运算融合进单个kernel,用torch.profiler可验证。之前所有“赢家”,靠的都是多kernel+Triton流水线拼凑成绩,没有一个真正通过这道门。直到Fable 5出现。1
torch.profiler拉出来看,每解码一个token,只有一次kernel launch。这意味着什么?正常情况下,一次LLM解码要经过几十个独立算子:矩阵向量乘法、RMSNorm、注意力、MoE路由……每一步都是单独启动内核,中间结果反复在显存里倒腾。Fable把这一整套流程焊死进了一次launch,数据全程留在寄存器和共享内存里,根本不落盘。1
18.7倍是什么概念?对比一下就清楚了:自家Opus 4.8只有14.4倍,GLM-5.2是11.1倍,GPT-5.5只有4.3倍,Sonnet 5是4.0倍。Fable 5把第二名甩开了四倍多的差距,跟GPT-5.5比,差了整整一个数量级。1
更诡异的事情在后面。Elliot把上下文长度从2k拉到16k再测一遍,Fable 5的领先幅度不但没缩水,反而在扩大:2k时17.8倍,8k时18.9倍,16k时19.5倍。上下文越长,KV cache越大,每个token要处理的注意力计算越多,这原本是decode kernel最容易“失血”的地方,Fable却越跑越稳。1
2.5小时里,64%的时间它什么都没写
比起18.7倍这个结果,达成它的方式更让人后背发凉。整个会话持续2小时33分钟,消耗约55万tokens。但按Elliot的统计,Fable有64%的时间几乎没有输出任何代码。1
它在干什么?跑基线计时、给grid barrier做微基准测试、推导roofline理论上限——每个token大约需要搬运多少字节数据。这是一套教科书级别的性能优化方法论:先测量,再建模,最后才动手写。绝大多数工程师做优化也是这个顺序,但很少有人能在55万token的篇幅里保持这份耐心不跑偏。1
测量结束后,Fable一次性写出完整内核,第一次跑分就拿到14.4倍。这已经追平了Opus 4.8的最终成绩。剩下最后一个小时,它开始做精细活:删掉不必要的同步屏障,把int4反量化压缩成一条LOP3指令加HSUB2/HMUL2指令,让这一步几乎“零成本”。中途它尝试过一次更激进的优化,测完发现效果反而变差,它没有辩解,转身就回滚了。1
它往一个kernel里塞了什么
看看Fable塞进这一次launch里的东西:int4反量化全程在寄存器里完成,从头到尾不把数据物化成bf16,省掉一整趟显存往返;短因果卷积接SiLU激活;KDA门控delta状态更新;带online softmax的MLA吸收式注意力,从不把k/v物化出来;MoE路由外加top-8专家;RMSNorm、KV缓存追加写入。1
整个流程靠14个grid barrier分成若干阶段,阶段内部再用生产者-消费者式的自旋计数器做更细粒度的依赖管理。审计时Elliot故意覆盖了输入缓冲区,验证它有没有在实时重新计算——结果证明,它确实在算,而非读取缓存。1
要知道,这道题考的Kimi-Linear架构,本身就是一块难啃的骨头:融合了 gated-delta注意力、MLA压缩式潜在注意力、短卷积、SiLU激活、MoE路由,每解码一个字,这些环节都要在同一次GPU调用里全部跑完,还不能算错一位小数。1
这只是Anthropic愿意让你看到的版本
Fable 5的全名是Claude Fable 5,Anthropic在2026年6月9日发布的编程旗舰模型。但Fable本身是一个“戴了镣铐”的公开版本。真正的底牌叫Mythos 5,那是Anthropic内部的无限制版本。Elliot在原帖里写得很隐晦:这只是Anthropic愿意让外界看到的那个版本。1
这种分层战略正在成为AI公司的标准玩法:公开版用来刷榜、抢占舆论声量,内部版用来做真正的研发。Claude Mythos Preview在SWE-Bench Pro上以77.8%位列第一,比GPT-5.5高出19.2个百分点;Claude Opus 4.8在FrontierCode Diamond拿了13.4%,是GPT-5.5的2.1倍。Stripe用它一天迁移了5000万行Ruby代码,人类团队原本估了两个月。1
但真正值得关注的不是这些数字。数字只是结果,真正改变游戏规则的是过程本身——一个AI,能在2.5小时内完成从性能分析、理论建模、到写出通过最严苛审计的GPU内核。这意味着什么?意味着GPU编程的门槛,正在以肉眼可见的速度崩塌。1
过去一年,NVIDIA自己也在推进软硬件协同升级:CUDA Tile把手工Tiling的几十行代码压缩成高层分块逻辑,TensorCore指令从WMMA升级到WGMMA,cuBLAS原生支持MoE稀疏专家的Grouped-GEMM。字节跳动和清华大学也联合发布了CUDA Agent,用强化学习训练专门的CUDA优化智能体,在KernelBench上比最强专有模型高出40个百分点。1
当底层工具越来越自动化,当AI开始自己写底层代码,传统的GPU工程师还能守住多少领地?Fable 5用2.5小时证明了它能做的事,而这件事过去只有最顶尖的内核工程师才能挑战。现在,这个差距被压缩到了2.5小时。这个信号,比18.7倍本身更值得警惕。1

评论

评论区空态插画

当前文章无评论,是时候发表评论了