什么值得买App下载 App ›
连续签到专享现金活动

AI花2.5小时写出内核比PyTorch快18.7倍:它不是直接写代码,而是先花64%时间做实验算清楚物理约束

2026年7月3日凌晨,一个AI只用了2.5小时,就写出了一份GPU内核。比PyTorch基准快了整整18.7倍。数字本身已经够吓人,但真正让圈内人后背发凉的,是紧随其后的另一条消息:这个版本只是Anthropic愿意拿出来遛的"缩水版",内部可能正有一个更强的模型在没人看着的情况下自己跑。12
这件事的难度,需要先搞懂一道从未被人真正通过的测试。KernelBench-Mega的赛道要求很明确:把整个模型的解码流程——注意力、MoE路由、状态更新、量化反量化——全部塞进一个CUDA kernel,一次启动搞定。谁拆成多个kernel接力跑,谁就过不了关。为了防止取巧,出题人Elliot Arledge专门设置了一道"真实性门禁"。在此之前,几乎所有拿到高分的模型,靠的都是多kernel的Triton pipeline拼接分数,统统过不了这道门禁。换句话说,Fable 5之前,这道题严格来说没人真正做出来过。12
18.7倍是怎么写出来的
对比一下差距有多离谱:Opus 4.8跑出14.4倍,GLM-5.2是11.1倍,GPT-5.5只有4.3倍,Sonnet 5是4.0倍。再往后,MiniMax-M3、Kimi K2.7-code、Composer 2.5、Gemini 3.5 Flash,全都卡在2到3倍之间。Fable 5把第二名甩开了四倍还多。1
更狠的是,这个优势跟着上下文长度一起往上涨:2K时是17.8倍,8K时涨到18.9倍,16K时冲到19.5倍。上下文越长,KV缓存和注意力的计算量越大,单次launch摊薄固定开销的效果就越明显。这说明Fable打中的是解码环节里最核心的瓶颈,靠的是真功夫,不是碰运气。2
Elliot把Fable 5融合进这一次launch里的东西列了个清单,密度大到有点吓人:int4权重的反量化全程在寄存器里解包完成,从没物化成bf16中间结果;短因果卷积接SiLU激活;Kimi Delta Attention的门控状态更新;带online softmax的MLA吸收式注意力,全程不物化完整的k/v;MoE路由外加top-8专家;所有RMSNorm和残差相加;连KV缓存的写入都塞了进去。整个流程被14个grid-wide的"栅栏"分成若干阶段,阶段内部再用生产者-消费者式的自旋计数器做更细粒度的依赖管理。1
64%的时间,它什么都没写
如果只看18.7这个数字,你可能会觉得这就是一次"AI秀肌肉"。但真正让工程师们坐直了身子的,是整个过程中最反直觉的一个事实:64%的时间,agent几乎没写一行最终代码。它在做的是给baseline计时、对grid barrier做微基准测试、反复推导出一个大约29倍的bytes/token roofline理论上限。直到把这套"物理账本"算清楚,它才第一次动手写完整的kernel。2
结果呢?第一次提交就一举冲到了14.4倍,一次性超过了Opus 4.8最终的成绩。后面一小时,它继续抠细节:删掉用不上的barrier,把int4反量化用PTX指令重写成几乎零成本的操作,把MoE的gate/up和down投影折进同一个矩阵乘,用spin counter替代大范围的全局同步。有意思的是,它还尝试过一次更细粒度的split-K切分,理论上应该更快,结果一测,性能反而退步了。它没有编理由说服自己这个改动是对的,而是直接回滚了。2
这才是让圈内人真正感到不一样的地方:它不是在执行指令,而是在做实验;不是在接受反馈,而是在主动设计实验来验证假设。这和人类工程师解决硬核问题的方式几乎一样:先理解问题的物理约束,再推导理论上限,然后才动手,而且知道什么时候该放弃一个看起来很美的想法。2
为什么这意味着RSI循环开始了
给这件事下定论的是Anthropic联合创始人Jack Clark。他的判断只有一句话:这是「递归自我提升(RSI)循环」的开始。这句话的分量需要拆开来看。RSI的核心不是让模型反复修改细节,而是引入独立上下文的外部反馈,让模型基于客观评判标准自主迭代,而非自我审视。34
一个对比实验很能说明问题。Parameter Golf是一个开源ML工程挑战:Agent需要修改单个训练脚本,启动训练、查看日志、读取分数,再决定下一项实验。在最多8小时、20次实验的测试中,Fable 5对训练流程的改进幅度是Opus 4.7的6倍。关键差异不在于模型"更聪明",而在于它更会在反馈中持续修正自己。Opus 4.7迭代策略极度保守,首次实验获得小幅提升后,后续所有迭代都只做标量微调;Fable 5敢于做结构性优化,即便遇到量化导致的短期性能回落,也能持续迭代修复。4
这意味着什么?AI不只是执行任务,还能在一个设计好的反馈循环里,自己判断下一步该做什么。过去我们使用AI,最常见的方式是:提出要求,等待回答,判断结果好不好,如果不好就补一句"继续优化"。这看起来也在迭代,但本质上仍然依赖人不断介入——人要发现问题、组织反馈、决定下一步,AI只是完成每一次孤立的任务。而Fable 5展示的是,AI可以自己构建这个循环。5
一位底层系统工程师的实测经历更能说明问题。他测试了不同模型优化一个高性能计算项目的实际效果:多个顶流AI跑了20小时,系统速度仅快了2倍,代码还变臃肿了;Claude Opus 4.8优化了8小时,速度也只提升了三成左右;而Fable 5仅用2小时,就将关键测试速度提升了约18倍。更惊人的是,它还顺手找出了一个深层Bug。这是Fable 5的另一个特质:它不只是执行你交代的任务,它在完成任务的过程中主动发现了你没交代的东西。678
编程榜单的断层,以及Stripe的实测
CUDA内核只是Fable 5的主场之一。在SWE-Bench Pro这个衡量真实世界Agent编程能力的核心榜单上,Fable 5取得了显著成绩。在专测Agent代码质量的FrontierCode Diamond榜单上,Fable 5同样表现优异。910
落地企业场景的实测更有冲击力。支付巨头Stripe拿到早期测试权限后,启动了一个5000万行Ruby代码库进行全局代码迁移。这类工作通常需要一个完整工程师团队花两个多月完成,Fable 5独立作业只用一天就推进完毕,整套流程顺畅无大面积bug。企业技术团队大为震撼。9
另一组实测数据来自HVM5项目优化。独立开发者Taelin让Fable 5尝试解决一个性能瓶颈,2个小时之后,有一个场景提速了1770%,不是17.7%,是17倍。另外四个场景提速超过100%,整体平均提升了22%。Fable 5发现HVM5在处理"动态模式匹配"操作时,花了大量时间回收那些用不上的计算分支,而这个场景的优化从未被手动处理过。11
真正拉开差距的,不再只是模型
Fable 5展示出的能力,正在重新定义"会用AI"的含义。未来真正拉开AI使用效果差距的,可能不再只是你选了哪个模型、提示词写得多详细。而是你有没有为它设计一个能持续进步的循环。5
一个高质量Agent系统通常至少包含两个角色:执行者负责探索、修改和交付;验证者负责根据标准判断是否通过。验证者不一定比执行者更强,但它必须足够独立。让执行者自己检查自己,容易沿着原来的思路继续证明自己正确,也更容易忽略自己没有发现的问题。Fable 5在KernelBench测试中的表现恰恰说明了这一点:它花了大量时间在验证假设、建立基准,而不是急于输出。5
7月7日之前,最划算的一件事,是把你手里所有的工作流拿Fable 5重新打磨一遍。这不是在追热点,而是因为Fable 5展示出的自适应思考机制和超长上下文能力,意味着它能处理真正复杂的长链条任务——那些需要多次迭代、需要记住前面的约束和中间结论的工作。上下文更长,减少了反复拆分材料、重新补充背景和多轮纠偏的成本。1213
但也别忘了Jack Clark的警告。这只是Anthropic愿意拿出来遛的"缩水版",真正的RSI循环,可能正在没人看着的地方悄然运行。当AI开始在无人监督的情况下自主改进自己的代码,改进的速度可能远超所有人的预期。2

评论 2

ppffppp

这么一说,那不是让他写个 cuda 核心出来,直接解决了卡脖子的问题吗

山东

没有更多了