10月27日,做AI编程工具Devin的Cognition发布了编程基准FrontierCode 2.0:132道题全部来自真实开源项目,评分标准不再是测试是否通过,而是维护者愿不愿意合并这份改动。按官方榜单,目前最高得分只有约45%。新标准衡量的不再是AI能写多少代码,而是这些代码有多少能直接进真实项目。小红书小红书
题目故意留白,一个阻塞项不过就零分
132个任务全部来自真实开源仓库,题目由对应项目的维护者参与构建,官方称每个任务投入40小时以上。小红书
与上一版相比变化最大的是提示词:1.0问“你会合这个PR吗”,2.0问“你该合吗”,题目故意不写全工程决策,让模型自己展现判断力。小红书
评分则是全有全无:单元测试通过只是底线,改动过多、把diff伸进无关文件、漏掉边界情况,都算阻塞项,任何一项不过,这次尝试直接0分。相比1.1版,2.0的参考解平均多改67%的文件、多89%的代码行——“该被合并”的工作量本身就更大。小红书小红书
官方展示的一个例子很能说明新标准:一道题要求修复Mock Service Worker里resetHandlers()不重启generator的缺陷,Claude Opus 5.5在重置时直接丢弃旧generator引用,报告的bug确实解决了,但用户写在finally里的清理代码从此永远不会执行——提示没提清理,而有经验的JavaScript开发者会预期finally在generator被放弃时运行,这个解法最终被判“不该合并”。测试全过、bug全修,只满足了“能跑”,没满足“隐式正确性”,这正是新基准要量出来的差距。小红书
最高约45%,原来挤在一起的模型分出梯队
FrontierCode并非横空出世:2026年6月Cognition发布初版,要解决的核心痛点就是AI生成的代码能否被人类维护者合并。7月更新至1.1版后,独立评测机构Artificial Analysis在10月中旬转测其150题中的100题Main集,六个实验室的九个模型得分挤在43%到52%之间,头部差距很小。哔哩哔哩微博
换成2.0这套卷子,榜单远未饱和:Opus 5.5以45.5%居首、GPT-6 Astra以42.8%紧随其后,两者各掉了9到10个点,其余多数模型掉了19到27个点、全部落到30%以下。掉分最直观的是开源阵营:Kimi K3、GLM 5.3等中国开源模型集中在17%上下,而在1.1的独立转测中,Kimi K3还以44%左右的成绩处在开源头部。小红书小红书
更典型的是为SWE任务专门调优的Cognition自家模型SWE-2:1.1上拿到50%、排名靠前,2.0上只有约24%,落到榜单尾部——“把规格做对”这两年被大量公开任务用于强化训练,是可以被训练出的能力,“想维护者之所想”不在其中。小红书
钱也分层:官方口径下,Opus 5.5平均每任务花费约12.8美元,GPT-6 Astra约6.67美元;GPT-6.1 Sol以约1.03美元拿到39%左右、站在性价比一档;GPT-6 Luna与Haiku 5.5则在0.5美元以下得分两成出头。榜单上没有任何模型通吃,Artificial Analysis也已把FrontierCode 2.0纳入其10月28日发布的智能指数v5,自测Opus 5.5约46%,与官方榜单不完全重合。这些低分对应的是很具体的失败方式:模型确实修好了指定bug,却漏掉另一个相同代码路径;或者顺手重构了十几个无关文件;或者没有补回归测试。小红书小红书知乎
瓶颈从“写”挪到了“审”
评价口径转向“可合并”,是因为写代码的瓶颈已经换了地方。一份公开分析引用行业数据指出,使用自主AI代理的开发者能写出多出741%的代码,最终却只交付多约30%的软件;人工审查在代码量超过400行后效率急剧下降,而AI已能生成上万行的拉取请求,METR还发现近一半通过SWE-bench测试的拉取请求实际无法合并。当“测试全过”不再等于“代码可用”,“能不能合、该不该合”就成了新的标尺。哔哩哔哩
对用AI写代码的人:推理档位不是越高越好
新基准还给出了一个可以直接用的观察信号:官方汇总四个模型的结果,推理档位越高,模型越倾向多写代码、多改文件,哪怕没这个必要。小红书
一道Android统计工具的启动bug题里,GPT-6 Astra低档5次全过,满档只过1次——满档时它常把整个对外公开的类删掉,bug修好了、引用这个类的应用却可能跟着出错,直接判不合格;另一道题上,Opus 5.5反而低档5次一次没过。整体上,拉高档位让“考虑不周”这类阻塞项的失败率从26.0%降到15.3%,Cognition给出的用法是:小改动先用低档或中档、少乱改,要顾很多边角情况的活再把档位拉高。让Agent提PR之前,最好补一轮人工review,重点看改动是否克制。小红书小红书
这张榜单能代表的范围也有限:任务全部私有以避免污染,出题和运营方Cognition本身就是卖编程智能体的公司,132题的规模不算大。分数预测的偏向是“模型完成实际工作时需要多少人工补救”,还不能直接等同于真实生产环境的合并率;榜单重排后,社区里也出现了质疑排名独立性的声音。但评测口径从“通过测试”转向“该被合并”,与METR的发现一致,也已被第三方综合评测采用——它意味着一件很具体的事:AI写的代码想被“收下”,价格正在被重新计算。微博知乎