11月10日,谷歌官方安卓开发者账号 Android Developers(@AndroidDev)在 X 平台更新了 Android Bench 榜单,三款新上榜模型在真实安卓工程任务上的通过率随之公开。标题里的反差出自其中两行:Kimi K3.1 Pro 通过率 24.0%、一轮成本 317.4 美元;DeepSeek V4.1 Flash 通过率 17.3%、成本 9.9 美元。分数差 6.7 个百分点,账单差约 32 倍。这不代表贵的模型不值,而是说明在"真的交付一个安卓应用"这件事上,旗舰模型对平价模型的领先幅度已经小于这一轮测试的正常波动,价格却贵出一个数量级;同时,榜上通过率最高的模型也只有四成上下,AI 离独立交付一个可直接上架的应用仍有明显距离。微博IT之家
这份榜单考的不是写代码,是验收一个应用
Android Bench 在今年 9 月完成大改版,不再只考"修缺陷、加小功能"级别的增量改动,而是把重心转向了复杂度高、工程师需要数天甚至一周才能完成的长周期任务,例如新增功能、从零构建应用、把跨平台应用迁移到 Android。新版榜单共设 30 项这样的开发任务,每一行都同时给出通过率、平均完成度、单轮耗时与成本。IT时代网快科技
打分口径也跟着换了:谷歌把二值评分改成按功能完成度、视觉还原度与回归情况折算的连续完成率,并沿用"任务完全满足验收要求才算通过"的通过率标准。这意味着,这里的分数衡量"能不能交付",账单衡量"把 30 个任务完整跑一轮要花多少钱",而不是官网每百万 token 的标价——只有在这个口径下,跑分差 7% 和成本差 30 倍才是同一个可比较的事实。IT时代网
7 个百分点,买不回 32 倍价格的确定性
把两款国产模型的榜单明细摆全:Kimi K3.1 Pro 通过率 24.0%、平均完成度 82.3%,单轮耗时 27.4 小时、成本 317.4 美元;DeepSeek V4.1 Flash 1017 通过率 17.3%、完成度 71.2%,耗时 12.0 小时、成本 9.9 美元。按通过率换算,Kimi 一轮约完整验收 7 个任务、DeepSeek 约 5 个,均摊到每个"真正做完"的任务上约为 44 美元对 1.9 美元——即便只算成功的那部分,两者仍差着二十多倍;贵模型多花的钱买的是一次做对的边际概率,便宜模型多出来的则是 2.3 倍的执行轮次与迭代速度。快科技
更要紧的是,6.7 个百分点这个点差距本身并不稳健。谷歌公布的完整榜单里,每个通过率都附有置信区间:Kimi 的区间是 12.0%—37.3%,DeepSeek 是 6.7%—28.7%,两段大面积重叠,换一轮测试,排名完全可能互换。换句话说,"靠前的国产模型贵得有道理"和"便宜的模型明显不行"两个直觉,在这张榜单上都不成立。IT之家
分数和账单并排,评测换了赛道
榜单最前端的 Claude Sonnet 5.5 以 40.0% 的通过率居首。也就是说,十个验收任务里仍有近六成不达标,没有任何模型跨过"可直接交付"的门槛。谷歌把耗时与成本和通过率放进同一行,本身就在宣告:这张榜单回答的不再是"谁更聪明",而是"谁值得用"。快科技
同一天密集发布的新模型也在讲同一件事。Meta 的 Muse Ember 在第三方智能指数上得分 35.8,只比 Claude Haiku 5.5 低 0.4 分,单项任务成本约 0.136 美元,是后者的三分之一。Meta 官方的说法是,它能够以约三分之一的成本达到 Claude Haiku 5.5 最高推理强度下的接近水平。当"每美元智能"成为厂商的共同卖点,把账单标进工程榜单,就是给开发者的采购决策准备的。智东西36氪
对普通用户,这意味着三件事
第一,按"完成一个任务要花多少钱"选型,而不是比 token 单价:便宜但需要反复重试的模型,账单可能反超贵的;便宜但一次能过、还能多跑几轮的组合,往往才是高频迭代场景里更划算的那一个。第二,别把名次当铁证——榜单让每家模型跑在自家厂商的智能体外壳里,各家脚手架不同、30 题样本有限,分差很容易被波动吞掉。关键选型时,拿自己项目里的 5 个真实任务各跑一遍,比抄排行榜可靠。第三,把返工算进预算:即便用通过率最高的模型,十个任务里仍有六个左右验收不过,人力审查与返工仍是当前最大的一笔隐性成本。IT时代网
所以"跑分差 7%、成本差 30 倍"真正意味着的是:旗舰模型的溢价,买不到与价格相称的确定性;平价模型买得起的迭代次数,反而更接近现阶段的工程现实。等 AI 做的应用真能一键上架,需要先出现的是某一行把通过率推到 90%、置信区间不再互相覆盖的模型——到那一天,贵 30 倍才真的值。