Gemini横扫文本,Claude横扫编程:这Arena榜看看就好

源自21位全网作者

13:43

这周关注大模型的人,大概都被同一条消息刷屏过:Arena 榜单又更新了。但真到挑模型的时候,这张榜反而越看越迷糊——文本榜的王者、编程榜的大神、中国模型第一,压根不是同一个。月中还冒出一篇论文,给了榜单一记暴击:能力第一,可靠性只排第七。

先看新榜单。Arena 文本盲测 10 月 27 日快照(11 月初放出),累计约 900 万次投票、419 个模型:Gemini 4 Carbon 以 1528 分登顶,Argon 紧随其后,Claude Opus 5.5 排第三,前十名 Anthropic 一家占了六席。而 OpenAI 最好的成绩排在第 22——ChatGPT 用户最多,盲测榜却进不了前 20,这个错位本身就是最大的新闻。不过先别急着站队:前两名只差 8 分、误差条重叠,第一名还标着“初步结果”,目前没有证据说 Carbon 稳压 Argon。知乎

再看编程和 Agent 榜,画风突变。WebDev 榜 Claude Opus 5.5 以 1810 分第一,GPT-6 Astra 第二。11 月 6 日 Arena 官方还确认了腾讯混元 Hy4 是 Agent 榜中国模型第一、全球实验室第五。所以“谁是第一”这个问题没有答案,只有分场景的第一。知乎微博微博

Gemini横扫文本,Claude横扫编程:这Arena榜看看就好

然后是那记暴击。11 月 13 日公开的论文 SO-Arena(新加坡国立大学),拿 2919 道题、11 个领域给 21 个模型做体检,测的不是“答得对不对”,而是“答得稳不稳”:同一道题换个选项顺序,它还敢不敢给同一个答案;把正确答案抽掉,它会不会承认“这题没答案”。结果,能力榜第一的那位,可靠性总分只排第七;高能力模型照样可能顺序一换就翻脸,认不认得出“无正确答案”甚至跟参数量没关系。所以如果你要把模型塞进路由、审核、工具调用这类自动流程,可靠性那一列比分数那一列重要得多。知乎知乎

那这张榜到底怎么用?

  1. 先看误差条,再看名次。 行为数据显示总榜前六名的置信区间互相重叠,统计上分不出高下,而且排名越靠前样本越少,解读留三分余地。知乎

Gemini横扫文本,Claude横扫编程:这Arena榜看看就好

  1. 按场景那一列挑人。 有的模型“好评率”第一、“Bash 纠错”却排第 50——先确定你要它干什么,再去对应的维度里选人,比看总榜有用得多。知乎

Gemini横扫文本,Claude横扫编程:这Arena榜看看就好

  1. 匿名突袭的新模型看个热闹。 前阵子 Arena 上冒出代号 Kibitz 的匿名模型,圈里猜是 Kimi K3.1,月底有望官宣。“疑似”阶段别当决策依据。知乎知乎

Arena 说到底是一张人类偏好地图,不是模型成绩单。 盲测量的是“人更喜欢哪个回答”,不等于“谁能干你的活”。按你的场景圈出前三,拿自己的真实问题各跑一轮,再谈哪家值得买。

内容由AI生成

精选参考来源

1. Arena(原 LMArena)的最新公开盲测榜单,最新 AI 文本盲测排行榜

2. 【 腾讯 混元Hy4获Arena中国模型第一,全球实验室排名第五】11月6日,AI模型评测平台Arena宣布,腾讯混元Hy4在Agent Arena榜单中成为排名第一的中国模型。按照实验室排名,腾讯混元位列全球第五,成为前五名中唯一的中国AI实验室。Arena在社交平台X上表示,基于全球用户超过1.2万次真实...网页链接

3. 发布了头条文章:《腾讯混元Hy4拿下Agent Arena中国实验室第一,全球第五》 据Arena公告,腾讯混元新一代大语言模型Hy4拿下Agent Arena榜单的中国实验室头名,总榜排到第5。这份榜单不跑题库,拼的是真实任务。基于超过1.2万条在真实场景里跑出来的长程智能体会话,Hy4拿到+5.4%的净改进,挤进Pareto前沿,单任务中位成本压到0.57美元。 腾讯混元Hy4拿下Agent Arena中国实验室第一,全球第五

4. 能力榜第一,可靠性只排第七:SO-Arena 用 2919 道题体检 System One 模型

5. 排名第一的模型,可靠性只排第七:SO-Arena 给「直觉决策」模型做了一次全身检查

6. 大模型排行榜-Arena-Agent-榜单解读

7. Kimi K3.1 疑似现身 LMArena:匿名代号 Kibitz、SGLang 单日六条加固 PR,月底有望官宣

8. 如何看 Kimi K3.1 名字被官方自己放出、Arena 上 Kibitz 成本只有 GPT-6 Astra 的十四分之一?

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章