OpenAI发布新基准GDPval,测试AI在经济价值任务中的表现。结果出人意料,Claude Opus 4.1超越了GPT-5。该研究不仅提供了模型排名,更揭示了AI在实际工作场景中的优势与局限,对了解AI的实际应用价值具有重要参考意义。
智能速览
OpenAI发布新基准GDPval,衡量AI经济价值。
Claude Opus 4.1在测试中以47.6%胜率登顶。
GPT-5以38.8%胜率排名第二,准确性更优。
AI与人类专家协作,能显著提升工作效率。
OpenAI开源了220项任务子集及自动评分器。
精华内容
这项名为GDPval的评估,究竟是如何设计的?各大模型在不同维度上又展现出哪些差异?
基准设计
GDPval基准的构建极为严谨。OpenAI首先筛选出对美国GDP贡献最大的9个行业,并从中挑选出44个以数字任务为主、年均创收合计达3万亿美元的职业。为确保任务的专业性,招募的行业专家平均拥有14年工作经验,来自苹果、谷歌等知名企业。每位任务都经过多轮专家审核和迭代,最终形成包含1320项任务的庞大测试集。
性能对决
测试结果令人意外,Anthropic的Claude Opus 4.1成为最大赢家,其47.6%的产出被评定为达到或超越人类专家水平,尤其在美观性方面表现出色。OpenAI自家的GPT-5以38.8%的成绩紧随其后,主要优势在于准确性,如严格遵循指令和正确计算。相比之下,GPT-4o仅有12.4%的产出能与人类专家持平或获胜,显示出代际间的性能差距。
人机协同
研究还发现,将AI与人类监督结合是更高效的解决方案。无论是让模型先行初稿、人类再修改,还是直接采用模型产出,都能有效节省成本和时间。此外,增加模型的推理强度、提供更详尽的背景信息,以及优化提示词和智能体框架,都能显著提升AI在专业任务上的表现,为AI的实际落地提供了明确的优化方向。
局限与未来
尽管GDPval提供了新的评估视角,但OpenAI也承认其局限性。例如,数据集仅覆盖44种知识型职业,未包含体力劳动;任务多为一次性指令,缺乏真实交互。目前该基准尚处初步阶段,未来计划拓展更多职业和场景,增加交互性,以期更全面地评估AI的真实世界价值。
OpenAI的这项研究,不仅为我们提供了一个观察AI实际工作能力的窗口,也坦诚地展示了当前技术的边界。随着AI模型能力飞速提升,如何更好地与它们协作,将成为未来职场的关键议题。AI将如何重塑我们的工作,值得持续关注。