北京时间10月23日(美东时间10月22日),OpenAI宣布全面开放决策API(Decisions API),这款基于GPT-6 Luna的接口从9月底DevDay的有限预览走到公开可用,只用了三周左右。它的工作方式不是对话也不是生成:开发者写好问题和几个备选答案,把内容发过去,模型直接从选项里挑一个返回,不生成多余的内容。官方口径是,它的决策速度最高可达GPT-6 Luna的10倍。知乎微博知乎
这条赛道的起点,是9月15日TypeSafe发布的决策模型Jev——不写文章、不聊天,专门做类型化判断,两个月内跟进者上百,微软、Cloudflare、Perplexity相继下场。9月底OpenAI端上来的Decisions API还是只对部分API客户开放的有限预览,10月7日便官宣面向所有开发者开启公测,如今GA落地,平台基础设施的位置正式坐实。 结论先行:对智能体路由、内容审核、客服分流这类高频、窄口径的判断任务,它是实打实的降本工具;但下面三类场景,再热也别盲目接入。知乎微博
第一类:想拿它直接换掉“大模型裁判”
Decisions API把输出锁死在三种类型里:predicate输出0到1的概率,choice返回候选项的分布,score给出档位评分,端点命名与Jev一一对应。比如score模式,三个等级概率若是0.1、0.7、0.2,它直接返回期望值1.1,天然适合阈值判断和优先级队列。知乎知乎
硬币的另一面是:它只在选项里做选择,不负责懂得多。约90亿参数的开源复刻模型Drex 1.5在决策榜单上已经和Jev分不出高低,知识题GPQA Diamond却只有45.4%,而Jev是78.6%。一篇medRxiv临床评测里,Jev的top-1是72%,落后前沿大模型的79.5%到87.4%。10月23日凌晨刷屏的一篇6款决策模型实测翻译稿给出同一分界:简单分类和路由,小决策模型完全能平替;一旦涉及深度知识和复杂推理,还是得靠大块头LLM。知乎知乎知乎
所以,把"乱调工具"“漏转人工”"泄露报错代码"混在一个大而全的Prompt里交给几分钱的模型当总裁判,它不会像聊天模型那样胡编,但等于把错误藏进选项里,错的形式只是变成了挑错选项。 Red Hat基准的结论也被社区顶到了前排:决策模型并没有胜过LLM-as-judge或传统分类器。 正确姿势是拆题:把宽泛的评估切成一组组预设选项的窄二分类,每类各用各的评估器,真正需要推理的部分留给大模型。知乎知乎
第二类:拿默认0.5阈值直接定生死
三类接口都输出概率,而概率恰恰是最深的坑。6模型实测里,作者从98条真实对话中找出61条翻车记录,画完打分分布发现好坏样本的分数在真实业务里本就重叠,可绝大多数工程师的代码里写的都是同一行逻辑——因为所有API的官方文档里,默认阈值都是0.50。知乎
把精确率、召回率双双不低于80%设成硬底线,六个选手最后只有Perplexity、Liquid d1-ultra和OpenAI Decisions挤进安全区,而且那还是调完阈值之后的结果。 概率数值本身也在被独立打假:一份Zenodo预注册测试用七个模型跑同一批799道未公开判断,只有Perplexity符合自己宣称的校准水平,Jev的结论是"不确定"。知乎知乎
nxtg-ai的复现更直接:Jev平均置信度0.66,实际准确率只有0.53,属于过度自信。 连"校准"这味药都不能照方抓药:实测里OpenAI Decisions本是六个模型中表现最佳的选手,作者按教科书流程给它套上Platt Scaling,Brier分数反而从0.159恶化到0.164。知乎知乎
工程文档的警告同样具体:一次返回0.92,表示的是模型对"当前陈述为真"的概率判断,不表示在你的业务上测得了92%的准确率。所以拦截、放行、退款这类动作自动化之前,阈值必须用自有业务样本校准,Prompt改动一次、闭环重跑一次,灰区请求留给人工复核——执行权始终留在代码和权限里,这正是这波实践收敛出的口诀:模型建议,代码决定。知乎知乎
而且,审核判断通过只表示可以继续进入执行流程,不能当作授权或业务成功的证明。厂商文档里那个默认值,从来不是物理定律。知乎
第三类:成本账和迁移路还没算清,就想“先接了再说”
先看账单结构。Decisions走Luna时每百万输入token收0.10美元,输出免费,也没有缓存读写费用,高频短判断的成本模型很友好。但同类对比要口径一致:Jev的输入价格是每百万token 0.042美元,约为前者42%。实测数据则更接近生产环境:每100次评估,Perplexity Decider只要0.82美分、F1 0.79,OpenAI Decisions是3.72美分、F1 0.87,整整贵出4.5倍。 溢价买到的是把最难分的数据分开的能力,任务本身简单、选项清晰、跑量又大时,这笔差价就是纯浪费。知乎知乎知乎
还有两个容易忽略的约束。一是供给单一:截至各轮报道口径,该接口仅支持GPT-6 Luna一个模型,无法换模型也无法微调,从预览到GA的阶段切换里,稳定性和定价都存在调整空间。 二是迁移成本:这代决策模型API在问题类型上谈拢了,端点和响应结构却各走各的,换一家供应商约等于重写一次适配层。 接入前先把provider抽象层做出来,不是可选项。知乎知乎
反过来,两种情况值得付这笔钱。一种是活儿里带图片:Jev至今只吃文本和JSON,图片处理是OpenAI的差异化优势。 产线上"挑出脏蛋、破蛋、留下干净蛋"的自动化质检,已经有人跑出"一分钱判46颗蛋"的实例。 另一种是整栈都在OpenAI生态里、直接经Responses API调用的团队,接入摩擦本来就小。知乎微博
这次"全面开放"真正的信号,不是多了一个新接口,而是"决策"被正式拆出大模型、变成独立售卖的基础设施:大模型负责写和想,决策模型负责选和判,代码负责闸。接入之前值得先问自己三个问题——这道判断能不能写成选项预设的窄选择题,手头有没有能校准阈值和概率的评测集,两边的成本账算不算得过来。任何一个是"否",该谨慎的就不是API本身,而是"盲目"两个字。