10 月 22 日,OpenAI 正式宣布全面开放 Decisions API(决策 API),由 GPT-6 Luna 提供支持。 官方定价随之落定:每百万 token 输入 0.10 美元、缓存输入 0.01 美元,输出不单独计费,OpenAI 同时透露内部团队已在产品和业务工作流中使用它。 至于"能帮企业省多少钱",一句话的答案是:这个 API 省的不是单价——它比最早做这个品类的 Jev 贵出一倍多——省的是"判断类"高频调用的计费结构。三笔刚出炉的商业落地实测,能把这笔账拆开算清楚。知乎界面新闻
从 9 月 29 日 DevDay 亮相到 10 月 22 日开放,中间隔了三周。那天放出的是限量预览,只开给部分 API 客户,随后进入公测,官方口径是决策速度最高约为通过 Responses API 调用同一模型的 10 倍。 10 月 6 日的公测公告写明,当前文档限定 gpt-6-luna,入口为 POST /v1/decisions。 发布当天的现场口径是,这个面向实时低延迟分类与路由的新接口大约在 150 毫秒内返回结果,比用常规 API 调用 Luna 快约 10 倍——厂商自己的演示数字,实际延迟仍受任务规模影响。知乎知乎微博
它专管一类活:答案空间有限、不需要模型写字的判断。 开发者预先写好问题和选项,模型只返回结构化数值,score 甚至直接给出概率加权平均——三档概率 0.1 / 0.7 / 0.2 就返回 1.1,天生适合排序、阈值和优先级队列。 单次请求最多可以挂 200 个相互独立的问题共享同一份输入,有依赖关系的判断官方建议拆成多次请求。知乎知乎知乎
第一笔账:鸡蛋产线,满负荷月费约 726 美元。Roboflow 的工程师 Erik Kokalj 演示了用 Decisions API 给鸡蛋做质检:先用检测模型定位、逐颗裁成小图,再调 gpt-6-luna 在"干净、脏污、裂纹"三个预设选项里返回类别概率,约 270 毫秒一次判断,一张图 280 个输入 token,千次图片判断约 3 美分。小红书
按公开价折算这笔调用账:每秒过 10 颗蛋、24 小时连跑 30 天,月调用 2592 万次,图片输入账单约 726 美元;每颗蛋查三道,约 2177 美元/月。这条演示引来百万级播放,评论区也一半看落地、一半吐槽"用大模型分拣鸡蛋"。 吐槽成立与否取决于对照对象——自己训分类器要先攒标注、品类一变就重训,这几百美元买的是"不训练直接上线"。 需要留意:这是开发者演示与第三方算账,不是官方账单。小红书知乎
第二笔账:客服质检,百万次判断约 372 美元。博主 Laurie 在 10 月 23 日发布六款决策模型横评:从生产环境捞出的真实客服对话轨迹里,98 条样本中有 61 条被人工确认翻车,让 OpenAI Decisions、Jev、Perplexity Decider 等六个模型做"有翻车/没翻车"的二分类评估。OpenAI Decisions 拿到全场最高的 F1 0.87,账单为每 100 次评估 3.72 美分,折合百万次约 372 美元,是 Perplexity Decider(0.82 美分/百次、F1 0.79)的 4.5 倍。 作者据此给出的分账结论很直白:规则清晰、跑量极大的判断交给便宜的小模型,逻辑绕弯的复杂客诉还得靠 GPT-6 级别的脑子。知乎
同一场测试里还有个更要命的发现:官方文档的默认阈值是 0.50,但把六款模型的打分分布画出来,好坏数据的分数在真实业务里是重叠的,守住"精确率、召回率双 80%"底线的只有三家。知乎
第三笔账:与 Jev 正面相比,它赢在图片。WTome 在公测期做了 20 项、1 万次调用对比,总正确率 Jev 81% 对 Decisions 78%,但两家 5000 道题都只花几美分,真正的分野在输入模态——Decisions 赢的项目全在图片和数学步骤核对,恰是只吃文本的 Jev 看不见的部分。 价格上也一样:Jev 每百万 token 输入 0.042 美元、约为 Decisions 的 42%,数智徙木按同等题量估算,一百万张三道判断题的工单在 Jev 约 19 美元,换到 OpenAI 的输入单价就是约 45 美元量级——只有吃满 0.01 美元的缓存价,才能反过来压到 Jev 以下。小红书知乎
把"省"的结构摊开看,有三层。第一层,输出侧归零:判断走生成式 API,模型要先"写"出 JSON 文本供你解析,输出 token 全程计费;走 Decisions 只返回数值,公测以来的口径就是"input $0.10 / 1M、output 免费、只算输入"。 第二层,输入复用:同一张售后图挂三个问题只付一次输入钱,GA 定价把缓存输入打到每百万 token 0.01 美元,重复查询越密越吃得到这笔折扣。第三层,把判断从付费写字的模型身上挪开——数智徙木估过,一个典型多步 Agent 里可能有七八成调用只是在回答"这一步该选哪个工具",这些环节从两三秒缩到一百毫秒,省下的既是钱也是排队和配额。知乎知乎
但"省"有四道门槛,迈不过去反而更贵。第一道是校准:模型报出 0.80 不代表真有八成把握,Laurie 发现 OpenAI 原始分数 Brier 0.159 已属上乘,套上 Platt Scaling 反而恶化到 0.164,换拟合空间才降到 0.154。 独立评测同样不客气:roger.ai 汇总的预注册测试里,七个模型跑同一批 799 道判断题,只有 Perplexity 的模型符合自己宣称的校准水平;Red Hat 的基准结论则是决策模型并没有胜过 LLM-as-judge 或传统分类器。 第二道是口径:平均分不等于业务损失——开发者 YicunAi 构造过反例,两组工单风险档位均值同为 1,按非对称损失向量算下来,未复核的预期损失是 L(A)=1 对 L(B)=50,严重尾部的成本必须逐档保留概率、用损失矩阵选路,不能图省事只读一个 score。知乎知乎知乎
第三道是接口锁死:这三十天里各家在问题类型上收敛了,端点和响应结构却各走各的(Jev 的 /systemone 对 OpenAI 的 /decisions),换一家供应商约等于重写一次适配层,目前 Decisions 也只有 gpt-6-luna 单模型可选。 第四道是厂商数字:官方演示的 150 毫秒、提前试用编辑跑出的 78 题对 76 题,到了第三方万次横评里就变成中位 292 毫秒、总正确率 78%,没有自己的评测集之前,别把宣传值搬进预算表。知乎
所以这份省钱账适合谁:品类已经从 Jev 引爆卷成了全行业跟进——TypeSafe 在 10 月 9 日完成 a16z 领投的融资后,微软、Cloudflare、亚马逊、Perplexity 的决策模型在十月初密集上线或开源,行业的共识落点是这类模型不替代大模型、只接管判断闸门,模型建议、代码决定。 回到"能省多少钱":先清点自家高频调用里"在写好的选项里挑答案"的占比——占比高,上面的实测价签就是你的预算表,图片判断越多、缓存复用越密,OpenAI 的高单价越能被输出免费和批量结构抵掉;占比低,它一分也省不了,你买到的只是少解析几段 JSON 的工程便利。知乎