OpenAI开放Decisions API:开发者5分钟快速接入指南

源自110位全网作者

10:55

OpenAI 在 10 月 22 日把 Decisions API 全面开放。 这个接口只干一件事:把一段文字、一张图片或一份结构化数据,换成一个能直接进代码分支的判断结果,回答的必须是答案范围明确的问题。按官方介绍,相比通过 Responses API 调用同一模型,决策速度最高可达 10 倍。 公测阶段它就已面向所有开发者开放。 对开发者来说,真正省时间的是它把"让模型给个结论"压成了一次结构化调用:以前要写提示词、解析自然语言输出,还要防着模型多聊几句;现在拿到的是数值和概率,阈值规则可以直接配置。知乎小红书微博

三周三个版本,"全面开放"改了什么

9 月 30 日的开发者大会上,OpenAI 推出 Decisions API 补足实时决策能力,最初这个功能只是受限预览,只对部分 API 用户开放。 10 月 6 日,OpenAI 公布 Decisions API 公测。 正式版新增的是 GPT-Live 原生集成、提示词缓存、美国和欧盟的区域推理处理,同时支持原生 JSON 输入、在问题说明中加入图片,单次请求的问题上限由 200 个增至 400 个。知乎知乎小红书

先跑通最小请求

入口为 POST /v1/decisions,当前文档限定模型只有 GPT-6 Luna 一个。 接口支持三类结果:predicate 返回条件成立的估计概率,例如商品是否有明显损坏;choice 从预设选项中选择一个,例如继续、重试或追问;score 按有序等级评分,结果是各等级序号的概率加权平均值,因此可以落在两个等级之间。 三类输出的共同特征是结构化数值而非自然语言文本,后续的业务判断可以基于阈值直接自动化,无需额外解析模型输出。知乎小红书知乎

一次请求内,多个不依赖前序答案的问题可以放进同一个 questions 数组、共享同一份输入;依赖先前判断的决策应当拆成单独的请求。 电商平台的商品上架审核这类场景,能在单次请求里同时判断文字描述合规性和图片质量。知乎知乎

跑通之后,容易踩的四个坑

概率需要自己校准。 模型给的是估计概率,常见做法是设三段规则:概率超过 0.8 标记为高风险转人工复核,低于 0.3 自动通过,中间区间进入二次判断流程。 这三条线不能照抄:上线前抽取代表性样本,把模型输出与人工判断结果逐条对齐,再确定最优阈值。未经校准直接上线,误判率和人工复核成本都可能失控。知乎

别把平均分当成风险本身。 平均等级相同,严重错误的尾部可以完全不同:两组工单平均分都是 1,一组集中在中间档,一组对半分在最高和最低档,后者的预期损失远高于前者。如果最高档的业务损失远高于中档,应保留逐档概率、按动作的预期损失选路,一个平均分不足以替代这一步。知乎

等级描述也要先定义可观察的事实(比如"核心操作无法完成且没有已验证的替代路径"),不要把处理动作写进等级本身,否则同一个业务偏好会被重复编码。知乎

给拒答留路径。 文档示例存在 refusal 分支,应为"未作判断"保留独立处理路径;拒答、缺字段或解析失败都不能当成最低等级,否则风险会被静默吞掉。知乎

confidence 不是正确率。 接口返回的 confidence 字段,官方指南未公布具体计算方式,不能擅自把它当作最大档概率、分布方差或正确率来设阈值。知乎

成本与实测

定价上,未缓存输入每百万 token 收费 0.10 美元,缓存读取为 0.01 美元,输出 token 不收费;缓存写入另行计费,区域处理和长上下文也可能适用加价。 输出免费意味着一次判断的成本主要由问题描述和输入上下文决定,而不是模型回复的长度。作为对照,Jev 的输入价格是每百万 token 0.042 美元,但 Jev 当前仅接受文本与 JSON,涉及图片的质检、审核场景,OpenAI 可以在单请求内完成两类判断,Jev 需要额外的视觉模型配合,综合成本可能反超。小红书知乎

两个披露的客户测试数字:Box 在 30 个保险证明案例的评估里,路由选择约快 5 倍,准确率与 Responses API 相同,置信度较低的案例交给人工复核。 Speak 测试 GPT-Live 集成时,下一步动作的等待时间由 1.4 秒降至 0.13 秒,这些数字来自各自的测试场景。小红书

什么时候不值得接

当前专用接口只支持 GPT-6 Luna 一个模型,无法按任务切换或做特定领域微调。 它的适用边界也很清楚:需要高频、快速、结构化判断的任务——智能体路由、内容审核、客服分流、严重程度评估;低频或需要推理过程的开放问题,仍应留在通用接口。动手前可以先用 Playground 拿业务里反复出现的一个判断试一轮,确认问题和选项定义得足够清楚,再决定是否接入线上。知乎小红书

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章