接入OpenAI GPT-6 Luna决策API避坑指南:隐藏计费与限流盘点

源自264位全网作者

13:11

当地时间 10 月 22 日,OpenAI 宣布基于 GPT-6 Luna 的 Decisions API(决策 API)全面开放,把分类、路由、评分这类有界答案的小判断做成了独立端点:开发者先定义问题与允许的答案,提交文字、图片或结构化输入,直接拿回概率、选项或评分。 纸面价格确实便宜:输入每百万 token 收 0.10 美元,命中缓存的输入只要 0.01 美元,输出 token 全程免费。 接入前值得逐条盘清楚的,恰恰是价目表上没写全的几行。微博IT之家

三周走完的发布节奏,竞品就在旁边

这款接口 9 月底随 DevDay 以限量预览亮相,10 月 6 日至 7 日转向面向全体开发者的公测,10 月 22 日才走到正式可用。 入口固定为 POST /v1/decisions,当前支持的模型只有 gpt-6-luna 一个。 OpenAI 挤进来的时间点也有背景:决策模型 Jev 刚成为 Vercel AI 网关采用最快的模型,Vercel 自己就用它替换了原先的 GPT-6 Luna 来识别有害指令。微博知乎IT时代网

隐藏计费:输出免费,等于账单全押在输入端

规则文本、选项措辞、档位定义还有问题指令里的图像,全部折算成输入 token 计费。有开发者实测,一张鸡蛋质检图片约消耗 280 个 token,一千张只要 0.03 美元。 数字虽小,前提是输入短——真正的坑在模型级定价里:GPT-6 Luna 单次请求输入超过 27.2 万 token 会触发长上下文加价,输入价直接翻倍。 正式可用的公告没有说明决策端点是否豁免这一条,塞长文档、批量图像之前,先用真实请求打几张账单出来核对。微博36氪知乎

Prompt 缓存是压输入成本的主要工具,也是这次正式可用的重点新增,但官方只公布了读取价。 Responses API 侧 12 小时缓存的先例值得警惕:写入价由常规的 1.25 倍升至 2.5 倍,读取价保持不变。 决策端点的缓存写入按什么倍率收费,公告未提,只能回控制台看明细。IT之家小红书

第三笔成本藏在流程结构里:官方口径是不依赖前序答案的问题可以打包进同一个请求,依赖先前判断的决策则必须拆成多次请求。 每拆一次,同样的上下文就多进一次输入计费;低置信度样本一旦升级回普通接口生成解释文本,计费规则立刻换档。若升级目标是 Astra 或 GPT-6.1 Sol,连推理都无法关闭——官方文档写明这两者不支持将 reasoning_effort 设为 none。知乎知乎

限流:写明的只有一条“每请求 400 问”

官方公告里能称得上硬性上限的,只有单次请求问题数从 200 个翻倍到 400 个。 RPM、TPM 分档没有出现在公告里,只能靠控制台和自己的压测确定;一个间接信号是,这次新增的服务内容包含“在亚洲多个地区扩充服务容量”,公测期的容量瓶颈并非空穴来风。 有开发者对 GPT-6 Luna 批量任务做过压测,称错误随并发上升不是线性而是阶梯式:先是超时,再是限流报错,极限阶段才见服务端异常。 自媒体数据当不得服务承诺,只能当作自测起点。微博IT之家知乎

比 429 更难防的是静默失败:接口返回 HTTP 200,内容却是空的或被截断的 JSON。 上一代 gpt-5.6-luna 的接入实录已经提醒过,响应可能中途停止且 finish_reason 为 null,不抛任何错误。 校验响应体完整性、比对 max_tokens 与实际返回用量,这些要写进重试逻辑之前;重试本身配指数退避和 request_id 幂等,否则网络抖动只会换来重试风暴。知乎知乎

接入前,先做完这四件事

冻结口径:模型 ID、档位文字、选项顺序都是配置,改动顺序属于版本变更要重新评估——score 返回的是索引的均值,同均值下严重错误的尾部可能完全不同。做校准:阈值必须用真实业务样本标定,拒绝、缺字段或解析失败不能当作等级 0。 做压测:找自己的延迟拐点与限流边界。做对账:输入、缓存写入、长上下文加价三条明细逐项核。与 Jev 比成本时注意口径——它输入价约为 Decisions 的 42%,但只接受纯文本,带图像的场景不能直接换算。知乎知乎

最后一个边界提醒:同期流传的 Uber 全员接入决策 API,目前只见自媒体转述,尚未查到官方原文;速度提升 10 倍也是厂商自测口径。 决策模型把价格卷到了地板,但钱在账单明细里,上限在压测里——这句话适用于任何一个刚上线的新端点。小红书

内容由AI生成

精选参考来源

1. 【基于GPT‑6Luna,OpenAI宣布全面开放决策API】#OpenAI##AI#10月23日消息,当地时间10月22日,OpenAI宣布全面开放决策API(DecisionsAPI)。据介绍,该API基于GPT‑6Luna构建,将Luna的模型智能聚焦于具有限定答案(boundedanswers)的问题,协助应用程序与智能体基于文本、图...全文

2. #OpenAI##决策模型##智能体#【行业动态:OpenAIDecisionsAPI正式可用,单次请求最多处理400个问题】OpenAI宣布DecisionsAPI正式可用。该接口基于GPT-6Luna,开发者先定义问题与允许的答案,再提交文字、图片或结构化输入,获取概率、选项或评分,用于分类和任务路由。相比公开测试阶段,单次请...全文

3. 10月7日,OpenAI开发者账号官宣DecisionsAPI开启公开测试,面向所有开发者开放。官方称,它的决策速度最高可达GPT-6Luna的10倍,可通过ResponsesAPI调用。该接口由GPT-6Luna驱动,支持文本和图像两类输入,提供三种输出形式,分别是Predicates、Choices和Scores。-Predicates...全文

4. OpenAI最新上线的DecisionsAPI,是一款专门用来快速做判断、不啰嗦废话的AI新接口,底层基于GPT-6Luna,功能逻辑和爆火的Jev决策模型非常像。普通AI是“话多型”:你给图、给文字,它会长篇大论解释一堆,程序还要再解析文字,速度慢、成本高。而DecisionsAPI是“秒判型”:你提前...全文

5. #Vercel数据:Jev成平台采用最快模型#IT时代网10月17日消息,AI应用托管与网关服务商Vercel本周四公布的一组数据显示,决策类模型Jev上线两周内即被35%的付费团队使用,成为该平台历史上采用最快的模型。数据显示,Jev的触达范围接近第二热门模型Sonnet5.5的两倍。Jev由TypeSafeAI开...全文

6. 风险评分都是1,为什么一组工单必须先审?DecisionsAPI的平均分验收

7. OpenAIDecisionsAPI公测:决策模型的竞争格局与选型逻辑

8. GPT-6Luna(Batch)批量处理能力深度评测

9. gpt-5.6-luna接入踩坑实录:model_not_found排查与reasoning_summary字段使用说明

10. OpenAIGPT-6AstraandGPT-6.1Sol为何不支持nonereasoningeffort?

11. 价格暴降90%,多项测试超GPT-6Luna!Anthropic最便宜模型来了

12. GPT-6 Sol/Luna发布:永久降价50%,OpenAI把价格战焊死在成本曲线上

13. [Canary]提示缓存延长到十二小时

14. OpenAI重磅上线Decisions API:专门给AI智

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章