OpenAI 上线 Decisions API，150 毫秒出一个「决策」

OpenAI 在开发者日上发布了 Decisions API，一个主打低延迟、结构化输出的新接口。它的定位很明确，就是给那些需要"快速做一个决定"的场景用的，大约 150 毫秒就能返回结果，比常规 API 用 Luna 模型快了约 10 倍。

这东西到底解决什么问题。常规的大模型对话，延迟高、输出不可控，适合聊天但不太适合塞进一个对速度有硬要求的业务链路里。Decisions API 把模型的智能聚焦到一个很小的范围，用户把问题预先定义好，配上有限的几个可选答案，API 只负责从中选一个最合适的并返回，顺带给出置信度。

底层用的是 OpenAI 的小型模型 Luna，成本应该比大模型低不少，这也是它能做低延迟的原因之一。

官方给了几个典型用途。一是内容审核和策略选择，在允许、限流、人工复审这几个预设选项里快速挑一个；二是 Agent 编排里的决策节点，多步工作流里用它决定下一步调用哪个工具、哪个子 Agent，而不是让大模型自由发挥；三是实时业务规则辅助，在已有规则引擎上补足模糊地带，给个建议再由规则引擎最终裁定。

这类场景的共同点是，答案范围是有限的，不需要模型自由发挥，反而需要快和稳。Decisions API 就是冲着这个来的，它跟市面上的 TypeSafe 的 Jev 这类产品定位相近。

对开发者来说，这个 API 的价值很直白，能用更低的成本和延迟，把 LLM 的判断能力嵌入到实时业务里。能不能真正普及，就看它的稳定性和价格了。

作者提示含AI生成内容。