应用和智能体在整个工作流程中会做出许多小决策，例如如何对输入进行分类、将请求路由到何处，或接下来采取哪项操作。单独来看，这些决策都很简单，但在规模化时，它们的延迟和成本会不断累积。今天，OpenAI 正式推出 Decisions API。该 API 基于 GPT‑6 Luna 构建，将 Luna 的智能聚焦于答案有界的问题，帮助应用和智能体基于文本、图像和结构化输入做出近实时决策，通过 Responses API 调用时，速度可比 GPT‑6 Luna 快达 10 倍。
自公开测试版发布以来，OpenAI 新增了原生 GPT‑Live 集成、针对重复使用上下文的提示词缓存，以及在 美国和欧盟的推理驻留功能。开发者可以传入原生 JSON 输入，在问题指令中包含图像，并且每个请求最多可提出 400 个问题，是之前上限的两倍。亚洲多个地区新增了容量，延迟也因此得到改善。
早期采用情况表明其适用范围广泛。在 OpenAI 内部，各团队使用该 API 来缩短响应时间、提升交互性、对交易描述进行分类，以及按主题和是否强化或挑战关键叙事对报道进行归类。客户的应用场景从准确归因 AI 成本，到让语言学习体验更具互动性，不一而足。
开发者定义一个问题及其允许的答案，然后以文本、图像或原生 JSON 的形式提供上下文。该 API 返回三种答案类型之一：概率、选项或分数，应用据此决定下一步操作。借助 GPT‑Live，Decisions API 可帮助语音应用在实时对话中做出快速、聚焦的决策，例如支持人员是否应提出澄清性问题、路由请求或升级问题。
来源: OpenAI Blog · 由HeadlinesBriefing整理摘要