Приложения и агенты принимают множество небольших решений в ходе рабочего процесса: как классифицировать входные данные, куда направить запрос или какое действие предпринять дальше. По отдельности они просты, но в масштабе их задержка и стоимость накапливаются. Сегодня OpenAI открывает Decisions API для общего доступа. Построенный на GPT‑6 Luna, этот API сосредотачивает возможности Luna на вопросах с ограниченным набором ответов, помогая приложениям и агентам принимать почти мгновенные решения на основе текста, изображений и структурированных данных, до в 10 раз быстрее, чем GPT‑6 Luna через Responses API.
С момента публичной беты OpenAI добавила нативную интеграцию с GPT‑Live, кэширование промптов для повторно используемого контекста и хранение данных для вывода в США и ЕС. Разработчики могут передавать нативные JSON-входы, включать изображения в инструкции к вопросам и задавать до 400 вопросов за запрос, что вдвое больше прежнего лимита. Задержка также снизилась благодаря дополнительным мощностям в нескольких регионах Азии.
Ранее внедрение показало широкую применимость. Внутри OpenAI команды используют API, чтобы сократить время отклика и повысить интерактивность, категоризировать описания транзакций и классифицировать публикации по темам и по тому, поддерживают они ключевые тезисы или оспаривают их. Клиенты применяют его для всего: от точного распределения затрат на ИИ до сделать опыт изучения языков более интерактивным.
Разработчики определяют вопрос и допустимые ответы, затем предоставляют контекст в виде текста, изображений или нативного JSON. API возвращает один из трех типов ответа: вероятность, выбор или оценку, на основе которых приложения определяют дальнейшие действия. С GPT‑Live Decisions API помогает голосовым приложениям принимать быстрые и точные решения во время живых разговоров, например, стоит ли агенту поддержки задать уточняющий вопрос, направить запрос или эскалировать проблему.
Источник: OpenAI Blog · Сводку подготовил HeadlinesBriefing