Las aplicaciones y los agentes toman muchas pequeñas decisiones a lo largo de un flujo de trabajo, como cómo clasificar una entrada, a dónde dirigir una solicitud o qué acción realizar a continuación. Individualmente son simples, pero a escala su latencia y su costo se acumulan. Hoy, OpenAI pone a disposición general la API de Decisions. Creada con GPT‑6 Luna, centra la inteligencia de Luna en preguntas con respuestas acotadas, ayudando a las aplicaciones y a los agentes a tomar decisiones casi en tiempo real a partir de texto, imágenes y entradas estructuradas, hasta 10 veces más rápido que GPT‑6 Luna a través de la API de Responses.
Desde la beta pública, OpenAI ha añadido una integración nativa con GPT‑Live, el almacenamiento en caché de instrucciones para contextos reutilizados y la residencia de inferencia en EE. UU. y la UE. Los desarrolladores pueden enviar entradas JSON nativas, incluir imágenes en las instrucciones de las preguntas y formular hasta 400 preguntas por solicitud, el doble del límite anterior. La latencia también ha mejorado, con capacidad adicional en varias regiones de Asia.
La adopción temprana ha demostrado una aplicabilidad amplia. En OpenAI, los equipos usan la API para reducir los tiempos de respuesta y mejorar la interactividad, categorizar las descripciones de transacciones y clasificar la cobertura por tema y según refuerce o desafíe narrativas clave. Los clientes la usan para todo, desde atribuir con precisión los costos de la IA hasta hacer más interactivas las experiencias de aprendizaje de idiomas.
Los desarrolladores definen una pregunta y sus respuestas permitidas, y luego proporcionan el contexto como texto, imágenes o JSON nativo. La API devuelve uno de tres tipos de respuesta, una probabilidad, una opción o una puntuación, que las aplicaciones usan para determinar qué ocurre a continuación. Con GPT‑Live, la API de Decisions ayuda a las aplicaciones de voz a tomar decisiones rápidas y enfocadas durante conversaciones en vivo, como si un agente de soporte debe hacer una pregunta aclaratoria, dirigir una solicitud o escalar un problema.
Fuente: OpenAI Blog · Resumido por HeadlinesBriefing