Aplicações e agentes tomam muitas pequenas decisões ao longo de um fluxo de trabalho, como classificar uma entrada, para onde encaminhar uma solicitação ou qual ação executar em seguida. Individualmente são simples, mas em escala sua latência e seu custo se acumulam. Hoje, a OpenAI disponibiliza de forma geral a API Decisions. Construída com o GPT‑6 Luna, ela concentra a inteligência do Luna em perguntas com respostas delimitadas, ajudando aplicações e agentes a tomar decisões quase em tempo real a partir de texto, imagens e entradas estruturadas, até 10 vezes mais rápido que o GPT‑6 Luna pela API Responses.
Desde a beta pública, a OpenAI adicionou uma integração nativa com o GPT‑Live, cache de prompts para contexto reutilizado e residência de inferência nos EUA e na UE. Os desenvolvedores podem enviar entradas JSON nativas, incluir imagens nas instruções das perguntas e fazer até 400 perguntas por requisição, o dobro do limite anterior. A latência também melhorou, com capacidade adicional em várias regiões da Ásia.
A adoção inicial mostrou ampla aplicabilidade. Dentro da OpenAI, equipes usam a API para reduzir tempos de resposta e melhorar a interatividade, categorizar descrições de transações e classificar a cobertura por tema e conforme ela reforce ou desafie narrativas-chave. Clientes a usam para tudo, desde atribuir com precisão os custos de IA até tornar as experiências de aprendizado de idiomas mais interativas.
Os desenvolvedores definem uma pergunta e suas respostas permitidas, depois fornecem o contexto como texto, imagens ou JSON nativo. A API retorna um de três tipos de resposta, uma probabilidade, uma escolha ou uma pontuação, que as aplicações usam para determinar o que acontece em seguida. Com o GPT‑Live, a API Decisions ajuda aplicações de voz a tomar decisões rápidas e focadas durante conversas ao vivo, como decidir se um agente de suporte deve fazer uma pergunta de esclarecimento, encaminhar uma solicitação ou escalar um problema.
Fonte: OpenAI Blog · Resumido por HeadlinesBriefing