Anwendungen und Agenten treffen im Verlauf eines Workflows viele kleine Entscheidungen, etwa wie eine Eingabe klassifiziert wird, wohin eine Anfrage weitergeleitet wird oder welche Aktion als Nächstes folgt. Einzeln sind diese Entscheidungen einfach, doch im großen Maßstab summieren sich Latenz und Kosten. Heute stellt OpenAI die Decisions API allgemein zur Verfügung. Die auf GPT‑6 Luna basierende API konzentriert die Intelligenz von Luna auf Fragen mit begrenzten Antworten und hilft Anwendungen und Agenten, auf Grundlage von Text, Bildern und strukturierten Eingaben nahezu in Echtzeit Entscheidungen zu treffen, bis zu 10-mal schneller als GPT‑6 Luna über die Responses API.
Seit der öffentlichen Beta hat OpenAI eine native GPT‑Live-Integration, Prompt-Caching für wiederverwendeten Kontext sowie Inferenz-Residenz in den USA und der EU hinzugefügt. Entwickler können native JSON-Eingaben übergeben, Bilder in Frageanweisungen einbinden und bis zu 400 Fragen pro Anfrage stellen, doppelt so viele wie zuvor. Auch die Latenz hat sich verbessert, dank zusätzlicher Kapazität in mehreren Regionen in Asien.
Die frühe Nutzung zeigt eine breite Anwendbarkeit. Bei OpenAI selbst nutzen Teams die API, um Antwortzeiten zu verkürzen und die Interaktivität zu verbessern, Transaktionsbeschreibungen zu kategorisieren sowie Berichterstattung nach Thema und danach einzuordnen, ob sie zentrale Narrative stützt oder infrage stellt. Kunden setzen sie für alles ein, von der präzisen Zuordnung von KI-Kosten bis hin zu interaktiveren Sprachlernerlebnissen.
Entwickler definieren eine Frage und deren zulässige Antworten und stellen dann Kontext als Text, Bilder oder natives JSON bereit. Die API liefert einen von drei Antworttypen zurück: eine Wahrscheinlichkeit, eine Auswahl oder einen Score, anhand dessen Anwendungen den nächsten Schritt bestimmen. Mit GPT‑Live hilft die Decisions API Sprachanwendungen, während laufender Gespräche schnelle, fokussierte Entscheidungen zu treffen, etwa ob ein Support-Agent eine klärende Rückfrage stellen, eine Anfrage weiterleiten oder ein Problem eskalieren sollte.
Quelle: OpenAI Blog · Zusammengefasst von HeadlinesBriefing