Aplikasi dan agen membuat banyak keputusan kecil sepanjang alur kerja, seperti cara mengklasifikasikan input, ke mana meneruskan permintaan, atau tindakan apa yang diambil selanjutnya. Secara individual, keputusan ini sederhana, tetapi dalam skala besar latensi dan biayanya menumpuk. Hari ini, OpenAI menghadirkan Decisions API secara umum. Dibangun dengan GPT‑6 Luna, API ini memusatkan kecerdasan Luna pada pertanyaan dengan jawaban terbatas, membantu aplikasi dan agen membuat keputusan hampir real-time dari teks, gambar, dan input terstruktur hingga 10x lebih cepat dibandingkan GPT‑6 Luna melalui Responses API.
Sejak beta publik, OpenAI telah menambahkan integrasi GPT‑Live native, prompt caching untuk konteks yang digunakan ulang, dan residensi inferensi di AS dan UE. Pengembang dapat mengirim input JSON native, menyertakan gambar dalam instruksi pertanyaan, dan mengajukan hingga 400 pertanyaan per permintaan, dua kali lipat dari batas sebelumnya. Latensi juga membaik dengan tambahan kapasitas di beberapa wilayah di Asia.
Adopsi awal menunjukkan penerapan yang luas. Di dalam OpenAI, tim menggunakan API untuk memangkas waktu respons dan meningkatkan interaktivitas, mengkategorikan deskripsi transaksi, serta mengklasifikasikan liputan berdasarkan tema dan apakah liputan itu memperkuat atau menantang narasi utama. Pelanggan menggunakannya untuk segala hal, mulai dari membebankan biaya AI secara akurat hingga membuat pengalaman belajar bahasa lebih interaktif.
Pengembang menentukan pertanyaan dan jawaban yang diizinkan, lalu memberikan konteks berupa teks, gambar, atau JSON native. API mengembalikan salah satu dari tiga jenis jawaban, yaitu probabilitas, pilihan, atau skor, yang digunakan aplikasi untuk menentukan langkah selanjutnya. Dengan GPT‑Live, Decisions API membantu aplikasi suara membuat keputusan cepat dan terfokus selama percakapan langsung, seperti apakah agen dukungan perlu mengajukan pertanyaan klarifikasi, meneruskan permintaan, atau mengeskalasi masalah.
Sumber: OpenAI Blog · Diringkas oleh HeadlinesBriefing