एप्लिकेशन और एजेंट किसी वर्कफ़्लो के दौरान कई छोटे-छोटे निर्णय लेते हैं, जैसे किसी इनपुट को कैसे वर्गीकृत करना है, किसी अनुरोध को कहाँ भेजना है, या अगली कार्रवाई क्या करनी है। अकेले में ये सरल होते हैं, लेकिन बड़े पैमाने पर इनकी विलंबता और लागत बढ़ जाती है। आज OpenAI ने Decisions API को आम उपलब्धता के लिए जारी किया है। GPT‑6 Luna के साथ बना यह API Luna की बुद्धिमत्ता को सीमित उत्तर वाले प्रश्नों पर केंद्रित करता है, और एप्लिकेशन व एजेंटों को टेक्स्ट, इमेज और संरचित इनपुट से लगभग वास्तविक समय में निर्णय लेने में मदद करता है, Responses API के माध्यम से GPT‑6 Luna से 10 गुना तक तेज़।
सार्वजनिक बीटा के बाद से OpenAI ने नेटिव GPT‑Live एकीकरण, बार-बार उपयोग होने वाले संदर्भ के लिए प्रॉम्प्ट कैशिंग, और अमेरिका और यूरोपीय संघ में इन्फ़रेंस रेज़िडेंसी जोड़ी है। डेवलपर नेटिव JSON इनपुट पास कर सकते हैं, प्रश्न के निर्देशों में इमेज शामिल कर सकते हैं, और प्रति अनुरोध 400 प्रश्न तक पूछ सकते हैं, जो पिछली सीमा का दोगुना है। एशिया के कई क्षेत्रों में अतिरिक्त क्षमता जुड़ने से विलंबता में भी सुधार हुआ है।
शुरुआती अपनाने से इसकी व्यापक उपयोगिता दिखी है। OpenAI के भीतर टीमें प्रतिक्रिया समय घटाने और इंटरैक्टिविटी बढ़ाने, लेन-देन विवरणों को वर्गीकृत करने, और कवरेज को विषय तथा इस आधार पर वर्गीकृत करने के लिए इसका उपयोग करती हैं कि वह मुख्य कथाओं को पुष्ट करती है या चुनौती देती है। ग्राहक AI लागत का सटीक श्रेय देने से लेकर भाषा-सीखने के अनुभवों को अधिक इंटरैक्टिव बनाने तक, हर चीज़ के लिए इसका उपयोग करते हैं।
डेवलपर एक प्रश्न और उसके स्वीकार्य उत्तर परिभाषित करते हैं, फिर टेक्स्ट, इमेज या नेटिव JSON के रूप में संदर्भ देते हैं। API तीन प्रकार के उत्तरों में से एक लौटाता है: एक प्रायिकता, एक विकल्प, या एक स्कोर, जिसके आधार पर एप्लिकेशन तय करते हैं कि आगे क्या होगा। GPT‑Live के साथ, Decisions API वॉयस एप्लिकेशन को लाइव बातचीत के दौरान तेज़ और केंद्रित निर्णय लेने में मदद करता है, जैसे कि सपोर्ट एजेंट को स्पष्टीकरण वाला प्रश्न पूछना चाहिए, अनुरोध को रूट करना चाहिए, या समस्या को ऊपर भेजना चाहिए।
स्रोत: OpenAI Blog · HeadlinesBriefing द्वारा सारांशित