HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI Jalapeño চিপ 1.5-4.1x AI ইনফারেন্স লাভ প্রদান করে

OpenAI Blog •
×

OpenAI ने अपने पहले कस्टम इन्फरेंस चिप Jalapeño के प्रथम प्रदर्शन परिणाम जारी किए हैं, जो उद्योग-नेता गति और दक्षता प्रदर्शित करते हैं। चिप ने पीक थ्रूपुट पर प्रति वाट 1.5 से 1.9 गुना अधिक AI कार्य करने की क्षमता दिखाई और प्रमुख व्यावसायिक रूप से उपलब्ध प्रणालियों की तुलना में एंड-टू-एंड लेटेंसी में 1.7 से 3.6 गुना कमी की। अत्यधिक इंटरैक्टिव कार्यभार के लिए, Jalapeño ने 2.1 से 4.1 गुना उच्च प्रदर्शन हासिल किया।

GPT‑OSS 120B, Deep Seek R1 और Kimi K2.5 1T मॉडल पर परीक्षण में, दोनों OpenAI के भीतर और बाहर विकसित आर्किटेक्चर के लिए स्थिर लाभ दिखाए गए। सबसे बड़े मॉडल Kimi K2.5 1T पर, Jalapeño ने प्रति वाट पीक प्रदर्शन में लगभग 1.5 गुना वृद्धि और लेटेंसी में 3.4 गुना कमी दिखाई। चिप की रेटिंग 700 वाट है, लेकिन परीक्षण के दौरान यह निरंतर रूप से 550 वाट या उससे कम पर चलता रहा।

OpenAI पूर्ण-स्टैक लाभ पर जोर देता है, वास्तविक कार्यभार डेटा का उपयोग करके मॉडल, सेवा सॉफ़्टवेयर, चिप, मेमोरी, नेटवर्क और प्रणालियों को एक साथ डिजाइन करता है। Jalapeño एक पीढ़ी-बढ़ाने वाले प्लेटफ़ॉर्म की शुरुआत का प्रतिनिधित्व करता है, जिसमें उत्पादन को बढ़ाने की योजना है ताकि तेज़, अधिक सक्षम और कुशल उत्पाद प्रदान किए जा सकें। कंपनी ने Semi Analysis के सार्वजनिक Inference X बेंचमार्क का उपयोग करके प्रदर्शन को मापा, ऑपरेटिंग रेंज में मिलते-जुलते उपयोगकर्ता अनुभव का मूल्यांकन किया।

मुख्य इकाइयाँ: कंपनियाँ: OpenAI, Semi Analysis