HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI Habitat: 1B उपयोगकर्ताओं के लिए 70M req/s

OpenAI Blog •
×

प्रत्येक OpenAI उत्पाद तेज़, विश्वसनीय डेटा एक्सेस पर निर्भर करता है—चाहे लॉग इन करना हो, Codex सेटिंग्स की जाँच करना हो, या ChatGPT वार्तालाप शुरू करना हो। प्रत्येक क्रिया के लिए कई अलग-अलग लुकअप की आवश्यकता हो सकती है। धीमे अनुरोध उत्पाद को धीमा महसूस कराते हैं; विफल अनुरोध इसे पूरी तरह रोक देते हैं। Habitat ऑनलाइन स्टोरेज प्लेटफ़ॉर्म है जिसे बनाया गया है ताकि OpenAI उत्पाद आवश्यक जानकारी को तेज़ी से और विश्वसनीय रूप से एक्सेस कर सकें।

Habitat अब हर सेकंड 70 मिलियन से अधिक अनुरोध संभालता है, जो लगभग 40 भौगोलिक क्षेत्रों में हर सप्ताह 1 बिलियन से अधिक लोगों द्वारा उपयोग किए जाने वाले उत्पादों का समर्थन करता है। दो साल पहले, यह एक साधारण Python क्लाइंट-साइड लाइब्रेरी के रूप में शुरू हुआ जो एक डेटाबेस से जुड़ी थी। आज, यह 500 पेटाबाइट से अधिक डेटा की सेवा करने वाला एक जटिल वितरित सिस्टम है।

इस पैमाने पर निर्माण करना कोई आसान काम नहीं है, लेकिन हमारी स्थिति को अद्वितीय बनाने वाली बात स्केलिंग की अभूतपूर्व दर है। पिछले तीन वर्षों में हम साल-दर-साल 10 गुना से अधिक बढ़े हैं। Habitat विकसित हुआ: पहले मिशन-क्रिटिकल ट्रैफ़िक के लिए विश्वसनीय बना, फिर वैश्विक उपयोगकर्ताओं के लिए पर्याप्त तेज़, और अंत में बड़े पैमाने पर संचालित हुआ।

यह पोस्ट दो-भाग की श्रृंखला का पहला है। हम साझा करेंगे कि Habitat कैसे विकसित हुआ, हमने इसे लाइब्रेरी से सेवा में क्यों बदला, और हमने Python-आधारित सर्विंग स्टैक को एक विश्वसनीय स्टोरेज प्लेटफ़ॉर्म परत में कैसे बढ़ाया। भविष्य की पोस्ट में मल्टी-टेनेंसी विश्वसनीयता, पढ़ने के प्रदर्शन अनुकूलन, और Azure Cosmos DB के साथ हमारी साझेदारी को स्केल करने का विवरण दिया जाएगा।

मुख्य संस्थाएँ: कंपनियाँ: OpenAI, Azure Cosmos DB