HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI Habitat: ১B ব্যবহারকারীর জন্য ৭০M req/s

OpenAI Blog •
×

প্রতিটি OpenAI পণ্য দ্রুত, নির্ভরযোগ্য ডেটা অ্যাক্সেসের উপর নির্ভর করে—লগ ইন করা, Codex সেটিংস পরীক্ষা করা, বা ChatGPT কথোপকথন শুরু করা। প্রতিটি ক্রিয়ার জন্য অনেকগুলি পৃথক লুকআপ প্রয়োজন হতে পারে। ধীর অনুরোধ পণ্যটিকে ধীর মনে করায়; ব্যর্থ অনুরোধ এটি সম্পূর্ণভাবে থামিয়ে দেয়। Habitat হল অনলাইন স্টোরেজ প্ল্যাটফর্ম যা তৈরি করা হয়েছে যাতে OpenAI পণ্যগুলি প্রয়োজনীয় তথ্য দ্রুত এবং নির্ভরযোগ্যভাবে অ্যাক্সেস করতে পারে।

Habitat এখন প্রতি সেকেন্ডে ৭০ মিলিয়নের বেশি অনুরোধ সামলায়, প্রায় ৪০টি ভৌগোলিক অঞ্চলে প্রতি সপ্তাহে ১ বিলিয়নের বেশি মানুষ ব্যবহার করে এমন পণ্যগুলিকে সমর্থন করে। দুই বছর আগে, এটি একটি একক ডেটাবেসের সাথে সংযুক্ত একটি সাধারণ Python ক্লায়েন্ট-সাইড লাইব্রেরি হিসাবে শুরু হয়েছিল। আজ, এটি ৫০০ পেটাবাইটের বেশি ডেটা পরিবেশনকারী একটি জটিল বিতরণ সিস্টেম।

এই স্কেলে নির্মাণ করা সহজ কাজ নয়, তবে আমাদের পরিস্থিতিকে অনন্য করে তুলেছে অভূতপূর্ব স্কেলিং হার। গত তিন বছর ধরে আমরা বছরে বছরে ১০ গুণের বেশি বৃদ্ধি পেয়েছি। Habitat বিবর্তিত হয়েছে: প্রথমে মিশন-ক্রিটিক্যাল ট্রাফিকের জন্য নির্ভরযোগ্য হয়ে ওঠে, তারপর বিশ্বব্যাপী ব্যবহারকারীদের জন্য যথেষ্ট দ্রুত, এবং অবশেষে বিশাল স্কেলে পরিচালিত হয়।

এই পোস্টটি দুই-অংশের সিরিজের প্রথম। আমরা শেয়ার করব কীভাবে Habitat বিবর্তিত হয়েছে, কেন আমরা এটিকে একটি লাইব্রেরি থেকে একটি পরিষেবাতে পরিণত করেছি, এবং কীভাবে আমরা একটি Python-ভিত্তিক সার্ভিং স্ট্যাককে একটি নির্ভরযোগ্য স্টোরেজ প্ল্যাটফর্ম স্তরে প্রসারিত করেছি। ভবিষ্যতের একটি পোস্টে মাল্টি-টেন্যান্সি নির্ভরযোগ্যতা, পড়ার কর্মক্ষমতা অপ্টিমাইজেশন, এবং Azure Cosmos DB-এর সাথে আমাদের অংশীদারিত্ব স্কেলিংয়ের বিস্তারিত থাকবে।

মূল সত্তা: কোম্পানি: OpenAI, Azure Cosmos DB