HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI Habitat:10億ユーザーに毎秒7000万リクエスト

OpenAI Blog •
×

すべてのOpenAI製品は、高速で信頼性の高いデータアクセスに依存しています—ログイン、Codex設定の確認、ChatGPT会話の開始など。各アクションには多くの個別のルックアップが必要になる場合があります。遅いリクエストは製品を遅く感じさせ、失敗したリクエストは完全に停止させます。Habitatは、OpenAI製品が必要な情報に迅速かつ確実にアクセスできるように構築されたオンラインストレージプラットフォームです。

Habitatは現在、毎秒7000万以上のリクエストを処理し、ほぼ40の地理的地域で毎週10億人以上が使用する製品をサポートしています。2年前、単一のデータベースに接続されたシンプルなPythonクライアントサイドライブラリとして始まりました。今日では、500ペタバイト以上のデータを提供する複雑な分散システムです。

この規模での構築は容易ではありませんが、私たちの状況を独特にしたのは前例のないスケーリング速度です。過去3年間、前年比10倍以上の成長を遂げてきました。Habitatは進化しました:まずミッションクリティカルなトラフィックに対して信頼性が高くなり、次にグローバルユーザーにとって十分に高速になり、最後に大規模に運用されるようになりました。

この投稿は2部構成シリーズの第1回です。Habitatがどのように進化したか、なぜライブラリからサービスに変えたのか、そしてPythonベースのサービングスタックを信頼性の高いストレージプラットフォーム層に拡張した方法を共有します。今後の投稿では、マルチテナンシーの信頼性、読み取りパフォーマンスの最適化、Azure Cosmos DBとのパートナーシップの拡大について詳しく説明します。

主要エンティティ:企業:OpenAI、Azure Cosmos DB

FAQ:OpenAIのインフラストラクチャにおけるHabitatとは何ですか?

HabitatはOpenAIのオンラインストレージプラットフォームであり、製品が必要な情報に迅速かつ確実にアクセスできるようにし、毎秒7000万以上のリクエストを処理し、毎週10億人以上のユーザーにサービスを提供します。

FAQ Q:OpenAIのインフラストラクチャにおけるHabitatとは何ですか?

FAQ A:HabitatはOpenAIのオンラインストレージプラットフォームであり、製品が必要な情報に迅速かつ確実にアクセスできるようにし、毎秒7000万以上のリクエストを処理し、毎週10億人以上のユーザーにサービスを提供します。