Setiap produk OpenAI bergantung pada akses data yang cepat dan andal—baik saat masuk, memeriksa pengaturan Codex, atau memulai percakapan ChatGPT. Setiap tindakan mungkin memerlukan banyak pencarian terpisah. Permintaan yang lambat membuat produk terasa lambat; permintaan yang gagal menghentikannya sepenuhnya. Habitat adalah platform penyimpanan online yang dibangun agar produk OpenAI dapat mengakses informasi yang dibutuhkan dengan cepat dan andal.

Habitat kini menangani lebih dari 70 juta permintaan setiap detik, mendukung produk yang digunakan oleh lebih dari 1 miliar orang setiap minggu di hampir 40 wilayah geografis. Dua tahun lalu, ia dimulai sebagai pustaka sisi klien Python sederhana yang terhubung ke satu basis data. Kini, ia adalah sistem terdistribusi kompleks yang melayani lebih dari 500 petabyte data.

Membangun pada skala ini bukanlah hal yang mudah, tetapi yang membuat situasi kami unik adalah laju penskalaan yang belum pernah terjadi sebelumnya. Kami telah tumbuh lebih dari 10x tahun ke tahun selama tiga tahun terakhir. Habitat berevolusi: pertama menjadi andal untuk lalu lintas misi-kritis, lalu cukup cepat untuk pengguna global, dan akhirnya beroperasi pada skala besar.

Pos ini adalah yang pertama dalam seri dua bagian. Kami akan berbagi bagaimana Habitat berevolusi, mengapa kami mengubahnya dari pustaka menjadi layanan, dan bagaimana kami memperluas tumpukan penyajian berbasis Python menjadi lapisan platform penyimpanan yang andal. Pos mendatang akan merinci keandalan multi-penyewa, optimalisasi kinerja baca, dan penskalaan kemitraan kami dengan Azure Cosmos DB.

Entitas Utama: Perusahaan: OpenAI, Azure Cosmos DB