Los productos de OpenAI dependen de Habitat, su plataforma de almacenamiento en línea, que debe responder en milisegundos a más de 1000 millones de usuarios en 40 regiones geográficas. Sostener este crecimiento mientras se mejoraban la fiabilidad, el rendimiento y la velocidad de desarrollo exigió repensar cómo se diseñaba y operaba la plataforma. El enfoque de OpenAI siguió una secuencia clara: primero ser lo bastante fiable para el tráfico de misión crítica, luego lo bastante rápido para los usuarios globales y, por último, operar a una escala masiva.
Esta serie de dos partes traza la evolución de Habitat, desde una simple biblioteca cliente y una base de datos hasta una plataforma de almacenamiento distribuida globalmente que atiende a más de 500 petabytes de datos. La Parte I abordó el paso de un cliente en Python a un servicio, y las técnicas que llevaron un servicio basado en Python mucho más allá de lo que muchos considerarían práctico.
La Parte II se centra en escalar el componente de almacenamiento subyacente, Azure Cosmos DB. Trabajando estrechamente con el equipo de Azure, OpenAI llegó a un enfoque viable de multi-tenencia mediante contenedores co-gestionados, ofreciendo un excelente rendimiento de lectura a escala masiva y global.
La multi-tenencia conlleva compensaciones. Los sistemas de un solo inquilino reducen el radio de impacto y simplifican la propiedad, pero resultan caros y a menudo provocan un sobredimensionamiento significativo. Los sistemas multi-inquilino centralizan la experiencia en aprovisionamiento, pero introducen problemas de "vecino ruidoso", en los que un inquilino consume una parte desproporcionada de los recursos. OpenAI alternó entre estos modelos antes de adoptar, por defecto, un contenedor multi-inquilino, y afirma que aún está al inicio de su camino con la multi-tenencia.
Fuente: OpenAI Blog · Resumido por HeadlinesBriefing