Os produtos da OpenAI dependem do Habitat, sua plataforma de armazenamento online, que precisa responder em milissegundos a mais de 1 bilhão de usuários em 40 regiões geográficas. Sustentar esse crescimento enquanto melhorava a confiabilidade, o desempenho e a velocidade dos desenvolvedores exigiu repensar como a plataforma era projetada e operada. A abordagem da OpenAI seguiu uma sequência clara: primeiro tornar-se confiável o bastante para o tráfego de missão crítica, depois rápido o bastante para usuários globais e, por fim, operar em escala massiva.
Esta série em duas partes acompanha a evolução do Habitat, de uma simples biblioteca cliente e um banco de dados para uma plataforma de armazenamento distribuída globalmente, que atende mais de 500 petabytes de dados. A Parte I tratou da migração de um cliente Python para um serviço e das técnicas que levaram um serviço baseado em Python muito além do que muitos considerariam prático.
A Parte II foca na escalabilidade do componente de armazenamento subjacente, o Azure Cosmos DB. Trabalhando de perto com a equipe do Azure, a OpenAI chegou a uma abordagem viável de multilocação por meio de contêineres co-gerenciados, entregando excelente desempenho de leitura em escala global e massiva.
A multilocação traz trade-offs. Sistemas de locatário único reduzem o raio de impacto e simplificam a propriedade, mas se tornam caros e frequentemente levam a um superdimensionamento significativo. Sistemas multilocatário centralizam a expertise de provisionamento, mas introduzem problemas de "vizinho barulhento", em que um locatário consome uma parcela desproporcional dos recursos. A OpenAI alternou entre esses modelos antes de adotar, por padrão, um contêiner multilocatário, e afirma que ainda está no início de sua jornada de multilocação.
Fonte: OpenAI Blog · Resumido por HeadlinesBriefing