A crescente demanda por inferência de aprendizado de máquina acelerada por GPU expôs os limites da infraestrutura centralizada de GPUs, que frequentemente sofre com altos custos, elasticidade limitada e longos tempos de espera sob restrição de recursos. Enquanto isso, os dispositivos macOS modernos baseados em Apple Silicon possuem GPUs poderosas que permanecem em grande parte ociosas durante o uso cotidiano.
Um novo artigo apresenta o Minions, uma nuvem virtual de GPU distribuída e dinâmica que agrega essas GPUs Apple Silicon ociosas em dispositivos macOS para executar cargas de trabalho de inferência de aprendizado de máquina em larga escala. Por utilizar hardware já existente, o Minions permite que equipes ampliem sua capacidade computacional sem adquirir GPUs adicionais.
O sistema foi projetado para lidar com a execução flexível de tarefas de inferência em GPU, oferecer tolerância a falhas e utilizar os recursos de forma eficiente. Seus projetistas observam que a abordagem se apoia nos mesmos princípios de compartilhamento de recursos que tornam a computação distribuída viável em outros contextos, adaptados aqui para máquinas de consumo.
A experiência dos autores sugere que dispositivos macOS ociosos podem ser transformados em uma plataforma prática de inferência distribuída em GPU, especialmente em ambientes onde os recursos centralizados de GPU são escassos.
Fonte: Hacker News · Resumido por HeadlinesBriefing