La creciente demanda de inferencia de aprendizaje automático acelerada por GPU ha puesto al descubierto los límites de la infraestructura centralizada de GPU, que a menudo sufre de costos elevados, elasticidad limitada y largos tiempos de espera cuando los recursos son escasos. Mientras tanto, los dispositivos macOS modernos basados en Apple Silicon incorporan GPU potentes que permanecen en gran medida inactivas durante el uso cotidiano.
Un nuevo artículo presenta Minions, una nube virtual de GPU distribuida y dinámica que agrupa estas GPU inactivas de Apple Silicon en dispositivos macOS para ejecutar cargas de trabajo de inferencia de aprendizaje automático a gran escala. Como aprovecha el hardware existente, los equipos pueden ampliar su capacidad de cómputo sin adquirir GPU adicionales.
El sistema está diseñado para gestionar la ejecución flexible de tareas de inferencia en GPU, ofrecer tolerancia a fallos y utilizar los recursos de forma eficiente. Sus diseñadores señalan que el enfoque se basa en los mismos principios de uso compartido de recursos que hacen práctica la computación distribuida en otros entornos, adaptados aquí a equipos de consumo.
La experiencia de los autores sugiere que los dispositivos macOS inactivos pueden convertirse en una plataforma práctica de inferencia distribuida en GPU, especialmente en entornos donde los recursos centralizados de GPU son escasos.
Fuente: Hacker News · Resumido por HeadlinesBriefing