Apple a détaillé un nouveau système appelé Minions, qui utilise les GPU inactifs des Mac équipés de puces Apple Silicon pour créer un cloud GPU virtuel. Le système combine une puissance de calcul jusqu'ici inexploitée pour traiter des charges de travail d'IA complexes, en particulier l'inférence de modèles d'apprentissage automatique à grande échelle. Apple décrit Minions comme un cloud GPU virtuel dynamique qui agrège les GPU Apple Silicon inactifs de plusieurs Mac, et ses chercheurs l'utilisent déjà en interne.
Le principe de base est simple. Les Mac disposent de GPU puissants qui passent la majeure partie de leur temps inactifs, surtout lors des tâches informatiques courantes. Minions est conçu pour mettre à profit cette capacité GPU non utilisée, transformant des Mac sous-exploités en un cluster de machines prêtes pour l'IA. Le Mac mini et le Mac Studio prennent tous deux en charge le clustering via l'accès direct à la mémoire à distance (RDMA) par des connexions Thunderbolt 5, ce qui permet de combiner la puissance de calcul et la mémoire de plusieurs machines pour une seule charge de travail. Minions prolonge ce concept.
La documentation d'Apple décrit quatre composants clés. Un serveur Minions joue le rôle de coordinateur central, gère les requêtes via une interface web et des API, et place les tâches dans une file d'attente au sein d'un magasin de métadonnées PostgreSQL. Les Minion Executors fonctionnent sur les appareils macOS, exécutent les sous-tâches sur les GPU Apple Silicon locaux et écrivent les résultats dans le stockage. En cas de défaillance, comme une perte de connexion ou une coupure de courant, le Minion Watchdog remet la tâche en file d'attente pour qu'elle s'exécute sur une autre machine. Un tableau de bord assure la surveillance en temps réel de l'ensemble du processus.
Apple affirme que ses tests ont montré que certaines tâches d'inférence qui prenaient auparavant plus de 10 heures s'achèvent désormais en quelques minutes, sans infrastructure supplémentaire et avec une voie simple vers la montée en charge. Pour les entreprises, réduire le temps de traitement sans acheter de nouveau matériel est un avantage évident, d'autant que les prix ne cessent d'augmenter.
Source: AppleInsider · Résumé par HeadlinesBriefing