A Apple detalhou um novo sistema chamado Minions, que usa as GPUs ociosas dos Macs com Apple Silicon para criar uma nuvem virtual de GPU. O sistema combina poder de processamento não aproveitado para lidar com cargas de trabalho complexas de IA, especialmente a inferência de aprendizado de máquina em grande escala. A Apple descreve o Minions como uma nuvem virtual de GPU dinâmica que agrega as GPUs Apple Silicon ociosas de vários Macs, e seus pesquisadores já o utilizam internamente.
A ideia básica é simples. Os Macs têm GPUs poderosas que passam a maior parte do tempo ociosas, especialmente durante tarefas computacionais do dia a dia. O Minions foi projetado para colocar para trabalhar essa capacidade de GPU não utilizada, transformando Macs subutilizados em um cluster de máquinas prontas para IA. Tanto o Mac mini quanto o Mac Studio suportam clusterização por meio de Remote Direct Memory Access (RDMA) em conexões Thunderbolt 5, o que permite combinar computação e memória de várias máquinas em uma única carga de trabalho. O Minions amplia esse conceito.
A documentação da Apple descreve quatro componentes principais. Um servidor Minions atua como coordenador central, tratando as solicitações por meio de uma interface web e de APIs, e enfileirando as tarefas em um armazenamento de metadados PostgreSQL. Os Minion Executors rodam em dispositivos macOS, executam subtarefas nas GPUs Apple Silicon locais e gravam os resultados no armazenamento. Se ocorrer uma falha, como problema de conectividade ou queda de energia, o Minion Watchdog recoloca a tarefa na fila para execução em outra máquina. Um painel fornece monitoramento em tempo real de todo o processo.
A Apple afirma que seus testes mostraram que algumas tarefas de inferência que antes levavam mais de 10 horas agora são concluídas em minutos, sem infraestrutura adicional e com um caminho fácil para escalar. Para as empresas, reduzir o tempo de processamento sem comprar hardware novo é um benefício óbvio, especialmente com os preços em constante alta.
Fonte: AppleInsider · Resumido por HeadlinesBriefing