Apple hat ein neues System namens Minions vorgestellt, das die ungenutzten GPUs in Macs mit Apple Silicon nutzt, um eine virtuelle GPU-Cloud zu schaffen. Das System bündelt bisher ungenutzte Rechenleistung, um komplexe KI-Workloads zu bewältigen, insbesondere großskalige Inferenz für maschinelles Lernen. Apple beschreibt Minions als dynamische virtuelle GPU-Cloud, die ungenutzte Apple-Silicon-GPUs über mehrere Macs hinweg zusammenfasst, und die eigenen Forscher setzen es bereits intern ein.
Die Grundidee ist einfach. Macs verfügen über leistungsstarke GPUs, die die meiste Zeit ungenutzt bleiben, besonders bei alltäglichen Rechenaufgaben. Minions soll diese ungenutzte GPU-Kapazität nutzbar machen und unterausgelastete Macs in einen Cluster KI-tauglicher Rechner verwandeln. Sowohl der Mac mini als auch der Mac Studio unterstützen Clustering über Remote Direct Memory Access (RDMA) mit Thunderbolt 5-Verbindungen, sodass sich Rechenleistung und Speicher mehrerer Geräte für einen einzigen Workload kombinieren lassen. Minions baut auf diesem Konzept auf.
Apples Dokumentation beschreibt vier zentrale Komponenten. Ein Minions-Server fungiert als zentraler Koordinator, verarbeitet Anfragen über eine Weboberfläche und APIs und reiht Aufträge in einem PostgreSQL-Metadatenspeicher ein. Minion Executors laufen auf macOS-Geräten, führen Teilaufgaben auf den lokalen Apple-Silicon-GPUs aus und schreiben die Ergebnisse in den Speicher. Tritt ein Fehler auf, etwa durch einen Verbindungsabbruch oder Stromausfall, reiht der Minion Watchdog den Auftrag erneut für die Ausführung auf einem anderen Gerät ein. Ein Dashboard bietet eine Echtzeitüberwachung des gesamten Prozesses.
Apple gibt an, dass in den eigenen Tests manche Inferenz-Aufgaben, die zuvor mehr als 10 Stunden benötigten, nun in wenigen Minuten abgeschlossen werden, ganz ohne zusätzliche Infrastruktur und mit einem einfachen Weg zur Skalierung. Für Unternehmen ist es ein offensichtlicher Vorteil, die Verarbeitungszeit zu verkürzen, ohne neue Hardware kaufen zu müssen, zumal die Preise weiter steigen.
Quelle: AppleInsider · Zusammengefasst von HeadlinesBriefing