Apple's 'Minions' research turns idle Mac GPUs into a virtual GPU cloud

Apple has detailed a new system called Minions that uses the idle GPUs in Apple Silicon Macs to create a virtual GPU cloud. The system combines untapped processing power to handle complex AI workloads, particularly large-scale machine learning inference. Apple describes Minions as a dynamic virtual GPU cloud that aggregates idle Apple Silicon GPUs across Macs, and its researchers have already been using it in-house.

The underlying idea is simple. Macs have powerful GPUs that spend most of their time idle, especially during everyday computing tasks. Minions is designed to put that unused GPU capacity to work, turning underused Macs into a cluster of AI-ready machines. Both the Mac mini and Mac Studio support clustering through Remote Direct Memory Access (RDMA) over Thunderbolt 5 connections, which allows compute and memory from multiple machines to be combined on a single workload. Minions extends that concept.

Apple's documentation describes four key components. A Minions Server acts as the central coordinator, handling requests through a web interface and APIs and queuing jobs in a PostgreSQL metadata store. Minion Executors run on macOS devices, carry out subtasks on local Apple Silicon GPUs, and write results to storage. If a failure occurs, such as a connectivity problem or power loss, the Minion Watchdog re-queues the job on another machine. A dashboard provides real-time monitoring of the whole process.

Apple says its testing showed some inference jobs that previously took more than 10 hours now finish in minutes, without additional infrastructure and with an easy path to scale. For businesses, cutting processing time without buying new hardware is an obvious benefit, especially as prices continue to rise.

كشفت Apple عن نظام جديد يُسمى Minions يستخدم وحدات GPU الخاملة الموجودة في أجهزة Mac المزودة بمعالجات Apple Silicon لإنشاء سحابة GPU افتراضية. يجمع النظام قوة معالجة غير مستغلة للتعامل مع أحمال عمل الذكاء الاصطناعي المعقدة، وخاصة الاستدلال على نماذج تعلم الآلة واسعة النطاق. وتصف Apple نظام Minions بأنه سحابة GPU افتراضية ديناميكية تجمع وحدات Apple Silicon GPU الخاملة عبر أجهزة Mac، وقد بدأ باحثو الشركة باستخدامه داخلياً بالفعل.

الفكرة الأساسية بسيطة. تمتلك أجهزة Mac وحدات GPU قوية تقضي معظم وقتها في وضع الخمول، خاصة أثناء مهام الحوسبة اليومية. صُمم Minions لاستثمار قدرة وحدات GPU غير المستخدمة هذه، وتحويل أجهزة Mac قليلة الاستخدام إلى مجموعة من الأجهزة الجاهزة للذكاء الاصطناعي. يدعم كل من Mac mini وMac Studio التجميع عبر تقنية الوصول المباشر إلى الذاكرة البعيدة (RDMA) باستخدام اتصالات Thunderbolt 5، مما يتيح دمج القدرة الحاسوبية والذاكرة من عدة أجهزة لتنفيذ حمل عمل واحد. ويمثل Minions امتداداً لهذا المفهوم.

تصف وثائق Apple أربعة مكونات رئيسية. يعمل خادم Minions كمنسق مركزي، فيتولى الطلبات عبر واجهة ويب وواجهات برمجية، ويضع المهام في قائمة انتظار داخل مخزن بيانات وصفية من نوع PostgreSQL. تعمل وحدات Minion Executors على أجهزة macOS، فتنفذ المهام الفرعية على وحدات GPU المحلية من Apple Silicon وتكتب النتائج إلى مساحة التخزين. وإذا حدث عطل، مثل انقطاع الاتصال أو فقدان الطاقة، يعيد Minion Watchdog وضع المهمة في قائمة الانتظار لتنفيذها على جهاز آخر. ويوفر لوحة معلومات مراقبة فورية للعملية بأكملها.

تقول Apple إن اختباراتها أظهرت أن بعض مهام الاستدلال التي كانت تستغرق أكثر من 10 ساعات باتت تكتمل في دقائق، دون الحاجة إلى بنية تحتية إضافية ومع مسار سهل للتوسع. وبالنسبة للشركات، فإن تقليص وقت المعالجة دون شراء أجهزة جديدة فائدة واضحة، خاصة مع استمرار ارتفاع الأسعار.

Apple Minions নামে একটি নতুন সিস্টেমের বিবরণ দিয়েছে, যা Apple Silicon Mac-এর অব্যবহৃত GPU ব্যবহার করে একটি ভার্চুয়াল GPU ক্লাউড তৈরি করে। এই সিস্টেম অব্যবহৃত প্রসেসিং ক্ষমতাকে একত্র করে জটিল AI ওয়ার্কলোড, বিশেষত বড় আকারের মেশিন লার্নিং inference সামলায়। Apple Minions-কে একটি গতিশীল ভার্চুয়াল GPU ক্লাউড হিসেবে বর্ণনা করে, যা একাধিক Mac জুড়ে অব্যবহৃত Apple Silicon GPU একত্র করে, এবং এর গবেষকরা ইতিমধ্যেই নিজেদের কাজে এটি ব্যবহার করছেন।

মূল ধারণাটি সহজ। Mac-এর শক্তিশালী GPU থাকে, যেগুলো বেশিরভাগ সময় অলস থাকে, বিশেষত দৈনন্দিন কম্পিউটিং কাজের সময়। Minions এই অব্যবহৃত GPU ক্ষমতাকে কাজে লাগানোর জন্য তৈরি, যা কম ব্যবহৃত Mac-কে AI-প্রস্তুত মেশিনের একটি ক্লাস্টারে পরিণত করে। Mac mini এবং Mac Studio উভয়ই Thunderbolt 5 সংযোগের মাধ্যমে Remote Direct Memory Access (RDMA) দিয়ে ক্লাস্টারিং সমর্থন করে, যা একাধিক মেশিনের কম্পিউট ও মেমরিকে একটি একক ওয়ার্কলোডে একত্র করতে দেয়। Minions এই ধারণারই সম্প্রসারণ।

Apple-এর ডকুমেন্টেশনে চারটি মূল উপাদানের বর্ণনা আছে। Minions Server কেন্দ্রীয় সমন্বয়কারী হিসেবে কাজ করে, ওয়েব ইন্টারফেস ও API-এর মাধ্যমে অনুরোধ গ্রহণ করে এবং PostgreSQL মেটাডেটা স্টোরে কাজ সারিবদ্ধ করে। Minion Executors macOS ডিভাইসে চলে, স্থানীয় Apple Silicon GPU-তে উপ-কাজ সম্পাদন করে এবং ফলাফল স্টোরেজে লেখে। সংযোগ বিচ্ছিন্ন হওয়া বা বিদ্যুৎ চলে যাওয়ার মতো ব্যর্থতা ঘটলে Minion Watchdog কাজটিকে অন্য মেশিনে পুনরায় সারিবদ্ধ করে। একটি ড্যাশবোর্ড পুরো প্রক্রিয়ার রিয়েল-টাইম মনিটরিং দেয়।

Apple জানিয়েছে, তাদের পরীক্ষায় দেখা গেছে যে আগে ১০ ঘণ্টার বেশি সময় লাগা কিছু inference কাজ এখন মিনিটের মধ্যে শেষ হচ্ছে, অতিরিক্ত অবকাঠামো ছাড়াই এবং সহজে স্কেল করার পথ সহ। ব্যবসার জন্য নতুন হার্ডওয়্যার না কিনেই প্রসেসিং সময় কমানো একটি স্পষ্ট সুবিধা, বিশেষত যখন দাম ক্রমাগত বাড়ছে।

Apple hat ein neues System namens Minions vorgestellt, das die ungenutzten GPUs in Macs mit Apple Silicon nutzt, um eine virtuelle GPU-Cloud zu schaffen. Das System bündelt bisher ungenutzte Rechenleistung, um komplexe KI-Workloads zu bewältigen, insbesondere großskalige Inferenz für maschinelles Lernen. Apple beschreibt Minions als dynamische virtuelle GPU-Cloud, die ungenutzte Apple-Silicon-GPUs über mehrere Macs hinweg zusammenfasst, und die eigenen Forscher setzen es bereits intern ein.

Die Grundidee ist einfach. Macs verfügen über leistungsstarke GPUs, die die meiste Zeit ungenutzt bleiben, besonders bei alltäglichen Rechenaufgaben. Minions soll diese ungenutzte GPU-Kapazität nutzbar machen und unterausgelastete Macs in einen Cluster KI-tauglicher Rechner verwandeln. Sowohl der Mac mini als auch der Mac Studio unterstützen Clustering über Remote Direct Memory Access (RDMA) mit Thunderbolt 5-Verbindungen, sodass sich Rechenleistung und Speicher mehrerer Geräte für einen einzigen Workload kombinieren lassen. Minions baut auf diesem Konzept auf.

Apples Dokumentation beschreibt vier zentrale Komponenten. Ein Minions-Server fungiert als zentraler Koordinator, verarbeitet Anfragen über eine Weboberfläche und APIs und reiht Aufträge in einem PostgreSQL-Metadatenspeicher ein. Minion Executors laufen auf macOS-Geräten, führen Teilaufgaben auf den lokalen Apple-Silicon-GPUs aus und schreiben die Ergebnisse in den Speicher. Tritt ein Fehler auf, etwa durch einen Verbindungsabbruch oder Stromausfall, reiht der Minion Watchdog den Auftrag erneut für die Ausführung auf einem anderen Gerät ein. Ein Dashboard bietet eine Echtzeitüberwachung des gesamten Prozesses.

Apple gibt an, dass in den eigenen Tests manche Inferenz-Aufgaben, die zuvor mehr als 10 Stunden benötigten, nun in wenigen Minuten abgeschlossen werden, ganz ohne zusätzliche Infrastruktur und mit einem einfachen Weg zur Skalierung. Für Unternehmen ist es ein offensichtlicher Vorteil, die Verarbeitungszeit zu verkürzen, ohne neue Hardware kaufen zu müssen, zumal die Preise weiter steigen.

Apple ha detallado un nuevo sistema llamado Minions, que utiliza las GPU inactivas de los Mac con Apple Silicon para crear una nube virtual de GPU. El sistema combina potencia de procesamiento sin aprovechar para manejar cargas de trabajo complejas de IA, en particular la inferencia de aprendizaje automático a gran escala. Apple describe Minions como una nube virtual de GPU dinámica que agrega las GPU inactivas de Apple Silicon en varios Mac, y sus investigadores ya lo han estado usando internamente.

La idea de fondo es sencilla. Los Mac tienen GPU potentes que pasan la mayor parte del tiempo inactivas, sobre todo durante las tareas informáticas cotidianas. Minions está diseñado para poner a trabajar esa capacidad de GPU sin uso, convirtiendo los Mac infrautilizados en un clúster de equipos preparados para la IA. Tanto el Mac mini como el Mac Studio admiten la agrupación mediante acceso directo remoto a memoria (RDMA) a través de conexiones Thunderbolt 5, lo que permite combinar cómputo y memoria de varias máquinas en una sola carga de trabajo. Minions amplía ese concepto.

La documentación de Apple describe cuatro componentes clave. Un servidor de Minions actúa como coordinador central, gestiona las solicitudes a través de una interfaz web y de API, y pone los trabajos en cola en un almacén de metadatos PostgreSQL. Los Minion Executors se ejecutan en dispositivos macOS, realizan las subtareas en las GPU locales de Apple Silicon y escriben los resultados en el almacenamiento. Si se produce un fallo, como una pérdida de conexión o de energía, el Minion Watchdog vuelve a poner el trabajo en cola para ejecutarlo en otra máquina. Un panel ofrece la supervisión en tiempo real de todo el proceso.

Apple afirma que sus pruebas demostraron que algunos trabajos de inferencia que antes tardaban más de 10 horas ahora terminan en minutos, sin infraestructura adicional y con una vía sencilla para escalar. Para las empresas, reducir el tiempo de procesamiento sin comprar hardware nuevo es un beneficio evidente, sobre todo con los precios en constante aumento.

Apple a détaillé un nouveau système appelé Minions, qui utilise les GPU inactifs des Mac équipés de puces Apple Silicon pour créer un cloud GPU virtuel. Le système combine une puissance de calcul jusqu'ici inexploitée pour traiter des charges de travail d'IA complexes, en particulier l'inférence de modèles d'apprentissage automatique à grande échelle. Apple décrit Minions comme un cloud GPU virtuel dynamique qui agrège les GPU Apple Silicon inactifs de plusieurs Mac, et ses chercheurs l'utilisent déjà en interne.

Le principe de base est simple. Les Mac disposent de GPU puissants qui passent la majeure partie de leur temps inactifs, surtout lors des tâches informatiques courantes. Minions est conçu pour mettre à profit cette capacité GPU non utilisée, transformant des Mac sous-exploités en un cluster de machines prêtes pour l'IA. Le Mac mini et le Mac Studio prennent tous deux en charge le clustering via l'accès direct à la mémoire à distance (RDMA) par des connexions Thunderbolt 5, ce qui permet de combiner la puissance de calcul et la mémoire de plusieurs machines pour une seule charge de travail. Minions prolonge ce concept.

La documentation d'Apple décrit quatre composants clés. Un serveur Minions joue le rôle de coordinateur central, gère les requêtes via une interface web et des API, et place les tâches dans une file d'attente au sein d'un magasin de métadonnées PostgreSQL. Les Minion Executors fonctionnent sur les appareils macOS, exécutent les sous-tâches sur les GPU Apple Silicon locaux et écrivent les résultats dans le stockage. En cas de défaillance, comme une perte de connexion ou une coupure de courant, le Minion Watchdog remet la tâche en file d'attente pour qu'elle s'exécute sur une autre machine. Un tableau de bord assure la surveillance en temps réel de l'ensemble du processus.

Apple affirme que ses tests ont montré que certaines tâches d'inférence qui prenaient auparavant plus de 10 heures s'achèvent désormais en quelques minutes, sans infrastructure supplémentaire et avec une voie simple vers la montée en charge. Pour les entreprises, réduire le temps de traitement sans acheter de nouveau matériel est un avantage évident, d'autant que les prix ne cessent d'augmenter.

Apple ने Minions नामक एक नए सिस्टम का विवरण दिया है, जो Apple Silicon Mac में खाली पड़े GPU का उपयोग करके एक वर्चुअल GPU क्लाउड बनाता है। यह सिस्टम बेकार पड़ी प्रोसेसिंग शक्ति को जोड़कर जटिल AI वर्कलोड, खासकर बड़े पैमाने पर मशीन लर्निंग इन्फेरेंस, को संभालता है। Apple Minions को एक गतिशील वर्चुअल GPU क्लाउड के रूप में वर्णित करता है जो कई Mac में खाली Apple Silicon GPU को एकत्र करता है, और इसके शोधकर्ता इसे पहले से ही इन-हाउस उपयोग कर रहे हैं।

इसका मूल विचार सरल है। Mac में शक्तिशाली GPU होते हैं जो अधिकतर समय खाली रहते हैं, खासकर रोजमर्रा के कंप्यूटिंग कार्यों के दौरान। Minions इस बेकार GPU क्षमता को काम में लगाने के लिए बनाया गया है, जिससे कम उपयोग में आने वाले Mac AI के लिए तैयार मशीनों के क्लस्टर में बदल जाते हैं। Mac mini और Mac Studio दोनों Thunderbolt 5 कनेक्शन के जरिए Remote Direct Memory Access (RDMA) से क्लस्टरिंग का समर्थन करते हैं, जिससे कई मशीनों की कंप्यूट और मेमोरी को एक ही वर्कलोड के लिए जोड़ा जा सकता है। Minions इसी अवधारणा का विस्तार है।

Apple के दस्तावेज़ में चार मुख्य घटकों का वर्णन है। Minions Server केंद्रीय समन्वयक के रूप में काम करता है, वेब इंटरफ़ेस और API के माध्यम से अनुरोध संभालता है और जॉब को PostgreSQL मेटाडेटा स्टोर में कतार में रखता है। Minion Executors macOS डिवाइस पर चलते हैं, स्थानीय Apple Silicon GPU पर उप-कार्य करते हैं और परिणाम स्टोरेज में लिखते हैं। यदि कनेक्टिविटी या बिजली की विफलता जैसी कोई समस्या आती है, तो Minion Watchdog जॉब को दूसरी मशीन पर फिर से कतार में डाल देता है। एक डैशबोर्ड पूरी प्रक्रिया की रीयल-टाइम निगरानी प्रदान करता है।

Apple का कहना है कि उसके परीक्षणों में, जिन इन्फेरेंस जॉब को पहले 10 घंटे से अधिक लगते थे, वे अब कुछ ही मिनटों में पूरे हो रहे हैं, बिना अतिरिक्त इन्फ्रास्ट्रक्चर के और आसानी से स्केल करने के विकल्प के साथ। व्यवसायों के लिए, नया हार्डवेयर खरीदे बिना प्रोसेसिंग समय घटाना स्पष्ट लाभ है, खासकर जब कीमतें लगातार बढ़ रही हैं।

Apple telah merinci sistem baru bernama Minions, yang memanfaatkan GPU yang menganggur di Mac Apple Silicon untuk membentuk cloud GPU virtual. Sistem ini menggabungkan daya pemrosesan yang belum termanfaatkan untuk menangani beban kerja AI yang kompleks, terutama inferensi machine learning berskala besar. Apple menggambarkan Minions sebagai cloud GPU virtual dinamis yang mengagregasi GPU Apple Silicon yang menganggur di berbagai Mac, dan para peneliti Apple sudah menggunakannya secara internal.

Gagasan dasarnya sederhana. Mac memiliki GPU yang kuat tetapi sebagian besar waktunya menganggur, terutama saat tugas komputasi sehari-hari. Minions dirancang untuk memanfaatkan kapasitas GPU yang tidak terpakai tersebut, mengubah Mac yang kurang dimanfaatkan menjadi kelompok mesin yang siap untuk AI. Baik Mac mini maupun Mac Studio mendukung klastering melalui Remote Direct Memory Access (RDMA) dengan koneksi Thunderbolt 5, yang memungkinkan komputasi dan memori dari beberapa mesin digabungkan untuk satu beban kerja. Minions memperluas konsep ini.

Dokumentasi Apple menjelaskan empat komponen utama. Minions Server bertindak sebagai koordinator pusat, menangani permintaan melalui antarmuka web dan API, serta mengantrekan tugas di penyimpanan metadata PostgreSQL. Minion Executor berjalan di perangkat macOS, menjalankan subtugas menggunakan GPU Apple Silicon lokal, dan menuliskan hasilnya ke penyimpanan. Jika terjadi kegagalan, seperti gangguan koneksi atau listrik mati, Minion Watchdog akan mengantrekan ulang tugas tersebut untuk dijalankan di mesin lain. Dasbor menyediakan pemantauan real-time atas seluruh proses.

Apple menyatakan bahwa pengujiannya menunjukkan sejumlah tugas inferensi yang sebelumnya memakan waktu lebih dari 10 jam kini selesai dalam hitungan menit, tanpa infrastruktur tambahan dan dengan jalur skalabilitas yang mudah. Bagi bisnis, memangkas waktu pemrosesan tanpa membeli perangkat keras baru tentu menjadi keuntungan yang jelas, terutama ketika harga terus naik.

Appleは、Apple Silicon搭載Macの遊休GPUを活用して仮想GPUクラウドを構築する新システム「Minions」の詳細を発表しました。このシステムは、未活用の処理能力を組み合わせて、複雑なAIワークロード、特に大規模な機械学習推論を処理します。Appleは、Minionsを複数のMacにまたがる遊休Apple Silicon GPUを集約する動的な仮想GPUクラウドと説明しており、同社の研究者はすでに社内でこれを使用しています。

その基本的な考え方はシンプルです。Macには強力なGPUが搭載されていますが、特に日常的なコンピューティング作業中は、その大半の時間が遊休状態にあります。Minionsは、この使われていないGPU性能を活用するように設計されており、十分に活用されていないMacを、AI処理に対応したマシンのクラスタに変えます。Mac miniとMac Studioはどちらも、Thunderbolt 5接続を介したRemote Direct Memory Access（RDMA）によるクラスタリングに対応しており、複数のマシンの演算能力とメモリを組み合わせて単一のワークロードに割り当てることができます。Minionsはこの概念を拡張したものです。

Appleのドキュメントでは、4つの主要コンポーネントが説明されています。Minionsサーバーは中央のコーディネーターとして機能し、ウェブインターフェースとAPIを通じてリクエストを処理し、PostgreSQLのメタデータストアにジョブをキューイングします。Minion ExecutorはmacOSデバイス上で動作し、ローカルのApple Silicon GPUでサブタスクを実行して、結果をストレージに書き込みます。接続の断絶や停電などの障害が発生した場合、Minion Watchdogは失敗したジョブを別のマシンで再実行するためにキューに戻します。プロセス全体はダッシュボードでリアルタイムに監視できます。

Appleは、自社のテストにおいて、以前は10時間以上かかっていた一部の推論ジョブが数分で完了するようになったと述べています。追加のインフラを必要とせず、容易にスケールアップできる道筋もあるとのことです。企業にとって、新たなハードウェアを購入せずに処理時間を短縮できることは明白な利点であり、特に価格が上昇し続けている現在では大きな意味を持ちます。

A Apple detalhou um novo sistema chamado Minions, que usa as GPUs ociosas dos Macs com Apple Silicon para criar uma nuvem virtual de GPU. O sistema combina poder de processamento não aproveitado para lidar com cargas de trabalho complexas de IA, especialmente a inferência de aprendizado de máquina em grande escala. A Apple descreve o Minions como uma nuvem virtual de GPU dinâmica que agrega as GPUs Apple Silicon ociosas de vários Macs, e seus pesquisadores já o utilizam internamente.

A ideia básica é simples. Os Macs têm GPUs poderosas que passam a maior parte do tempo ociosas, especialmente durante tarefas computacionais do dia a dia. O Minions foi projetado para colocar para trabalhar essa capacidade de GPU não utilizada, transformando Macs subutilizados em um cluster de máquinas prontas para IA. Tanto o Mac mini quanto o Mac Studio suportam clusterização por meio de Remote Direct Memory Access (RDMA) em conexões Thunderbolt 5, o que permite combinar computação e memória de várias máquinas em uma única carga de trabalho. O Minions amplia esse conceito.

A documentação da Apple descreve quatro componentes principais. Um servidor Minions atua como coordenador central, tratando as solicitações por meio de uma interface web e de APIs, e enfileirando as tarefas em um armazenamento de metadados PostgreSQL. Os Minion Executors rodam em dispositivos macOS, executam subtarefas nas GPUs Apple Silicon locais e gravam os resultados no armazenamento. Se ocorrer uma falha, como problema de conectividade ou queda de energia, o Minion Watchdog recoloca a tarefa na fila para execução em outra máquina. Um painel fornece monitoramento em tempo real de todo o processo.

A Apple afirma que seus testes mostraram que algumas tarefas de inferência que antes levavam mais de 10 horas agora são concluídas em minutos, sem infraestrutura adicional e com um caminho fácil para escalar. Para as empresas, reduzir o tempo de processamento sem comprar hardware novo é um benefício óbvio, especialmente com os preços em constante alta.

Apple представила новую систему под названием Minions, которая использует простаивающие GPU в Mac с чипами Apple Silicon для создания виртуального облака GPU. Система объединяет неиспользуемую вычислительную мощность для обработки сложных задач ИИ, в первую очередь крупномасштабного вывода моделей машинного обучения. Apple описывает Minions как динамическое виртуальное облако GPU, которое объединяет простаивающие GPU Apple Silicon на разных Mac, и её исследователи уже используют эту систему внутри компании.

Идея проста. У Mac есть мощные GPU, которые большую часть времени простаивают, особенно во время повседневных вычислительных задач. Minions предназначена для того, чтобы задействовать эту неиспользуемую мощность GPU и превратить недогруженные Mac в кластер машин, готовых к работе с ИИ. И Mac mini, и Mac Studio поддерживают кластеризацию через удалённый прямой доступ к памяти (RDMA) по соединениям Thunderbolt 5, что позволяет объединять вычислительные ресурсы и память нескольких машин для одной задачи. Minions развивает эту концепцию.

В документации Apple описаны четыре ключевых компонента. Сервер Minions выступает центральным координатором: он обрабатывает запросы через веб-интерфейс и API и ставит задания в очередь в хранилище метаданных PostgreSQL. Minion Executors работают на устройствах macOS, выполняют подзадачи на локальных GPU Apple Silicon и записывают результаты в хранилище. Если происходит сбой, например потеря соединения или отключение питания, Minion Watchdog повторно ставит задание в очередь для выполнения на другой машине. Панель мониторинга обеспечивает наблюдение за всем процессом в реальном времени.

Apple утверждает, что её тесты показали: некоторые задачи вывода, на выполнение которых раньше уходило более 10 часов, теперь завершаются за считаные минуты, без дополнительной инфраструктуры и с простым путём к масштабированию. Для бизнеса сокращение времени обработки без покупки нового оборудования — очевидное преимущество, особенно на фоне постоянного роста цен.

苹果详细介绍了一套名为Minions的新系统,它利用Apple Silicon Mac中闲置的GPU,构建一个虚拟GPU云。该系统整合了尚未被利用的处理能力,用于处理复杂的AI工作负载,尤其是大规模机器学习推理。苹果将Minions描述为一个动态虚拟GPU云,可汇聚多台Mac上闲置的Apple Silicon GPU,而苹果的研究人员已在内部使用它。

其基本理念很简单。Mac配备了强大的GPU,而这些GPU大部分时间都处于闲置状态,在日常计算任务中尤其如此。Minions旨在让这些未被使用的GPU算力发挥作用,将利用率不足的Mac变成一组可用于AI的机器集群。Mac mini和Mac Studio都支持通过Thunderbolt 5连接的远程直接内存访问(RDMA)进行集群,使多台机器的计算和内存能够合并用于同一项工作负载。Minions正是在此概念基础上的延伸。

苹果的文档描述了四个关键组件。Minions服务器充当中央协调者,通过网页界面和API处理请求,并将任务排入PostgreSQL元数据存储中。Minion Executor运行在macOS设备上,在本地Apple Silicon GPU上执行子任务,并将结果写入存储。如果发生故障,例如连接中断或断电,Minion Watchdog会将任务重新排队到另一台机器上执行。仪表板则提供整个过程的实时监控。

苹果表示,其测试显示,一些原本需要超过10小时的推理任务现在只需几分钟即可完成,无需额外基础设施,并且可以轻松扩展。对企业而言,在无需购买新硬件的情况下缩短处理时间,是一个显而易见的好处,尤其是在价格持续上涨的当下。