Appleは、Apple Silicon搭載Macの遊休GPUを活用して仮想GPUクラウドを構築する新システム「Minions」の詳細を発表しました。このシステムは、未活用の処理能力を組み合わせて、複雑なAIワークロード、特に大規模な機械学習推論を処理します。Appleは、Minionsを複数のMacにまたがる遊休Apple Silicon GPUを集約する動的な仮想GPUクラウドと説明しており、同社の研究者はすでに社内でこれを使用しています。
その基本的な考え方はシンプルです。Macには強力なGPUが搭載されていますが、特に日常的なコンピューティング作業中は、その大半の時間が遊休状態にあります。Minionsは、この使われていないGPU性能を活用するように設計されており、十分に活用されていないMacを、AI処理に対応したマシンのクラスタに変えます。Mac miniとMac Studioはどちらも、Thunderbolt 5接続を介したRemote Direct Memory Access（RDMA）によるクラスタリングに対応しており、複数のマシンの演算能力とメモリを組み合わせて単一のワークロードに割り当てることができます。Minionsはこの概念を拡張したものです。
Appleのドキュメントでは、4つの主要コンポーネントが説明されています。Minionsサーバーは中央のコーディネーターとして機能し、ウェブインターフェースとAPIを通じてリクエストを処理し、PostgreSQLのメタデータストアにジョブをキューイングします。Minion ExecutorはmacOSデバイス上で動作し、ローカルのApple Silicon GPUでサブタスクを実行して、結果をストレージに書き込みます。接続の断絶や停電などの障害が発生した場合、Minion Watchdogは失敗したジョブを別のマシンで再実行するためにキューに戻します。プロセス全体はダッシュボードでリアルタイムに監視できます。
Appleは、自社のテストにおいて、以前は10時間以上かかっていた一部の推論ジョブが数分で完了するようになったと述べています。追加のインフラを必要とせず、容易にスケールアップできる道筋もあるとのことです。企業にとって、新たなハードウェアを購入せずに処理時間を短縮できることは明白な利点であり、特に価格が上昇し続けている現在では大きな意味を持ちます。
出典: AppleInsider · 要約：HeadlinesBriefing