苹果详细介绍了一套名为Minions的新系统,它利用Apple Silicon Mac中闲置的GPU,构建一个虚拟GPU云。该系统整合了尚未被利用的处理能力,用于处理复杂的AI工作负载,尤其是大规模机器学习推理。苹果将Minions描述为一个动态虚拟GPU云,可汇聚多台Mac上闲置的Apple Silicon GPU,而苹果的研究人员已在内部使用它。
其基本理念很简单。Mac配备了强大的GPU,而这些GPU大部分时间都处于闲置状态,在日常计算任务中尤其如此。Minions旨在让这些未被使用的GPU算力发挥作用,将利用率不足的Mac变成一组可用于AI的机器集群。Mac mini和Mac Studio都支持通过Thunderbolt 5连接的远程直接内存访问(RDMA)进行集群,使多台机器的计算和内存能够合并用于同一项工作负载。Minions正是在此概念基础上的延伸。
苹果的文档描述了四个关键组件。Minions服务器充当中央协调者,通过网页界面和API处理请求,并将任务排入PostgreSQL元数据存储中。Minion Executor运行在macOS设备上,在本地Apple Silicon GPU上执行子任务,并将结果写入存储。如果发生故障,例如连接中断或断电,Minion Watchdog会将任务重新排队到另一台机器上执行。仪表板则提供整个过程的实时监控。
苹果表示,其测试显示,一些原本需要超过10小时的推理任务现在只需几分钟即可完成,无需额外基础设施,并且可以轻松扩展。对企业而言,在无需购买新硬件的情况下缩短处理时间,是一个显而易见的好处,尤其是在价格持续上涨的当下。
来源: AppleInsider · 由HeadlinesBriefing整理摘要