Apple представила новую систему под названием Minions, которая использует простаивающие GPU в Mac с чипами Apple Silicon для создания виртуального облака GPU. Система объединяет неиспользуемую вычислительную мощность для обработки сложных задач ИИ, в первую очередь крупномасштабного вывода моделей машинного обучения. Apple описывает Minions как динамическое виртуальное облако GPU, которое объединяет простаивающие GPU Apple Silicon на разных Mac, и её исследователи уже используют эту систему внутри компании.
Идея проста. У Mac есть мощные GPU, которые большую часть времени простаивают, особенно во время повседневных вычислительных задач. Minions предназначена для того, чтобы задействовать эту неиспользуемую мощность GPU и превратить недогруженные Mac в кластер машин, готовых к работе с ИИ. И Mac mini, и Mac Studio поддерживают кластеризацию через удалённый прямой доступ к памяти (RDMA) по соединениям Thunderbolt 5, что позволяет объединять вычислительные ресурсы и память нескольких машин для одной задачи. Minions развивает эту концепцию.
В документации Apple описаны четыре ключевых компонента. Сервер Minions выступает центральным координатором: он обрабатывает запросы через веб-интерфейс и API и ставит задания в очередь в хранилище метаданных PostgreSQL. Minion Executors работают на устройствах macOS, выполняют подзадачи на локальных GPU Apple Silicon и записывают результаты в хранилище. Если происходит сбой, например потеря соединения или отключение питания, Minion Watchdog повторно ставит задание в очередь для выполнения на другой машине. Панель мониторинга обеспечивает наблюдение за всем процессом в реальном времени.
Apple утверждает, что её тесты показали: некоторые задачи вывода, на выполнение которых раньше уходило более 10 часов, теперь завершаются за считаные минуты, без дополнительной инфраструктуры и с простым путём к масштабированию. Для бизнеса сокращение времени обработки без покупки нового оборудования — очевидное преимущество, особенно на фоне постоянного роста цен.
Источник: AppleInsider · Сводку подготовил HeadlinesBriefing