Meta представила Muse Spark Open, который компания называет самой мощной американской моделью с открытыми весами на сегодняшний день. Для пользователей Apple Meta сообщает, что модель оптимизирована для работы на Mac Studio с чипом M5 Ultra. В блоге Meta объясняет, что Muse Spark Open изначально мультимодальна и впервые приносит передовые агентные возможности на настольные компьютеры.
Модель имеет 816 млрд параметров в целом (42 млрд активных) и контекстное окно в 1 млн токенов. Созданная для программирования и агентной работы, она отлично справляется с долгосрочными задачами, сложной разработкой программного обеспечения и многошаговыми рассуждениями. Meta говорит, что модель использует последнюю версию MLX от Apple, открытой библиотеки для работы с массивами, созданной Apple и оптимизированной для архитектуры унифицированной памяти чипов Apple. С этой версией, по словам Meta, модель была оптимизирована для Mac Studio с M5 Ultra, и "вместе они представляют собой лучший способ запускать мощную модель на собственном настольном компьютере".
Архитектура Apple позволяет интегрированному GPU M5 Ultra использовать до 512 ГБ на каждый Mac Studio, поэтому две машины способны вместить модель целиком. Пропускная способность памяти чипа в 1,2 ТБ/с достаточна, чтобы быстро считывать небольшую часть, необходимую для каждого токена, так что два Mac Studio работают как один суперкомпьютер с терабайтом унифицированной памяти. Meta тестировала агентные рабочие процессы, полностью выполняемые на устройстве, в том числе отправку реальных изменений для iOS в Ice Cubes, открытый клиент Mastodon, и сквозное управление DaVinci Resolve.
Muse Spark Open уже доступна через Hugging Face. Apple также опубликовала статью на сайте исследований в области машинного обучения, в которой отмечается, что MLX на Mac позволяет исследователям и разработчикам ИИ экспериментировать локально в приватной среде. Сотрудничество удивляет, учитывая непростую историю отношений двух компаний. Руководитель направления ИИ в Meta Александр Ванг сообщил Axios, что компании работают вместе уже несколько месяцев, и приписал бывшему руководителю Apple Дэниелу Грассу "очень большую роль" в налаживании хороших отношений между ними.
Источник: 9to5Mac · Сводку подготовил HeadlinesBriefing