Muse Spark Open уже доступна, и её веса публикуются как самая мощная на сегодня американская модель с открытыми весами. Модель изначально мультимодальная, имеет 816 млрд параметров всего (42 млрд активных) и контекстное окно на 1 млн токенов. Созданная для программирования и агентной работы, она хорошо справляется с долгосрочными задачами, сложной разработкой программного обеспечения и многошаговыми рассуждениями.
Впервые продвинутая модель такого класса может работать на настольном компьютере. С помощью двух Mac Studio на чипах Apple M5 Ultra и новейшего фреймворка MLX машины объединяют свою унифицированную память, чтобы разместить модель целиком. Архитектура унифицированной памяти Apple позволяет интегрированному GPU каждого M5 Ultra использовать до 512 ГБ, а пропускная способность памяти чипа в 1,2 ТБ/с быстро считывает небольшую часть, необходимую для каждого токена. Тестировщики запускали агентные рабочие процессы полностью на устройстве, в том числе вносили реальные изменения в iOS для Ice Cubes, открытого клиента Mastodon, и управляли Da Vinci Resolve от начала до конца.
Модель доступна через API-платформы, включая Baseten, Fireworks AI, Groq, Modal, Nebius, Open Router и Together AI. Веса можно скачать из Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face и Microsoft Foundry Models. Модель работает на таких движках, как SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp и Unsloth, с оптимизациями для процессоров AMD, Apple, Intel и NVIDIA. Пользовательские ядра Helion GPU в SGLang дают ускорение на уровне ядер в 1,03–3,95 раза на GPU NVIDIA и AMD.
Веса распространяются по лицензии Muse Model License с ограниченными коммерческими условиями, которая позволяет многим разработчикам использовать модель бесплатно. Было проведено дополнительное пост-обучение в области безопасности, и модель выполнила пороговые требования для выпуска, предусмотренные Meta Superintelligence Scaling Framework. Полный отчёт об оценке ожидается в ближайшее время.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing