A Meta apresentou o Muse Spark Open, que ela classifica como o modelo de pesos abertos dos EUA mais capaz até hoje. Para usuários da Apple, a Meta afirma que o modelo está otimizado para rodar no Mac Studio com M5 Ultra. Em um post no blog, a Meta explica que o Muse Spark Open é nativamente multimodal e traz pela primeira vez capacidades agênticas de ponta para o desktop.
O modelo tem 816 bilhões de parâmetros no total (42 bilhões ativos) e uma janela de contexto de 1 milhão de tokens. Criado para programação e trabalho agêntico, destaca-se em tarefas de longo prazo, engenharia de software complexa e raciocínio de várias etapas. A Meta afirma que ele aproveita a versão mais recente do MLX da Apple, um framework de arrays de código aberto criado pela Apple e otimizado para a arquitetura de memória unificada do silício da Apple. Usando essa versão, a Meta diz que o modelo foi otimizado para o Mac Studio com M5 Ultra, e que "juntos, eles são a melhor forma de rodar um modelo poderoso no seu próprio desktop".
A arquitetura da Apple permite que a GPU integrada do M5 Ultra use até 512 GB por Mac Studio, então duas máquinas conseguem armazenar um modelo inteiro. A largura de banda de memória de 1,2 TB/s do chip é rápida o suficiente para ler a pequena parte que cada token precisa, e dois Mac Studio se comportam como um único supercomputador com um terabyte de memória unificada. A Meta testou fluxos de trabalho agênticos rodando inteiramente no dispositivo, incluindo o envio de alterações reais de iOS para o Ice Cubes, um cliente de Mastodon de código aberto, e a operação do DaVinci Resolve de ponta a ponta.
O Muse Spark Open já está disponível pelo Hugging Face. A Apple também publicou um artigo em seu site de pesquisa em aprendizado de máquina destacando como o MLX no Mac permite que pesquisadores e desenvolvedores de IA experimentem localmente em um ambiente privado. A parceria surpreende considerando o histórico conturbado entre as duas empresas. O chefe de IA da Meta, Alexandr Wang, disse à Axios que as empresas vêm trabalhando juntas há vários meses e atribuiu ao ex-executivo da Apple Daniel Gross um "papel realmente grande" em fazer as duas companhias se darem bem.
Fonte: 9to5Mac · Resumido por HeadlinesBriefing