O Muse Spark Open já está disponível, e seus pesos estão sendo lançados como o modelo americano de pesos abertos mais capaz até hoje. Ele é nativamente multimodal, com 816 bilhões de parâmetros no total (42 bilhões ativos) e uma janela de contexto de 1 milhão de tokens. Criado para programação e trabalho agêntico, destaca-se em tarefas de longo prazo, engenharia de software complexa e raciocínio em várias etapas.
Pela primeira vez, um modelo avançado dessa classe pode rodar em um desktop. Usando dois Mac Studios com Apple M5 Ultra e o framework MLX mais recente, as máquinas combinam sua memória unificada para armazenar o modelo inteiro. A arquitetura de memória unificada da Apple permite que a GPU integrada de cada M5 Ultra use até 512 GB, e a largura de banda de memória de 1,2 TB/s do chip lê rapidamente a pequena fatia necessária a cada token. Os testadores executaram fluxos de trabalho agênticos inteiramente no dispositivo, incluindo o envio de alterações reais para iOS no Ice Cubes, um cliente Mastodon de código aberto, e a operação do Da Vinci Resolve de ponta a ponta.
O modelo está disponível por meio de plataformas de API como Baseten, Fireworks AI, Groq, Modal, Nebius, Open Router e Together AI. Os pesos podem ser baixados do Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face e Microsoft Foundry Models. Ele roda em mecanismos como SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp e Unsloth, com otimizações para chips AMD, Apple, Intel e NVIDIA. Os kernels de GPU Helion personalizados no SGLang oferecem acelerações em nível de kernel de 1,03 a 3,95 vezes em GPUs NVIDIA e AMD.
Os pesos são distribuídos sob a Licença de Modelo Muse, que tem termos comerciais limitados e permite que muitos desenvolvedores usem o modelo gratuitamente. Um pós-treinamento de segurança adicional foi aplicado, e o modelo atendeu aos limiares de lançamento do Meta Superintelligence Scaling Framework. Um relatório completo de avaliação é esperado em breve.
Fonte: Hacker News · Resumido por HeadlinesBriefing