Muse Spark Open kini tersedia, dan bobotnya dirilis sebagai model bobot terbuka AS paling mumpuni sejauh ini. Model ini multimodal secara native, dengan total 816B parameter (42B aktif) dan jendela konteks 1 juta token. Dirancang untuk pengodean dan pekerjaan agentik, model ini unggul dalam tugas jangka panjang, rekayasa perangkat lunak yang kompleks, dan penalaran multi-langkah.
Untuk pertama kalinya, model canggih dari kelas ini dapat berjalan di desktop. Dengan menggunakan dua Mac Studio Apple M5 Ultra dan kerangka kerja MLX terbaru, kedua mesin menggabungkan memori terpadunya untuk menampung seluruh model. Arsitektur memori terpadu Apple memungkinkan GPU terintegrasi setiap M5 Ultra menggunakan hingga 512 GB, dan bandwidth memori chip sebesar 1,2 TB/dtk cukup cepat untuk membaca potongan kecil yang dibutuhkan setiap token. Penguji menjalankan alur kerja agentik sepenuhnya di perangkat, termasuk mengirimkan perubahan iOS nyata untuk Ice Cubes, klien Mastodon sumber terbuka, serta mengoperasikan Da Vinci Resolve dari awal hingga akhir.
Model ini tersedia melalui platform API termasuk Baseten, Fireworks AI, Groq, Modal, Nebius, Open Router, dan Together AI. Bobot dapat diunduh dari Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face, dan Microsoft Foundry Models. Model ini berjalan di mesin inferensi seperti SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp, dan Unsloth, dengan optimasi untuk silikon AMD, Apple, Intel, dan NVIDIA. Kernel GPU Helion kustom di SGLang menghadirkan percepatan tingkat kernel sebesar 1,03-3,95× pada GPU NVIDIA dan AMD.
Bobot dirilis di bawah Lisensi Model Muse, yang memiliki ketentuan komersial terbatas dan memungkinkan banyak pengembang menggunakan model ini secara gratis. Pasca-pelatihan keamanan tambahan diterapkan, dan model ini memenuhi ambang batas rilis dalam Kerangka Penskalaan Superintelijen Meta. Laporan evaluasi lengkap akan segera tersedia.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing