-oOdUn61bDRSykk4H951SoDOHzqoOe1.png)
Hoje lançamos o LFM2.5-24B-A2B, um modelo de raciocínio de 24 bilhões de parâmetros com apenas 2 bilhões ativos, projetado para agentes rápidos e privados no dispositivo. Ele é o maior e último modelo da família LFM2.5, que agora abrange duas ordens de grandeza, do LFM2.5-230M ao LFM2.5-24B-A2B.
O LFM2.5-24B-A2B é competitivo com o Qwen3.6-35B-A3B, um modelo com cerca de 50% a mais de parâmetros totais e ativos, em cinco dos oito benchmarks de agentes e uso de ferramentas. Ele marca 48,09 no Live Claw, contra 38,19, e 27,69 no Automation Bench, contra 8,72. Como apenas 2B parâmetros são ativos por token, ele roda até 1,7× mais rápido que MoEs comparáveis no dispositivo, atingindo 184 tokens/s em um Apple M5 Max e até 21 mil tokens de saída/s em uma única GPU NVIDIA B300.
Os modelos base (LFM2.5-24B-A2B-Base) e pós-treinado (LFM2.5-24B-A2B) têm pesos abertos e estão disponíveis hoje no Hugging Face e no Playground da empresa. A documentação sobre como executar e ajustar o modelo localmente também está disponível.
Em comparação com seu antecessor, o LFM2-24B-A2B, o novo modelo traz um vocabulário e uma janela de contexto ampliados, pré-treinamento em maior escala e aprendizado por reforço em larga escala. É um modelo exclusivamente de raciocínio, que produz uma cadeia de pensamento explícita antes da resposta final, estratégia adotada para aproveitar sua alta velocidade de decodificação e melhorar a qualidade das respostas.
Fonte: Hacker News · Resumido por HeadlinesBriefing