LFM2.5-24B-A2B: ИИ-агенты на устройстве

Сегодня мы выпускаем LFM2.5-24B-A2B — модель рассуждений на 24 млрд параметров, из которых активны лишь 2 млрд. Она создана для быстрых и приватных агентов, работающих на устройстве. Это самая крупная и последняя модель семейства LFM2.5, которое теперь охватывает два порядка величины — от LFM2.5-230M до LFM2.5-24B-A2B.

LFM2.5-24B-A2B конкурирует с Qwen3.6-35B-A3B, у которой примерно на 50% больше как общих, так и активных параметров, в пяти из восьми тестов на агентность и использование инструментов. Она набирает 48,09 в Live Claw против 38,19 и 27,69 в Automation Bench против 8,72. Поскольку на каждый токен приходится только 2B активных параметров, модель работает на устройстве до 1,7 раза быстрее сопоставимых MoE-моделей: 184 токена/с на Apple M5 Max и до 21 тыс. выходных токенов/с на одном GPU NVIDIA B300.

Базовая (LFM2.5-24B-A2B-Base) и дообученная (LFM2.5-24B-A2B) модели имеют открытые веса и уже доступны на Hugging Face и в Playground компании. Также опубликована документация по локальному запуску и тонкой настройке модели.

По сравнению с предшественником, LFM2-24B-A2B, новая модель имеет расширенный словарь и контекстное окно, масштабированное предобучение и крупномасштабное обучение с подкреплением. Это модель только для рассуждений: перед финальным ответом она формирует явную цепочку рассуждений. Такой подход выбран для того, чтобы использовать её высокую скорость декодирования и повысить качество ответов.

Источник: Hacker News · Сводку подготовил HeadlinesBriefing