LFM2.5-24B-A2B:快速端侧AI智能体

今天,我们发布了LFM2.5-24B-A2B,这是一款拥有240亿参数的推理模型,每个token仅激活20亿参数,专为在端侧运行快速、私密的智能体而打造。它是LFM2.5系列的最大也是最后一款模型,该系列现已横跨两个数量级,从LFM2.5-230M到LFM2.5-24B-A2B。

LFM2.5-24B-A2B在八项智能体与工具调用基准中的五项上,与Qwen3.6-35B-A3B相比具有竞争力,而后者的总参数量和激活参数量均多出约50%。在Live Claw基准上,它得分为48.09,而对方为38.19;在Automation Bench上,它得分为27.69,对方仅为8.72。由于每个token仅激活2B参数,它在端侧的运行速度比同类MoE模型快最多1.7倍,在Apple M5 Max上达到184 tokens/s,在单块NVIDIA B300 GPU上最高可达21K输出tokens/s。

基础模型(LFM2.5-24B-A2B-Base)和经过后训练的模型(LFM2.5-24B-A2B)均为开放权重,今日起已在Hugging Face和公司的Playground上提供。关于如何在本地运行和微调该模型的文档也已同步发布。

与前代产品LFM2-24B-A2B相比,新模型扩展了词表和上下文窗口,扩大了预训练规模,并采用了大规模强化学习。它是一款纯推理模型,在给出最终答案之前会生成明确的思维链,这一策略旨在充分利用其较高的解码速度并提升答案质量。

来源: Hacker News · 由HeadlinesBriefing整理摘要