LFM2.5-24B-A2B：オンデバイスAIエージェント

本日、LFM2.5-24B-A2Bを公開します。これは240億パラメータの推論モデルで、有効なパラメータはわずか20億です。デバイス上で高速かつプライベートなエージェントを動かすために開発されました。LFM2.5ファミリーの最大かつ最後のモデルであり、LFM2.5-230Mから LFM2.5-24B-A2Bまで、2桁の規模にわたるラインアップとなりました。

LFM2.5-24B-A2Bは、総パラメータ数と有効パラメータ数がおよそ50%多いQwen3.6-35B-A3Bと、エージェントやツール利用に関する8つのベンチマークのうち5つで競合する性能を示しています。Live Clawでは38.19に対して48.09、Automation Benchでは8.72に対して27.69を記録しました。トークンごとに有効なのは2Bパラメータのみのため、デバイス上では同等のMoEモデルより最大1.7倍高速に動作し、Apple M5 Maxでは184トークン/秒、単一のNVIDIA B300 GPUでは最大21Kの出力トークン/秒に達します。

ベースモデル（LFM2.5-24B-A2B-Base）と事後学習済みモデル（LFM2.5-24B-A2B）はオープンウェイトで、本日からHugging Faceと同社のPlaygroundで利用できます。ローカルでの実行方法やファインチューニングに関するドキュメントも公開されています。

前モデルのLFM2-24B-A2Bと比べると、新モデルは語彙と コンテキストウィンドウを拡張し、事前学習の規模を拡大し、大規模な強化学習を取り入れています。推論専用モデルであり、最終回答の前に明示的な思考連鎖を生成します。これは高いデコード速度を活かし、回答品質を高めるための戦略です。

出典: Hacker News · 要約：HeadlinesBriefing