LFM2.5-24B-A2B

LFM2.5-24B-A2B は、ローカルハードウェア上のエージェント向けに Liquid AI が公開した、テキスト専用の公開重み推論モデルです。総パラメータ数は 240 億ですが、64 エキスパート、top-4 ルーティングの MoE により token ごとに有効なのは 24.5 億です。公式モデルカードでは、131,072 token のコンテキストとネイティブなツール呼び出しを備える LFM2.5 系列の最大かつ最後のモデルと説明されています。

向いている用途

推論とツール呼び出しを行い、データを端末または自社管理サーバーに残したいエージェントの評価候補です。Liquid は native、FP8、GGUF、ONNX、MLX を配布しているため、Transformers、vLLM、SGLang、llama.cpp、LM Studio、Apple Silicon の MLX で実行できます。重みのライセンスは Liquid AI の lfm1.0 であり、OSI ライセンスではありません。再配布や商用導入の前に条件を確認してください。

主な機能

• スパース推論：240 億の総パラメータ、24.5 億のアクティブパラメータ、40 層、MoE ブロックごとに 64 エキスパート。
• 長いエージェント文脈：131,072 token のコンテキストと 128,000 token の語彙で、複数段階のツール処理に対応。
• 関数呼び出し：モデルカードでは Python 形式が既定で、指示により JSON 形式にも切り替えられます。
• ローカル向け配布：GGUF は llama.cpp 系、ONNX はクロスプラットフォーム加速、MLX は Apple Silicon 向けです。
• 多言語入力：公式リストには日本語、中国語、英語、アラビア語、フランス語、ドイツ語、イタリア語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語が含まれます。

実用的な評価手順

公式 chat template と OpenAI 互換のローカルサーバーから始めます。型の明確な小さなツールセットを渡し、全呼び出しと結果を記録したうえで、保持したタスクで再生評価します。知識集約型の質問には検索または RAG を組み合わせてください。Liquid も、モデルを閉じた知識ベースとして扱う代わりにこの構成を推奨しています。LFM 2.5-2.6B などと、同一ハードウェアで遅延、ツール呼び出しの妥当性、文脈利用、失敗したツールからの復帰を比較します。

制限と代替案

ベンダーのベンチマークとスループットは評価の手掛かりであり、導入結果を保証しません。量子化、ランタイム、メモリ帯域、プロンプト長、ツールループ設計で速度は変わります。テキスト専用であり、ライセンスの確認も必要です。小さな常駐エージェントで足りるなら LFM 2.5-2.6B、ホスト型のコーディングワークフローなら Codex CLI を比較してください。

はじめに

公式モデルカードを読み、対応形式を選び、本番操作へ接続する前にローカルでツール利用を評価します。