LFM2.5-24B-A2B

LFM2.5-24B-A2B 是 Liquid AI 为本地硬件智能体提供的开放权重、纯文本推理模型。它有 240 亿总参数，通过 64 专家、top-4 路由的 MoE 设计，每个 token 激活 24.5 亿参数。官方模型卡将其定位为 LFM2.5 系列最大且最后一个模型，提供 131,072 token 上下文与原生工具调用。

适合什么工作

当智能体需要推理、调用工具，并把数据留在设备或自管服务器时，它是值得评估的长尾选项。Liquid 同时发布原生、FP8、GGUF、ONNX 和 MLX 版本，因此可用 Transformers、vLLM、SGLang、llama.cpp、LM Studio 或 Apple Silicon 的 MLX 运行。权重采用 Liquid AI 的 lfm1.0 许可，并非 OSI 开源许可，分发或商用前应先阅读条款。

核心能力

• 稀疏推理架构：240 亿总参数、24.5 亿激活参数、40 层，以及每个 MoE 块 64 个专家。
• 长上下文智能体：131,072 token 上下文和 128,000 token 词表，可承载多步骤工具工作流。
• 函数调用：模型卡说明默认输出 Python 风格工具调用，也可通过指令切换为 JSON 调用。
• 本地部署格式：GGUF 对应 llama.cpp 生态，ONNX 面向跨平台加速，MLX 面向 Apple Silicon。
• 多语言输入：官方语言列表包括中、英、日语以及阿拉伯语、法语、德语、意大利语、韩语、葡萄牙语、西班牙语、越南语、泰语、印尼语、印地语、俄语和波兰语。

建议的验证流程

先使用官方 chat template 和一个 OpenAI 兼容的本地服务器。给模型一组小而类型明确的工具，记录每次调用与结果，再用留出的任务集回放测试。知识密集型问题应搭配检索或网页搜索，Liquid 也明确建议这样做，而不是把模型当成封闭知识库。将延迟、工具调用合法性、上下文利用率和工具失败后的恢复能力，与 LFM 2.5-2.6B 等本地模型在同一硬件上比较。

限制与替代方案

厂商基准和吞吐数据只是评估线索，并不能保证你的部署效果；速度取决于量化、运行时、内存带宽、提示长度和工具循环设计。该模型仅处理文本，且许可需要单独审核。若较小的常驻智能体已足够，可考虑 LFM 2.5-2.6B；若需要托管代码工作流，可对比 Codex CLI。

快速开始

阅读官方模型卡，选择受支持格式，并在连接生产操作前完成本地工具调用评测。