AI 工具替代方案 / mlx-serve
以下工具与 mlx-serve 同属相近场景，可按需求对比功能与定价后再决定。
查看 mlx-serve 词条 · AI 工具排行榜 2026｜热门与精选
本地模型加 Ollama 云。
NInfer 是 Apache-2.0 的 C++/CUDA 推理引擎，面向单张 RTX 5090 上的指定 Qwen 权重，提供兼容 OpenAI 与 Anthropic 的本地 API。
Anthropic 的智能体编程工具，覆盖终端、IDE、桌面和浏览器：阅读代码库、编辑文件、运行命令，并接入 MCP、技能与钩子。
阿里通义千问公开的 Qwen4 架构预览：125B 多模态 MoE、每 token 仅激活 6B，外加 51B N-gram 词表，原生 262K 上下文，输入定价 $0.16/百万 token。
