OmniRoute

OmniRoute 是一个免费、MIT 协议的 AI 网关，放在编码智能体与数百家模型供应商之间。把 Claude Code、Codex、Cursor、OpenCode、Cline、Copilot 或 Antigravity 指到同一个本地端点，路由层负责协议翻译、配额感知回退和 token 压缩。官网与 GitHub README 写明 339 家供应商、90+ 免费档、1200+ 模型、19 种路由策略、MCP/A2A 支持，以及在 20128 端口启动的控制台。仓库创建于 2026 年 2 月 13 日，目前约有 4.89 万 Star。

核心功能

• 一个端点，多种协议：转换 OpenAI、Claude、Gemini 与 Responses API，现有工具可继续用原生客户端。
• 配额感知自动回退：某一家触达限额后，毫秒级切到下一条可用路由。
• 免费额度汇总：控制台 /dashboard/free-tiers 按池去重发布文档化免费容量（最近审计约每月 15.1 亿 token）。供应商条款变化时这个数字会上下浮动。
• Token 压缩：官方称 RTK + Caveman 叠压缩可节省 15%–95% 的合格 token，工具密集会话大约 89%。
• 本地与付费供应商并存：可混合 90+ 免费档、158 个 API Key 供应商、20 个 OAuth 编码智能体登录，以及 Ollama、LM Studio、vLLM 等 11 个本地后端。
• 开箱即用：熔断、MCP 工具、A2A、记忆、护栏、评测和桌面/PWA 客户端打在同一个二进制里。

适用场景

• 编码智能体用户：某一家额度用尽后，让 Claude Code 或 Codex 继续跑。
• 成本敏感团队：先抽干文档化免费档，再回退到便宜的付费模型。
• 自托管：网关跑在本机，API Key 留在自己机器上。
• 多工具团队：给 Cursor、Cline、Copilot、OpenCode 同一份模型目录，不必为每个应用写路由。

定价方案

OmniRoute 本身按 MIT 协议免费开源。npm install -g omniroute 即可启动 API 与控制台，无需信用卡。你只为实际上游供应商付费。不少免费档有速率限制或 ToS 约束，项目会标记其中一部分供你自行判断。

快速开始

1. 安装：npm install -g omniroute。
2. 运行 omniroute。控制台应出现在 http://localhost:20128/dashboard，API 在 :20128。
3. 在控制台接入至少一家免费供应商，起步不需要付费 Key。
4. 把编码工具的 base URL 指到 http://localhost:20128/v1，并使用控制台密钥。
5. 用 curl localhost:20128/v1/models 确认模型列表。

常见问题

15.1 亿免费 token 有保证吗？

没有。OmniRoute 发布的是实时目录根据文档化免费档算出的数字，大约每两周重审一次。供应商随时可能收缩或取消免费档。

会存储我的提示词吗？

把它当成自托管基础设施：进程跑在你的机器上。把生产流量指过去之前，先核对项目的隐私与日志设置。

和 OpenRouter 有何不同？

OpenRouter 是托管的多模型市场。OmniRoute 是开源自托管网关，可以把 OpenRouter 当作众多上游之一，并明确做免费档抽干与面向智能体的回退。

替代方案

• OpenRouter：希望别人来运维路由时的托管目录。
• CheaperInference：过剩推理产能折扣转售，不是自托管网关。
• Cloudflare AI Gateway：带缓存与分析的边缘网关，面向生产 API 而不是免费档堆叠。

使用技巧

1. 先读免费档方法说明：部分池被标了 ToS。不要假设列表里每一家都适合你的用途。
2. 先打通一个编码智能体：在 Claude Code 或 Codex 上验证回退，再迁整个栈。
3. 在工具密集任务上对比压缩：节省通常最大，但要用已知任务核对输出质量。

总结

OmniRoute 回答的是“我的编码智能体刚刚撞上限额”。如果你想要一个能在免费和付费模型之间故障转移的本地端点，装上它、接一家免费供应商，再把现有工具指到 localhost:20128/v1 即可。