把十几家模型厂商的免费额度手动攒成一份能用的资源,往往意味着要记住十几套密钥、盯住十几套限流规则,还要时刻担心某一家悄悄改了政策。OmniRoute 把这件琐碎的事收拢成一个统一的免费 AI 网关:它不发放模型,也不替你注册账号,而是让你带上自己的服务商凭据,把分散的额度按一个端点统一路由出去。项目本身的定位相当克制——自带账号、按池去重、把可核验的额度算清楚,再把结果摊在面板上给人看。创建者 Diego Souza 给它的标签是免费 AI 网关,围绕它堆起来的却是一整套实打实的工程能力:从按池去重的额度核算,到本地优先的部署形态,再到命令行与智能体协议的完整支持。对一个想省下真金白银、又不想被单一供应商绑住的开发者来说,它更像一个把复杂度吃掉的中间层,而不是又一层需要重新学习的黑箱。下面按功能、场景、上手和边界几个角度把它拆开讲清楚。
OmniRoute是什么?
OmniRoute 是一个由 Diego Souza 创建、以本地优先为底色的免费 AI 网关,主要用来把多家第三方服务商的免费额度聚合成一个可统一调用的路由端点,服务于手里握着若干免费账号、却苦于逐家配置 SDK 与限流规则的开发者和小团队。它自己不发放 token,也不代你注册任何服务:你带来自己的 provider 账号与凭据,它负责把分散的额度按共享池去重、算清可用量,再从一个入口转发出去。项目当前版本已推进到 v3.8.55+,目录里登记了 394 家服务商,其中 153 家被标为免费。它关心的是把别人已经给你的东西管好,而不是凭空许诺资源,这种务实的取向也贯穿在它随后公开的每一项能力里。

核心功能
- 免费额度聚合——把 465 个免费额度条目按 34 个循环池键重新归并,17 个公布月度预算的池加上 5 项 Groq 单模型上限按共享池去重后,算出约 16.2 亿 token 的月度聚合估算,让散落各家的额度变成一眼能看懂的总量。
- 统一路由端点——装好之后只需连接一家服务商,就能通过同一个出口把请求转发出去,省掉为每家单独维护一套 SDK 和鉴权代码的重复劳动。
- 自动省 token——按项目宣称的机制自动压缩调用开销,官方给出的节省区间是 15% 到 95%,把省钱这件事从人工调配变成默认行为。
- 多模态桥接——除文本之外还打通了视觉、音频与视频的模态转换,同一条链路里可以处理不同形态的输入,不必为每种媒介另搭一套管线。
- 本地优先与隐私——优先在本机运行,数据和凭据留在自己手里,适合对出网和留存有顾虑的使用场景,也让调试过程更可控。
- 完整协议支持——提供完整的命令行能力,并支持 A2A 与 MCP 协议,方便把它接进现有的自动化与智能体工作流,而不必另写适配层。
- 雷达与额度面板——Radar 提供可选的免费目录订阅,面板里的免费额度专区把实时算账结果直接摆出来,需要区域身份校验后才开放的配额单列显示,不混进总数。

使用场景
| 人群/角色 | 场景描述 | 推荐指数 |
|---|---|---|
| 独立开发者 | 手里攒了几家免费模型账号,想用一个端点统一调用,省去逐家配置 SDK 与密钥的重复劳动 | ★★★★★ |
| 小型创业团队 | 预算有限但需要跑通多模态流程,靠聚合额度撑起原型验证阶段的调用量 | ★★★★☆ |
| 本地部署爱好者 | 在意凭据与数据不出本机,希望把网关跑在自己机器或私有环境里 | ★★★★☆ |
| 智能体工作流搭建者 | 已经用命令行或 MCP、A2A 组织任务,需要一个可插拔的模型路由层 | ★★★★☆ |
| 额度精算型用户 | 关心每家免费池的真实可用量,想看清去重后的账本而不是被四舍五入的数字 | ★★★☆☆ |
操作指南
- 先到项目的主页把仓库拉下来:OmniRoute。页面里同时附带文档入口,动手前可以先扫一眼 README 了解目录结构,确认自己要用哪种安装方式,避免一上来就钻进细节。
- 按你的运行环境挑一种安装途径。项目支持 Docker、源码、pnpm 与 Arch 安装,针对 Bun 还专门给了多阶段的 Dockerfile.bun;如果你在 Bun 下跑,它会直接用内置的 bun:sqlite 驱动,在 Node.js 上则回退到 better-sqlite3 或 sql.js,选错运行时也不必担心兼容问题。
- 装好之后连接至少一家你自己的服务商账号,把凭据填进配置。记住 OmniRoute 不代你注册、也不发放额度,能用的池子完全取决于你手头实际拥有的账号,先把最熟的那一家接上最省事。
- 打开面板的免费额度专区核对一次算账结果。页面会按共享池去重后列出可用量,区域身份校验后才放开的配额会单列出来,不要把它当成已经到账的部分,也别忽略每两周一次的重审带来的浮动。
- 在命令行里发起一次最小请求,确认路由链路通了,再逐步把更多 provider 接进来。整个过程遵循项目主张的小步快跑:先跑通最短路径,再按实际需要扩展,不做多余的脚手架。
- 需要接进自动化流程时,再启用对应的命令行能力与 A2A、MCP 支持,把网关当成可插拔的一层挂到你的智能体工作流上,让上游任务只面对一个稳定的出口。
- 确认稳定后点击文档里的 立即使用 入口进入正式配置,并把免费额度面板加入日常巡检清单——这些数字每两周会按真实目录重新审计,涨落都属于正常现象,看清趋势比盯住某个瞬时值更有意义。
支持平台
从公开信息看,OmniRoute 没有单独列出某个专属客户端或小程序,而是把落点放在随处可跑这一点上:它可以用 Docker 部署,也能从源码安装,还提供 pnpm 与 Arch 的安装方式;针对 Bun 运行时准备了独立的多阶段构建文件,在 Node.js 环境下同样可用。交互层面提供完整的命令行入口,并通过 A2A 与 MCP 协议对接外部智能体。至于是否另有图形客户端或移动端应用,站方没有明确列出,实际支持范围以项目内的 Compatible CLIs & Coding Agents 章节为准。
产品定价
站方未公开价格信息,以站内为准。需要澄清的是,项目反复强调那笔约 16.2 亿 token 的月度数字并不是它自己发放的额度,而是对第三方各自免费层的估算聚合:你得自行注册、拿凭据、连上能用的服务商,每家的限额、可用性与条款都由对方掌握,网关只是把这些变量管得更清楚。
常见问题
Q:OmniRoute 会直接给我模型额度和密钥吗?
不会。它不发放 token,也不代你注册任何服务,带上自己的 provider 账号与凭据是前提。它做的是把你已经拿到的免费层按共享池去重、算清可用量,再从一个端点路由出去。所以能不能用、能用多少,最终取决于你手头实际拥有的账号,而不是安装这个网关本身。
Q:那个约 16.2 亿 token 的月度数字是怎么算出来的?
它是跨第三方免费层的估算聚合,不是 OmniRoute 的赠送额度。目录里有 465 个免费额度条目、34 个循环池键,其中 17 个池公布了正的月度预算,另加 5 项 Groq 单模型上限,按共享池去重后得出这个数。需要区域身份校验才开的配额单独列示,不并入总数;数字每两周按真实目录重审,会随供应商政策上下浮动。
Q:我的数据和密钥会不会离开本机?
项目主打本地优先,优先在你的机器上跑,凭据与数据尽量留在本地,这对有出网顾虑的场景更友好。存储层面在 Bun 下用内置的 bun:sqlite 驱动,在 Node.js 下回退到 better-sqlite3 或 sql.js。具体落盘与网络行为仍建议按项目内说明逐项核对,别把本地优先理解成绝对不联网。
开发者小结
它把价值押在两件事上:把散落的免费额度算清楚,把调用入口收拢到一处。代价是你要自己准备账号、自己承担各家政策的变动,并且接受这套按池去重的账本只反映公开可核验的部分。适合手里已有若干免费额度、愿意小步接入的开发者;如果你的诉求是开箱即用的稳定商用通道,它并不会替你解决供应商本身的限制。把它当成一个克制的中间层而不是全能平台,预期就对了。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...









