简介
OmniRoute 是一个自带账号(bring-your-own-account)的 AI 网关,把数百家提供商(其中 150+ 提供免费额度)编目在单一端点之后。Claude Code、Codex、Cursor、Cline、Copilot 等编码工具只需接入一次,即可路由到 Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等模型;配额耗尽时自动降级切换,编码不会因限流而中断。
主要特性
- 一个端点接入 380 家提供商、约 1475 个唯一对话模型 ID
- 编目 34 个周期性池中的 485 条免费额度记录,经审计的免费 token 总量约每月 16.2 亿,实时展示在仪表盘上
- 配额感知的自动降级(Quota-Share)配合实时配额遥测,限额触发时自动在提供商之间轮换
- 网关层叠加 RTK + Caveman 压缩,节省 15–95% 的 token
- 模态桥接让视觉、音频、视频走同一路由
- 支持 npm 包、Docker 容器、桌面应用或 PWA 运行;私有且本地优先
使用场景
- 把多个免费额度叠加在单一端点之后,让 Claude Code 或 Cursor 在提供商限流之间持续编码
- 通过网关级压缩削减编码智能体的 token 开销
- 借助模型发现 API 和仪表盘查找、对比可用模型与免费配额
技术特点
- 配额感知调度(Quota-Share)跟踪每个提供商的剩余预算并在免费额度间自动轮换流量;实时遥测在
/dashboard/free-tiers页面展示已用/剩余配额,其预算计算按池去重并每两周重新审计 - 在网关层叠加 RTK 与 Caveman 压缩,请求到达提供商之前剥离 15–95% 的 token,对编码工具完全透明
- 除 MCP 和 A2A 接口外,提供面向服务器部署的
serve --headless无头模式,以及供程序化模型查询的/v1/models/query发现 API - 通过 npm、Docker Hub、Electron 桌面版和 PWA 分发,全部本地优先,提供商凭据保留在本机
