| name | ai-routing-gateways |
| description | AI路由网关对比与选型指南。当用户需要配置备用token方案、降低成本、避免rate limit时使用。涵盖OmniRoute、9Router、LiteLLM等主流方案对比。 |
AI Routing Gateways Skill
当用户遇到以下场景时触发：
- 需要备用AI token方案
- 想避免API配额耗尽
- 想降低成本（免费/低价提供商）
- 需要自动降级路由
- Hermes Agent token超限时找替代方案
主流方案对比
| 方案 | Stars | 提供商数 | 免费数 | Token压缩 | MCP支持 | Hermes支持 | 推荐度 |
|---|
| OmniRoute | 36.7k | 290+ | 90+ | 15-95% | ✅ 104工具 | ✅ 官方 | ⭐⭐⭐⭐⭐ |
| 9Router | 24.3k | 40+ | 少量 | 20-40% | ❌ | ❌ | ⭐⭐⭐ |
| LiteLLM | 15k+ | 100+ | 视配置 | 无 | ❌ | ❌ | ⭐⭐⭐ |
| OpenRouter | 商业 | 100+ | 无 | 无 | ❌ | ❌ | ⭐⭐ |
推荐：OmniRoute
核心优势
- Hermes Agent 官方支持 — 文档明确列出
- 4层自动降级 — 订阅 → API → 低价 → 免费
- 19种路由策略 — cheapest, offline, smart, fusion等
- RTK + Caveman双引擎压缩 — 平均节省89% token
- 104个MCP工具 — 内置代理能力
- 500+贡献者 — 活跃维护
快速上手
npm install -g omniroute
omniroute
Hermes 集成配置
在 ~/.hermes/config.yaml 中添加：
model:
custom:
- name: omniroute
base_url: http://localhost:20128/v1
api_key: [从dashboard复制]
或会话内切换：
/model custom:omniroute
决策树
需要备用token方案？
├── 是，需要Hermes深度集成 → OmniRoute
├── 是，只需要简单降级 → 9Router
├── 是，已有API key → LiteLLM
└── 否，想省钱 → 查看免费提供商列表
何时使用
| 场景 | 推荐方案 | 理由 |
|---|
| Hermes token超限 | OmniRoute | 官方支持，零配置 |
| 多工具并行开发 | OmniRoute | 19路由策略，104MCP工具 |
| 简单备用 | 9Router | 更轻量，配置简单 |
| 已有付费订阅 | LiteLLM | 管理多key，成本透明 |
| 不想自建 | OpenRouter | 现成服务，但收费 |
关键指标解读
- RTK (Real-Time Knowledge): 智能工具输出过滤，压缩git diff/grep结果
- Caveman: 压缩算法，牺牲少量质量换取大幅token节省
- Auto-Combo: 自动组合多个提供商，按配额/成本/延迟动态选择
- Circuit Breaker: 故障自动切换，避免单个提供商失败
参考资料
