| name | relay-probe |
| version | 1.0.0 |
| description | 探测AI中转站连接性、延迟和吞吐量。支持Anthropic原生API和OpenAI兼容格式。
发送多轮测试请求,统计TTFT、P50/P95延迟、吞吐量和错误率。
Use when: "测试中转站", "probe relay", "test api", "延迟测试", "中转站速度".
|
| allowed-tools | ["Bash","Read","Write","AskUserQuestion"] |
/relay-probe — AI中转站探测
使用方法
探测中转站的连接质量,包括延迟、吞吐量、错误率。
快速探测(单个端点)
curl -w "\nTTFB: %{time_starttransfer}s\nTotal: %{time_total}s\n" \
-X POST "$RELAY_URL/v1/messages" \
-H "Content-Type: application/json" \
-H "x-api-key: $RELAY_KEY" \
-H "anthropic-version: 2023-06-01" \
-d '{"model":"claude-sonnet-4","max_tokens":10,"messages":[{"role":"user","content":"hi"}]}'
多轮探测(使用relay-radar CLI)
npx relay-radar init
npx relay-radar probe
工作流程
- 收集信息: 询问用户要测试的中转站URL和API Key
- 快速健康检查: 发送单个请求确认端点可用
- 多轮探测: 2轮预热 + 5轮正式测试
- 分析结果: 计算统计指标
- 输出报告: 表格形式展示结果
关键指标
| 指标 | 优秀 | 良好 | 较差 |
|---|
| TTFT | <500ms | 500-2000ms | >2000ms |
| P95延迟 | <3s | 3-10s | >10s |
| 吞吐量 | >30 tok/s | 15-30 tok/s | <15 tok/s |
| 错误率 | 0% | <5% | >5% |
| 流式支持 | ✅ | - | ❌ |
注意事项
- API Key 通过环境变量传递,不要硬编码
- 如果是OpenAI兼容格式,URL应包含
/v1/chat/completions
- 测试会消耗少量token(约500 tokens/轮)
- 建议在不同时段多次测试以了解稳定性