YOUR MODELS, IN VIEW
模型运行状况,一目了然。
从真实调用到主动检测,在同一处查看参数、速度和异常。
供应商—
运行中任务—
近期检测—
可用组件—
检测组件
状态检查本身不调用付费模型PROVIDERS
供应商与模型
一处保存配置,分别同步到测速引擎与调用网关。
配置说明 Base URL 请填写供应商对应协议的接口根路径。保存后点击“同步组件”,查看每个组件的同步结果;网关调用与直连检测使用不同路径。
DIAGNOSTICS
了解模型的实际表现
选择检测类型与模型,参数和结果会随报告一起保留。
RUNS & REPORTS
任务与报告
保留检测条件、执行状态和原始结果,便于复查与对比。
| 检测任务 | 模型 | 状态 | 创建时间 |
|---|
LIVE CALLS
真实调用记录
查看经过 LLMIO 网关的请求。客户端直连供应商的调用不会出现在这里。
正在读取网关记录…
| 时间 | 模型 / 供应商 | 状态 | 首响应 | 输出速度 | 输入 / 输出 Token |
|---|
CONNECT YOUR CLIENT
接入现有客户端
先同步供应商,再将客户端的接口地址指向此网关,即可观察实际调用。
协议地址
这里使用网关 Token;上游 API Key 由网关按供应商配置使用。
接入前检查
- 供应商已保存,且网关同步成功。
- 客户端选择对应协议,并使用已同步的模型 ID。
- 填入左侧地址和网关 Token。
- 发送一次请求,在“真实调用”中查看参数与响应。
tok/s 表示输出速度。账户的 RPM / TPM 限额需要结合供应商控制台和实际限流响应判断。