开始对话
管理会话
上游账号池
每个账号持有独立的 Router Key 与刷新令牌,网关按可用性调度;表格里的指标只统计本机实际转发的请求。
调用凭据
下发给客户端使用的 Key;可限定可用账号范围。
用量分析 近 7 天
来自本机用量账本,按时间片分桶后聚合;与顶部积分卡(上游权威值)是两套口径。
总览
趋势
柱子按请求数画;失败请求标红。悬停任一根柱子,可看该时间片的请求、失败与 token。
按模型
同一模型走过多个倍率时,倍率列给出区间,估算消耗按每次请求各自的倍率累计。
按账号
请求最终落在哪个上游账号;失败的那次记在失败的账号上。
按凭据
按调用凭据(下发给客户端的 Key)分组,便于看是谁在用。
最近会话
来自本机 usage-state 的会话记录,可被「重置本地统计」清空;与上面的账本统计相互独立。
模型选择
点选即切换对话模型;倍率优先取 Router 真实值,读不到时标注「本地」。
账号调度
决定请求落到哪个账号,以及同一段对话会不会留在同一个账号上。保存后立即生效,已经在途的请求不受影响。
一个账号同时最多处理几个请求,满了新的请求会换到别的账号。
开启后同一段对话尽量固定在一个账号上,避免多轮问答跳号。
这个固定关系保留多久,超时后下一次请求会重新挑账号。
超时
上游迟迟不回话时,等多久放弃并换号重试。保存后立即生效,已经在途的请求不受影响。
一次普通请求最多等多久,超时就换号重试。
请求发出后,上游多久没有回应就放弃这次尝试。
流式输出中途停顿多久算卡死,超时会中断这次尝试。
网络与日志
网关监听在哪个地址、对外发出什么请求标识。大多数情况下保持默认即可。
填 127.0.0.1 只有本机能访问,填 0.0.0.0 允许局域网访问。这里只填 IP,端口在下面两行。
网关在容器里监听的端口,保存后立即换绑,已经在途的请求不会被打断。
宿主机上访问用的端口,由 compose 的端口映射决定,本页改不了。
在宿主机执行:
当前生效:读取中…
网关发给上游的客户端标识,一般不用改。
归档文件保留多少天,更早的会自动删掉。
归档文件最多占多少空间,超出时从最旧的开始删。
开启后每条记录会带上来源 IP 和浏览器标识,方便查是谁在调用。
模型回落
首选模型不可用时,自动回落到这里指定的模型。
请求日志
| 时间 | 账号 | 模型 | 结果 | 换号 | token | 耗时 | 状态 | 方法 | 路径 | 凭据 | 错误 |
|---|---|---|---|---|---|---|---|---|---|---|---|
| 加载中… | |||||||||||