控制平面 / 控制台 演示数据 · 此处没有任何真实账户
LLMPod / 生产环境 / TR-IST-01
所有系统运行正常 ⌘K

概览

最近 24 小时 · 生产环境
请求数1.84M较前一日 +8.2%
Token412M输入 118M · 输出 294M
P95 首个 Token684msP50 212 ms
活跃 Pod8/ 122 个预热 · 2 个待机
GPU 利用率67%
每分钟请求数 现在 · 976 请求/分钟
1.8k1.1k0.4k -24h-18h-12h-6h刚刚 演示数据
区域健康状况
TR-IST-01
伊斯坦布尔运行正常
欧洲
由 TR-IST-01 提供服务网络服务
MENA
由 TR-IST-01 提供服务网络服务
附加区域
容量规划计划中
Pod
Pod模型GPU状态负载
POD-018Llama 70BPRO 6000活跃
POD-024Qwen CoderPRO 6000预热
POD-031自定义PRO 6000专用
POD-007DeepSeekPRO 6000待机
POD-012WhisperPRO 6000待机
POD-009Llama 70BPRO 6000活跃
最近请求
REQ/7F39A21Llama 70B1,284 tok24 ms200
REQ/7F39A1EQwen Coder640 tok31 ms200
REQ/7F39A18嵌入212 tok9 ms200
REQ/7F39A12Llama 70B2,031 tok27 ms200
REQ/7F39A0B自定义388 tok22 ms200
REQ/7F39A05Whisper96 tok48 ms200
按模型统计 Token
Llama 70B218M
Qwen Coder104M
嵌入61M
其他29M
LLMPods 控制台 · 设计预览 返回首页 →