Plano de controle / Console Dados de demonstração · nada aqui é uma conta real
LLMPods / Produção / TR-IST-01
Todos os sistemas operacionais ⌘K

Visão geral

Últimas 24 horas · Produção
Requisições1.84M+8,2% vs. dia anterior
Tokens412Mentrada 118M · saída 294M
Primeiro token P95684msP50 212 ms
Pods ativos8/ 122 aquecidos · 2 em espera
Utilização de GPU67%
Requisições por minuto Agora · 976 req/min
1.8k1.1k0.4k -24h-18h-12h-6hagora Dados de demonstração
Saúde das regiões
TR-IST-01
IstambulOperacional
Europa
Atendida a partir de TR-IST-01Atendida
MENA
Atendida a partir de TR-IST-01Atendida
Região adicional
Planejamento de capacidadePlanejada
Pods
PodModeloGPUStatusCarga
POD-018Llama 70BPRO 6000ATIVO
POD-024Qwen CoderPRO 6000AQUECIDO
POD-031PersonalizadoPRO 6000DEDICADO
POD-007DeepSeekPRO 6000EM ESPERA
POD-012WhisperPRO 6000EM ESPERA
POD-009Llama 70BPRO 6000ATIVO
Requisições recentes
REQ/7F39A21Llama 70B1,284 tok24 ms200
REQ/7F39A1EQwen Coder640 tok31 ms200
REQ/7F39A18Embedding212 tok9 ms200
REQ/7F39A12Llama 70B2,031 tok27 ms200
REQ/7F39A0BPersonalizado388 tok22 ms200
REQ/7F39A05Whisper96 tok48 ms200
Tokens por modelo
Llama 70B218M
Qwen Coder104M
Embedding61M
Outros29M
Console do LLMPods · prévia de design Voltar à página inicial →