Plan de contrôle / Console Données de démonstration · rien ici n'est un compte réel
LLMPods / Production / TR-IST-01
Tous les systèmes sont opérationnels ⌘K

Vue d'ensemble

Dernières 24 heures · Production
Requêtes1.84M+8,2 % par rapport à la veille
Tokens412Mentrée 118 M · sortie 294 M
Premier token P95684msP50 212 ms
Pods actifs8/ 122 préchauffés · 2 en veille
Utilisation GPU67%
Requêtes par minute Maintenant · 976 req./min
1.8k1.1k0.4k -24h-18h-12h-6hà l'instant Données de démonstration
État des régions
TR-IST-01
Istanbul
Opérationnel
Europe
Desservi depuis TR-IST-01
Desservi
MENA
Desservi depuis TR-IST-01
Desservi
Région supplémentaire
Planification de la capacité
Prévu
Pods
PodModèleGPUÉtatCharge
POD-018Llama 70BPRO 6000ACTIF
POD-024Qwen CoderPRO 6000PRÉCHAUFFÉ
POD-031PersonnaliséPRO 6000DÉDIÉ
POD-007DeepSeekPRO 6000EN VEILLE
POD-012WhisperPRO 6000EN VEILLE
POD-009Llama 70BPRO 6000ACTIF
Requêtes récentes
REQ/7F39A21Llama 70B1,284 tok24 ms200
REQ/7F39A1EQwen Coder640 tok31 ms200
REQ/7F39A18Embedding212 tok9 ms200
REQ/7F39A12Llama 70B2,031 tok27 ms200
REQ/7F39A0BPersonnalisé388 tok22 ms200
REQ/7F39A05Whisper96 tok48 ms200
Tokens par modèle
Llama 70B218M
Qwen Coder104M
Embedding61M
Autres29M
Console LLMPods · aperçu du design Retour à l'accueil →